Видеокарта Nvidia Tesla H100 94 GB (900-21010-0020-000)

Видеокарта Nvidia Tesla H100 94 GB (900-21010-0020-000) представляет собой высокопроизводительный ускоритель вычислений, разработанный для самых требовательных задач в области искусственного интеллекта (ИИ), высокопроизводительных вычислений (HPC) и анализа данных. Эта модель, основанная на инновационной архитектуре NVIDIA Hopper, обеспечивает беспрецедентную производительность, масштабируемость и безопасность для центров обработки данных.

Оснащенная 94 ГБ памяти HBM3 с высокой пропускной способностью, Nvidia Tesla H100 94 GB (900-21010-0020-000) идеально подходит для работы с крупными языковыми моделями (LLM), такими как ChatGPT, и другими сложными нейронными сетями, требующими значительных объемов памяти и вычислительной мощности. Благодаря специализированному движку Transformer Engine, она значительно ускоряет обучение и инференс моделей с триллионами параметров.

Карта выполнена в форм-факторе Full-height, Full-length (FHFL) длиной 10.5 дюймов и занимает два слота, используя пассивную систему охлаждения, которая требует наличия достаточного воздушного потока в серверном шасси. Интерфейс PCI Express Gen5 x16 обеспечивает максимальную пропускную способность для обмена данными с центральным процессором и другими компонентами системы.

Основные технические характеристики:

• Архитектура GPU: NVIDIA Hopper (GH100)
• Объем памяти: 94 ГБ HBM3
• Ширина шины памяти: 6016 бит
• Пропускная способность памяти: До 3.9 ТБ/с (3938 ГБ/с)
• Интерфейс: PCI Express Gen5 x16
• Количество ядер CUDA: 14592
• Тензорные ядра: 456 (4-го поколения)
• Базовая тактовая частота GPU: 1080 МГц
• Тактовая частота GPU в режиме Boost: 1785 МГц
• Энергопотребление (TDP): Типично до 400 Вт (настраиваемое от 200 до 450 Вт)
• Форм-фактор: Full-height, Full-length (FHFL) 10.5”, двухслотовая
• Охлаждение: Пассивное (требует системного воздушного потока)
• Поддержка Multi-Instance GPU (MIG): До 7 изолированных экземпляров GPU (каждый по 12 ГБ)
• Поддержка NVLink: Да, до 600 ГБ/с (3 моста)
• Поддержка ECC: Да
• Видеовыходы: Отсутствуют (серверный ускоритель)
• Техпроцесс: 4 нм (TSMC 4N)
• Количество транзисторов: 80 миллиардов