AMD выпускает графические процессоры Instinct MI350 для ускорения генеративных моделей ИИ

Новые графические процессоры AMD для задач ИИ

На мероприятии Advancing AI 2025 компания AMD представила серию графических процессоров Instinct MI350.

Новое поколение, основанное на архитектуре CDNA 4 и 3-нанометровом технологическом узле, состоит из моделей MI350X и MI355X.

Обе модели включают 288 ГБ памяти HBM3E и пропускную способность 8 ТБ/с, что позволяет обрабатывать модели с 520 миллиардами параметров на одном графическом процессоре. MI355X достигает до 20 PFLOPs в точности FP4 и FP6 с энергопотреблением до 1400 Вт.

По сравнению с моделью MI300X новая серия обеспечивает до 4 раз большую производительность при выполнении задач логического вывода и до 3,5 раз большую производительность при использовании обучающих моделей, таких как Llama 3.1 и DeepSeek R1.

Это стало возможным благодаря усовершенствованиям вычислительных блоков, увеличению пропускной способности памяти и новым типам данных, таким как FP4, FP6 и FP8.

Архитектура оптимизирована для эффективности и масштабируемости

MI350 построены на архитектуре чиплетов, состоящей из 3-нм вычислительного кристалла (XCD) и двух 6-нм входных/выходных кристаллов (IOD), соединенных с использованием гибридной технологии 3D-упаковки. Они также интегрируют четвертое поколение Infinity Fabric и 256 вычислительных блоков.

Конструкция поддерживает разделение графического процессора для множественных нагрузок и готова к работе в инфраструктурах с восемью одновременными экземплярами.