3720
ШІ-дата-центри дедалі частіше впираються не в кількість GPU, а в швидкість обміну даними між ними. Саме тому виробники мережевих і оптичних чипів швидко нарощують потужності, а Marvell домовилася з GlobalFoundries про розширення виробництва компонентів для високошвидкісних з’єднань.
Великі моделі тренуються на тисячах прискорювачів одночасно. Щоб вони працювали як єдина система, дані постійно переміщуються між стійками, GPU та комутаторами. Якщо мережа не встигає, дорогі прискорювачі простоюють.
Традиційні мідні з’єднання на коротких відстанях залишаються дешевими, але при зростанні швидкостей і довжини каналу дедалі важче контролювати втрати сигналу та енергоспоживання.
Оптичні технології використовують світло замість електричного сигналу й дозволяють передавати значно більше даних на великій швидкості. Саме тому вони стають ключовою частиною майбутніх AI-кластерів.
Marvell розробляє DSP, оптичні інтерфейси та інші компоненти для таких мереж. GlobalFoundries розширює виробництво фотоніки та спеціалізованих чипів, щоб задовольнити зростаючий попит.
Nvidia також дедалі більше інвестує в мережеву частину. Після купівлі Mellanox компанія фактично продає не лише GPU, а повні системи — від прискорювачів до комутаторів і високошвидкісних з’єднань.
Для операторів дата-центрів це означає, що бюджет на ШІ вже не можна оцінювати лише за кількістю GPU. Мережеве обладнання, оптика, кабелі та системи комутації стають окремою великою статтею витрат.
Саме через це стартапи та великі виробники активно шукають нові способи передавати дані між чипами з меншими втратами. У майбутніх системах продуктивність може визначатися не найшвидшим GPU, а тим, наскільки ефективно тисячі таких GPU працюють разом.
