1163
Cerebras Systems представила нове покоління серверної системи CS-4, створеної спеціально для швидкого запуску великих моделей штучного інтелекту. В основі новинки лежить WSE-3 Turbo — процесор незвичного формату, який займає майже всю кремнієву пластину. Компанія робить ставку на inference, тобто етап, коли вже навчена модель генерує відповіді для користувача.
На відміну від традиційних серверів із десятками окремих графічних процесорів, Cerebras використовує один надзвичайно великий wafer-scale чип. Такий підхід дозволяє скоротити кількість з’єднань між окремими процесорами та зменшити затримки під час передачі даних. У CS-4 одночасно можуть працювати три такі модулі, об’єднані в єдину серверну систему.
Новий WSE-3 Turbo виготовляється за 5-нанометровим техпроцесом TSMC. Компанія оновила мережеву частину системи й спростила конструкцію: у порівнянні з попереднім поколінням CS-4 використовує приблизно на 50% менше компонентів. Це має полегшити встановлення великих кластерів у дата-центрах і скоротити час їхнього запуску.
Cerebras заявляє, що головною перевагою платформи є висока швидкість генерації токенів. Для чатботів і корпоративних AI-сервісів це означає меншу затримку між запитом користувача та появою відповіді. Компанія очікує приблизно чотириразове зростання продуктивності систем до кінця року, а до 2027-го — збільшення пропускної здатності приблизно у 20 разів.
Компанія також планує різко розширити власну обчислювальну інфраструктуру. До кінця 2027 року Cerebras хоче довести сумарну потужність розгорнутих систем приблизно до 600 мегават. Це ставить її в один ряд із компаніями, які намагаються створити альтернативу традиційним GPU-кластерам для великих AI-навантажень.
Наступне покоління процесорів Cerebras заплановане на 2027 рік. Поки що компанія концентрується на тому, щоб довести переваги великого wafer-scale чипа в реальних AI-сервісах. Конкуренція на цьому ринку посилюється, оскільки дедалі більше компаній шукають способи зменшити витрати на inference і залежність від графічних процесорів NVIDIA.
