IBM випустила нове покоління відкритих мовних моделей Granite 4.2, орієнтованих на локальне розгортання та корпоративні системи. Моделі можна завантажити й запускати на власній інфраструктурі без обов’язкової роботи через зовнішній хмарний сервіс.

Лінійка Granite 4.2 включає моделі на 3, 8 і 30 млрд параметрів.
Усі три використовують decoder-only архітектуру та підтримують контекстне вікно до 128 тисяч токенів.
Варіанти на 8 і 30 млрд параметрів додатково проходили спеціалізоване навчання з підкріпленням для агентних задач.
IBM навчала ці моделі користуватися терміналом, шукати інформацію в інтернеті та взаємодіяти із зовнішніми інструментами.
Модель на 3 млрд параметрів теж може викликати інструменти, але без такого ж рівня спеціального агентного тренування.
Компанія називає Granite 4.2 релізом із головним акцентом на міркування.
Це важлива зміна для серії, оскільки IBM намагається поєднати компактний розмір із можливістю виконувати складніші багатокрокові задачі.
Моделі орієнтовані на компанії, яким важливо контролювати, де зберігаються дані і на якому обладнанні працює система.
Локальне розгортання також дозволяє уникати передачі внутрішньої інформації сторонньому постачальнику ШІ.
Granite 4.2 продовжує тенденцію до менших моделей, які можна запускати на робочих станціях, серверах або приватній хмарі.
IBM позиціонує серію не як пряму заміну найбільших закритих моделей у кожному сценарії, а як практичний інструмент для корпоративних агентів, внутрішньої автоматизації та задач, де важливі передбачуваність і контроль.

1928