1348
Фінтех-компанія Ramp вийшла на ринок AI-інфраструктури з окремим сервісом Router, який дає бізнесу один API для роботи одразу з кількома великими мовними моделями. Замість того щоб окремо інтегрувати OpenAI, Anthropic, xAI чи інші платформи, компанія може передавати запит Router, а система сама вирішуватиме, куди його спрямувати.
Ramp не починала цей продукт із нуля. Компанія заявляє, що вже приблизно три роки використовує власний маршрутизатор для внутрішніх AI-потреб і тепер перетворює його на окремий сервіс для зовнішніх клієнтів.
На старті Router доступний лише у США. До кінця 2026 року сам сервіс буде безкоштовним, хоча користувачі все одно сплачуватимуть вартість inference у конкретних моделях. Новим клієнтам також дають стартовий кредит на 26 доларів.
У Router уже підключені моделі OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI та Z.ai. За функціональністю сервіс нагадує OpenRouter, хоча каталог моделей у Ramp поки значно менший.
Головна ідея полягає не лише в тому, щоб дати єдиний API. Router дозволяє задавати стратегію, за якою система обиратиме модель для конкретного запиту.
Наприклад, користувач може попросити надавати перевагу дешевшим flex-тарифам або вибрати до трьох власних benchmark-показників. У такому сценарії Router має знайти модель, яка відповідає заданим умовам за якістю, швидкістю чи ціною.
Є й інший режим: прості задачі можна автоматично віддавати дешевшим моделям, а дорогі frontier-системи використовувати лише тоді, коли запит справді складний.
Для тестування різних моделей не потрібно переписувати інтеграцію. Компанія може швидко перемикати постачальника й порівнювати результат у тому самому API.
Окремий dashboard показує витрати токенів, загальну вартість, latency, кількість fallback-спроб та інші показники роботи моделей.
Важлива деталь стосується даних. За замовчуванням Router зберігає inputs, outputs і tool calls протягом року. Компанія заявляє, що видалятиме персональні дані перед використанням такого контенту для покращення продукту, але сама політика зберігання працює за принципом opt-out.
Для Ramp новий продукт має подвійний сенс. Компанія отримує доступ до швидкозростаючого ринку AI-inference і водночас може доповнити власні інструменти контролю корпоративних витрат сервісом керування витратами на нейромережі.
У червні Ramp залучила 750 млн доларів при оцінці 44 млрд. Router дає їй ще одну точку входу до клієнтів, які вже активно витрачають гроші на AI й хочуть зменшити залежність від одного постачальника моделей.
Джерело: TechCrunch
