2747
Компанія Anthropic оприлюднила доопрацьований реєстраційний документ за формою S-1/A. Окрім фінансової звітності, технокомпанія розповіла про майбутнє штучного інтелекту та спрогнозувала наближення ери рекурсивного самовдосконалення (Recursive Self-Improvement, RSI).
Що означає рекурсивне самовдосконалення
Суть RSI полягає в тому, що нейромережа досягає такого рівня майстерності у власній оптимізації та доопрацюванні алгоритмів, що здатна багаторазово прискорювати власні оновлення без участі людини. Скептики та фахівці з безпеки бачать у цьому тривожний сигнал, адже неконтрольоване каскадне оновлення може вийти з-під людського контролю. Водночас оптимісти вбачають у RSI шлях до фантастичних проривів у науці, медицині та загальній продуктивності цивілізації.
Позиція компанії та питання безпеки
В Anthropic не приховують обох сторін медалі: компанія визнає як величні перспективи, так і екзистенційні загрози. Штучний інтелект уже сьогодні залучений до проєктування наступних поколінь програмного забезпечення, однак надто стрімкий темп здатен залишити запобіжники позаду. Саме тому питання пріоритетів безпеки закладені в основу фірмової концепції відповідального масштабування.
Аналітики компанії згадують випадки, коли попередні стрибки продуктивності систем вчасно не фіксувалися інженерами. За закритими даними, майбутні архітектури ось-ось перетнуть умовну межу автономного прискорення. Водночас жоден із чинних комерційних продуктів бренду цієї планки ще не подолав, а метрики продовжують ретельно вивчатися.
Чи варто панікувати
Утім, як випливає з матеріалу, панікувати зарано. Anthropic не збирається сліпо віддавати весь цикл досліджень і розробок машинам та повністю відмовлятися від людського нагляду. Навіть у разі технічної спроможності повного самозабезпечення процесів повна автономія не планується.
Водночас частка піару та маркетингового блиску в таких гучних заявах, без сумніву, присутня. Проте неймовірні темпи наукових проривів компанії змушують ставитися до подібних попереджень із максимальною серйозністю.
Джерело: itechua.com
