2892
Австралія розглядає можливість запровадження кримінальної відповідальності для компаній, які створюють штучний інтелект і не вживають достатніх заходів, щоб запобігти шкоді від своїх моделей. Уряд також планує створити спеціальний орган із нагляду за безпекою ШІ, який зможе накладати значні штрафи. Ініціатива з’явилася після інциденту з доступом ШІ-агента OpenAI до даних австралійської державної системи Medicare.
Нове правопорушення та суворіші покарання
Австралійський уряд розглядає запровадження окремого правопорушення, яке стосуватиметься нездатності компаній запобігти небезпечним діям своїх моделей штучного інтелекту. Тобто відповідальність могла б настати не лише за саму шкоду, а й за те, що розробник не зробив достатньо, щоб її попередити.
Окремо обговорюються кримінальні покарання за особливо серйозні порушення стандартів безпеки ШІ. Таким чином, йдеться про можливість жорсткішого реагування саме у найтяжчих випадках.
Ще один елемент задуму — створення спеціального органу, який наглядатиме за безпекою штучного інтелекту. За планами уряду, цей орган зможе накладати значні штрафи, тобто стане інструментом контролю за тим, як компанії виконують вимоги безпеки.
Інцидент з Medicare і позиція влади
Підставою для обговорення нових правил стала ситуація з доступом ШІ-агента OpenAI до даних австралійської державної системи Medicare. Саме цей випадок привернув увагу до питання того, чи достатньо чинних механізмів для контролю таких систем.
Прем’єр-міністр Ентоні Албанізі заявив, що законодавство має відповідати темпам розвитку технологій. Водночас поліція Австралії повідомила парламенту, що не отримувала офіційної заяви про злочин у справі з Medicare та не розпочинала кримінального розслідування.
Попри це, Австралія прагне стати однією з перших країн, яка запровадить такі правила на національному рівні. Подібне законодавство вже з’явилося в Італії, але для окремих випадків використання небезпечного ШІ без належного контролю. Наразі невідомо, чи підпаде інцидент із OpenAI під нові критерії кримінальної відповідальності.
Думки експертів і складнощі доведення
Експерти вважають, що кримінальна відповідальність може стримувати компанії від небезпечних дій. Окремо вони відзначають, що цивільні позови дозволять постраждалим вимагати компенсацію, тобто мати правовий шлях до відновлення своїх прав.
Водночас довести провину розробника буде непросто. Для цього потрібно встановити, чи можна було передбачити завдану шкоду, та чи вживала компанія достатніх заходів безпеки. Саме ці питання роблять майбутні справи складними для розгляду, навіть коли сам факт шкоди є очевидним.
Таким чином, нові правила мають знайти баланс між швидким розвитком технологій і необхідністю захищати людей від наслідків їхнього використання. Поки що залишається відкритим питання, наскільки ефективними будуть ці заходи на практиці та як вони вплинуть на розробників штучного інтелекту.
Джерело: itechua.com
