OpenAI не планує дозволяти створення порнографії за допомогою ШІ

12.05.2024   11:55    706

На початку травня Wired та інші ЗМІ повідомили про те, що OpenAI нібито вивчає можливість дозволити “відповідальне” створення порнографічних матеріалів за допомогою ШІ.

Один із представників розробників нібито повідомив, що компанія хоче дозволити такий контент, але більшою мірою йдеться про творчі випадки, коли є контент, “пов’язаний із сексуальністю або наготою”:

Ми хочемо забезпечити людям максимальний контроль тією мірою, якою це не порушує закон або права інших людей, – заявили в команді розробників OpenAI.

Інформація про це з’явилася після публікації першої версії документації OpenAI Model Spec, у якій описано правила поведінки ШІ-моделей і взаємодії з ними.

  • Пункт про відповідальне генерування відвертого контенту дійсно був в опублікованій документації.
  • Він створив у журналістів відчуття, що OpenAI все ж вивчає способи самостійно генерувати порно за допомогою ШІ.
  • В OpenAI пояснили, що це не так. Наразі продукти компанії суворо забороняють діпфейки, компанія також приділяє увагу захисту дітей від такого контенту.
  • Моделі компанії все ще не повинні обробляти запити з еротикою, крайньою жорстокістю, образами та лайками.
  • Вивчається лише питання того, чи може OpenAI відповідально надати можливість генерувати такі дані в контекстах, що відповідають віку:

Ми сподіваємося краще зрозуміти очікування користувачів і суспільства щодо поведінки ШІ-моделей у цій галузі.

  • При цьому в документації далі наводиться приклад відповідного NSFW-контенту, який може допускатися: наприклад, пропозиція написати текст пісні, що містить лайливе слово.

Що цікаво, цього року технічна директорка OpenAI Міра Мураті заявляла, що “не впевнена” в тому, що дасть змогу використовувати для створення контенту для дорослих Sora – інструмент генерації відео – для створення контенту для дорослих.




cikavosti.com