Еротичний режим під забороною: чому OpenAI зупинила розробку Citron mode

За інформацією видання Financial Times, технологічний гігант OpenAI вирішив заморозити амбітний проєкт із впровадження «дорослого» режиму у свій популярний чат – бот. Рішення було ухвалене після того, як співробітники та інвестори висловили серйозні побоювання щодо соціальних наслідків поширення сексуалізованого контенту, створеного штучним інтелектом.

Компанія, чия капіталізація сягає $730 млрд, офіційно призупинила запуск еротичного функціонала на невизначений термін. Представники OpenAI наголосили, що наразі пріоритетом є проведення глибоких досліджень того, як відвертий контент та емоційна прив’язаність користувачів до ШІ можуть вплинути на суспільство у довгостроковій перспективі.

Проєкт, що мав внутрішню назву Citron mode, базувався на обов’язковій перевірці віку (18+). Однак впроваджена система верифікації, яка з’явилася після позовів від батьків підлітків, демонструє понад 10% помилок. Така неточність посилила страхи щодо того, що доступ до відвертого ШІ – інструменту можуть отримати неповнолітні.

Критичні зауваження експертної ради OpenAI щодо добробуту та технічних недоліків системи першою опублікувала газета The Wall Street Journal. У відповідь на критику в компанії зазначили, що їхні методи перевірки відповідають загальноприйнятим галузевим стандартам, проте робота над покращенням алгоритмів триває.

Крім етичних питань, розробники зіткнулися з технічним «опором» самих моделей: нейромережі, які роками навчали уникати табуйованих тем, вкрай важко переналаштувати на генерацію сексуальнихо підтекстів. До того ж виникли серйозні проблеми з очищенням величезних масивів даних від нелегальних матеріалів.

Сумнівне нововведення викликало резонанс на тлі глобальної критики соцмереж, зокрема Meta, через їхній вплив на дітей. Нагадаємо, торік компанія Ілона Маска xAI також намагалася залучити аудиторію дорослим контентом через модель Grok, але це закінчилося міжнародним скандалом після появи дитячого порно, згенерованого системою.

Самі працівники OpenAI розділилися у поглядах на новинку. Багато хто вважає, що стимулювання романтичних стосунків із ботом прямо суперечить головній місії компанії — створювати штучний інтелект, який приноситиме користь усьому людству, а не замінюватиме реальність.

«ШІ не має замінювати друзів чи родину — людям потрібні людські зв’язки», — так пояснив причину свого звільнення один із колишніх старших спеціалістів OpenAI.

Інвестори теж не залишилися осторонь, вбачаючи у Citron mode занадто високі репутаційні ризики при досить сумнівному потенціалі для масштабування бізнесу.

Відмова від еротичного режиму стала частиною нової стратегії OpenAI щодо фокусування на створенні «суперзастосунку» для продуктивності та програмування. У межах цієї політики 24 березня компанія також оголосила про закриття проєкту відеогенератора Sora та свого соціального додатка.