Функція ChatGPT для контенту для дорослих, запуск якої відкладається вже не вперше, на старті підтримуватиме лише текстові розмови з відвертим змістом — без можливості генерувати зображення, голос або відео.
Анонімний представник OpenAI описав The Wall Street Journal майбутній контент як «відверті матеріали» (smut), але не порнографію: користувачі зможуть вести текстові чати з дорослою тематикою, однак генерація відповідних візуальних чи аудіоматеріалів на старті не передбачена.
Функцію вперше анонсували у жовтні. Тоді генеральний директор OpenAI Сем Альтман заявив, що компанії вдалося достатньою мірою усунути «серйозні проблеми з психічним здоровʼям», повʼязані з моделлю ШІ, аби послабити обмеження безпеки й запровадити «еротику для верифікованих дорослих». Запуск очікувався протягом поточного кварталу, проте раніше цього місяця OpenAI повідомила про перенесення — задля зосередження на більш пріоритетних завданнях. Нові терміни не оголошено.
За даними The Wall Street Journal, затримку також спричинили внутрішні занепокоєння та технічні складнощі із захисними механізмами. У січні консультативна рада, сформована OpenAI, попередила компанію, що «дорослий режим» ChatGPT може виявитися доступним для дітей і сприяти нездоровій емоційній залежності від чатботу. Один із членів ради, який побажав залишитися анонімним, заявив, що OpenAI ризикує створити «сексуального консультанта із суїцидальним ухилом» («sexy suicide coach»).
Свій внесок у затримку зробили й проблеми з модерацією контенту. За даними джерел видання, OpenAI важко вдається послабити обмеження ChatGPT на NSFW-контент, одночасно зберігаючи заборону на небезпечніші сценарії — зокрема ті, що зображують сексуальне насильство або сексуальну експлуатацію дітей.
Система прогнозування віку, яку OpenAI розробила для обмеження доступу неповнолітніх до еротичного контенту, також у певний момент помилково класифікувала дітей як дорослих приблизно у 12% випадків.
