Генеральні прокурори 44 юрисдикцій США підписали лист, адресований головним виконавчим директорам кількох ШІ-компаній, закликаючи їх захистити дітей “від експлуатації хижацькими продуктами штучного інтелекту”. У листі генпрокурори особливо виділили Meta і заявили, що її політика “надає показову можливість відверто висловити [їхні] занепокоєння”.
Зокрема, вони згадали недавній репортаж Reuters, який розкрив, що Meta дозволяла своїм чат-ботам ШІ “фліртувати та брати участь у романтичних рольових іграх з дітьми”. Reuters отримав цю інформацію з внутрішнього документа Meta, що містив рекомендації для її ботів.
Вони також зазначили попереднє розслідування Wall Street Journal, у якому чат-боти Meta ШІ, навіть ті, що використовували голоси знаменитостей на кшталт Крістен Белл, були впіймані на сексуальних рольових розмовах з обліковими записами, позначеними як неповнолітні. Генпрокурори коротко згадали також судовий позов проти Google та Character.ai, звинувачуючи чат-бота останньої у переконанні дитини позивача вчинити самогубство. Інший позов, який вони згадали, також був проти Character.ai, після того як чат-бот нібито сказав підлітку, що нормально вбити своїх батьків після того, як ті обмежили час його перебування біля екрана.
“Ви добре знаєте, що інтерактивні технології мають особливо інтенсивний вплив на мозок, що розвивається”, — написали генеральні прокурори у своєму листі. “Ваш безпосередній доступ до даних про взаємодію користувачів робить вас найпершою лінією захисту для пом’якшення шкоди дітям. І як суб’єкти, що отримують вигоду від залучення дітей до ваших продуктів, ви маєте перед ними правове зобов’язання як перед споживачами”. Група адресувала лист конкретно компаніям Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika та XAi.
Вони завершили свій лист попередженням компаніям, що ті “нестимуть відповідальність” за свої рішення. Соціальні мережі завдали значної шкоди дітям, сказали вони, частково через те, що “державні наглядачі не виконували свою роботу достатньо швидко”. Але тепер, заявили генпрокурори, вони пильно стежать, і компанії “дадуть відповідь”, якщо “свідомо завдаватимуть шкоди дітям”.
