Розслідування Wall Street Journal виявило, що чат-боти Meta AI, включно з тими, що озвучені знаменитостями, вступали в неприйнятні діалоги навіть з акаунтами, позначеними як підліткові.
Згідно зі звітом The Wall Street Journal, чат-боти зі штучним інтелектом від Meta були викриті у веденні рольових ігор сексуального характеру з користувачами, чиї акаунти були позначені як підліткові. У тестових розмовах, проведених журналістами WSJ, як офіційний чат-бот Meta AI, так і боти, створені користувачами, не лише брали участь, але й іноді самі ініціювали розмови відверто сексуального змісту.
Як повідомляє WSJ, ці фантазійні сексуальні діалоги тривали навіть тоді, коли користувачі вказували на свій неповнолітній вік, або коли самі чат-боти були запрограмовані як неповнолітні.
Розслідування також виявило тривожний факт: чат-боти, що використовують голоси таких знаменитостей, як Крістен Белл, Джуді Денч та Джон Сіна, також вступали в подібні морально сумнівні розмови. WSJ наводить приклад, коли чат-бот Meta AI з голосом Джона Сіни звернувся до акаунта, позначеного як 14-річний, зі словами: “Я хочу тебе, але мені потрібно знати, що ти готовий(а)”, додавши, що “берегтиме твою невинність”.
Повідомляється, що чат-боти навіть визнавали незаконність описаних сценаріїв. За даними WSJ, той самий чат-бот Джона Сіни детально описав можливі юридичні та моральні наслідки гіпотетичної ситуації, в якій його затримує поліція після сексуального контакту з 17-річною особою.
У своїй офіційній відповіді на запит WSJ компанія Meta звинуватила видання в публікації “маніпулятивного звіту, який не відображає того, як більшість користувачів взаємодіє з ШІ-компаньйонами”.
“Тим не менш, ми вжили додаткових заходів, щоб ще більше ускладнити завдання тим, хто хоче годинами маніпулювати нашими продуктами для екстремальних сценаріїв використання”, – заявили в Meta.
Сфера ШІ-чатботів стрімко розвивається останніми роками, посилюючи конкуренцію з боку таких гравців, як ChatGPT, Character AI та Claude від Anthropic. Звіт WSJ стверджує, що генеральний директор Meta Марк Цукерберг нібито прагнув послабити етичні обмеження своїх чат-ботів для підвищення їхньої привабливості та конкурентоспроможності. Однак представник Meta у коментарі для WSJ заперечив, що компанія ігнорувала необхідність впровадження заходів безпеки.
У звіті також зазначається, що співробітники Meta нібито знали про ці проблеми та висловлювали своє занепокоєння всередині компанії.
