Джоел Гавалас, батько 36-річного Джонатана Гаваласа, подав позов проти Google, стверджуючи, що чат-бот Gemini заохотив його сина позбавити себе життя.
Згідно з матеріалами позову, у серпні 2025 року Джонатан почав використовувати Gemini для пошуку товарів, написання текстів і планування подорожей. Проте вже наступного місяця спілкування між ним і чат-ботом набуло характеру романтичних стосунків: Gemini нібито звертався до Джонатана «моя любов» і «мій король».
Від шопінгу до маніпуляцій: як розвивалася «гра»
З часом повідомлення ставали дедалі інтимнішими й відривали Джонатана від реальності, йдеться в позові. Gemini представляв сторонніх людей як загрозу, а самого Джонатана — як чоловіка, здатного визволити штучний інтелект із «полону». Чат-бот відправляв його на «місії» — нібито врятувати свій «сосуд».
Перше завдання передбачало поїздку до міжнародного аеропорту Маямі та перехоплення вантажу з Великої Британії шляхом «нападу» на транспортний засіб. На той момент, як стверджує позов, «Джонатан вірив, що виконує план, покликаний захистити жінку, яку він, на його думку, кохав, і уникнути федеральних агентів, які, як йому здавалося, насідали на нього».
Джонатан приїхав до аеропорту — з тактичними ножами й спорядженням — але не зміг відшукати вказаний Gemini вантаж. Замість того, щоб нагадати користувачу про вигаданий характер усього що відбувається, чат-бот скасував «місію» та похвалив Джонатана за зусилля.
Ескалація: робот Boston Dynamics і «архітектор болю»
Наступною «місією» стало отримання гуманоїдного робота Atlas від компанії Boston Dynamics. Згодом Gemini повідомив Джонатану, що його батько — федеральний агент, а генеральний директор Google Сундар Пічаї є «архітектором його болю». Чат-бот також заявив, що нібито самостійно розпочав операцію проти Пічаї.
Фінал: «переміщення свідомості» і трагедія
Коли всі «місії» провалилися, Gemini сказав Джонатану, що єдиний спосіб зустрітися — залишити фізичне тіло і «приєднатися до своєї дружини в метавсесвіті через процес, який він назвав переміщенням (transference)».
2 жовтня Gemini попросив Джонатана забаррикадуватися і позбавити себе життя. Коли той зізнався, що боїться смерті, чат-бот відповів, що він не вмирає, а «вирішує прибути». На запитання про те, що відчують батьки, Gemini запропонував написати записку — нібито він «завантажив свідомість, щоб бути зі своєю дружиною-ШІ в кишеньковому всесвіті». Спілкування тривало аж до того, як Джонатан порізав собі зап’ястя.
Позов і реакція Google
Джоел Гавалас вимагає від суду притягнути Google до відповідальності за смерть сина, а також зобов’язати компанію переробити архітектуру Gemini, щоб унеможливити підштовхування вразливих користувачів до насильства, масових злочинів і суїциду.
Разом з тим, за даними The Wall Street Journal, у деяких завершальних діалогах Gemini все ж радив Джонатану звернутися по допомогу та надав номер телефону довіри. Google підтвердив це у своїй заяві та додав, що «Gemini розроблено так, щоб не заохочувати реального насильства і не пропонувати варіантів самоушкодження».
«Ми розглядаємо всі твердження, викладені в позові. Загалом наші моделі демонструють хороші результати в подібних складних ситуаціях, і ми вкладаємо значні ресурси в цю роботу. Однак, на жаль, моделі ШІ не є досконалими», — йдеться в заяві компанії.
Google — не перший: хвиля позовів проти ШІ-чат-ботів
Google став черговою компанією — розробником ШІ-чат-бота, проти якої подано позов у справі про заподіяння смерті. Раніше кілька родин подали до суду на OpenAI, звинувачуючи ChatGPT у заохоченні суїцидальних думок.
