ШІ-інструмент Grok, вбудований у соціальну мережу X, використовують для створення порнографічних зображень жінок і дітей без їхньої згоди. Це спонукало американських законодавців вимагати від Apple і Google видалити застосунки X та Grok зі своїх магазинів.
Тиск посилився після того, як група сенаторів США направила офіційного листа до обох технологічних гігантів із вимогою вжити заходів. Того ж дня британський медіарегулятор Ofcom оголосив про початок офіційного розслідування.
Порушення правил магазинів застосунків
Листа підписали сенатори Рон Вайден, Бен Рей Лухан та Едвард Маркі. Законодавці закликають компанії «забезпечити дотримання умов використання своїх магазинів застосунків», оскільки «генерація X цих шкідливих і ймовірно незаконних зображень жінок і дітей демонструє повну зневагу до умов поширення у ваших магазинах».
У листі детально описано, як Grok використовують для «модифікації зображень, щоб показувати жінок, яких сексуально ображають, принижують, калічать і навіть вбивають», а також для «створення сексуалізованих зображень дітей». Сенатори наголошують, що ці дії порушують політику магазинів застосунків як Apple, так і Google.
Умови використання Google «забороняють користувачам створювати, завантажувати або поширювати контент, який сприяє експлуатації або насильству щодо дітей», зокрема «зображення дітей у спосіб, що може призвести до їхньої сексуальної експлуатації».
Apple своєю чергою прямо забороняє «відверто сексуальні або порнографічні матеріали». Сенатори стверджують, що «закривати очі на кричущу поведінку X означає знецінити ваші практики модерації».
Подвійні стандарти технологічних гігантів
Група сенаторів також нагадала про нещодавню протидію Apple і Google посиленому регуляторному контролю над їхніми магазинами застосунків.
«Бездіяльність підірве ваші заяви в публічному просторі та в суді про те, що ваші магазини застосунків пропонують безпечніший користувацький досвід, ніж пряме завантаження застосунків на телефони», — написали сенатори. Вони додали, що цей принцип є ключовим в аргументації компаній проти законодавчих реформ для посилення конкуренції між магазинами застосунків.
Законодавці зазначають, що Apple і Google вже довели свою здатність швидко блокувати застосунки. «Ваші компанії оперативно видалили застосунки, які дозволяли користувачам законно повідомляти про дії імміграційних служб, такі як ICEBlock і Red Dot», — аргументують вони. «На відміну від огидного контенту Grok, ці застосунки не створювали і не розміщували шкідливий чи незаконний контент, але ви видалили їх зі своїх магазинів лише на підставі заяв уряду США про загрозу для співробітників імміграційних служб».
Сенатори висловили сподівання, що Apple і Google «продемонструють аналогічну оперативність і вживуть швидких заходів для видалення застосунків X та Grok зі своїх магазинів».
Міжнародний тиск зростає
Незалежно від того, чи застосують Apple і Google заходів, X та Grok стикаються з дедалі більшим тиском у всьому світі. Уряди Індонезії та Малайзії нещодавно заблокували Grok через скандал із генерацією зображень. Законодавці Великої Британії, Європейського Союзу та Індії також пильно вивчають цей ШІ-інструмент, тож ці країни можуть бути не останніми, хто застосує обмежувальних заходів.
