Компанія Meta нарешті розпочала рішучу боротьбу з додатками типу nudify, які використовують штучний інтелект для створення фейкових оголених та відвертих зображень знаменитостей, інфлюенсерів та інших людей. Компанія подала до суду на розробника одного з таких додатків, який активно рекламував свої сервіси у Facebook та Instagram, а також вживає нових заходів для запобігання реклами подібних послуг.

Ця кампанія розпочалася через кілька місяців після того, як дослідники та журналісти забили тривогу щодо таких додатків. Нещодавній звіт CBS News виявив щонайменше “сотні” рекламних оголошень на платформі Meta, які пропонували додатки для “видалення одягу” із зображень знаменитостей та інших людей. Один додаток, який називається Crush AI, виявився особливо активним рекламодавцем у Facebook та Instagram. Дослідник Алексіос Манцарліс, директор Ініціативи безпеки, довіри та захисту Корнельського технологічного інституту, повідомив ще у січні, що Crush AI розмістив понад 8000 рекламних оголошень у Facebook та Instagram з минулої осені.

Тепер Meta заявляє, що подала позов проти Joy Timeline HK Limited — гонконгської компанії, яка стоїть за Crush AI та іншими додатками для створення оголених зображень. “Це відбувається після численних спроб Joy Timeline HK Limited обійти процес перевірки реклами Meta та продовжити розміщення цих оголошень після їх неодноразового видалення за порушення наших правил”, — написала компанія у своєму блозі. Joy Timeline HK Limited не відповіла на запит щодо коментарів.

Meta також повідомляє про нові заходи для запобігання реклами таких додатків на своїй платформі. “Ми розробили нову технологію, спеціально призначену для виявлення цих типів реклами — навіть коли самі оголошення не містять оголеності — та використовуємо технологію співставлення, щоб швидше знаходити й видаляти копії реклами”, — зазначила Meta. “Ми працювали із зовнішніми експертами та нашими власними спеціалізованими командами, щоб розширити список термінів, фраз та емодзі, пов’язаних з безпекою, які наші системи навчені виявляти в цих оголошеннях”. Соціальна мережа також планує співпрацювати з іншими технологічними платформами, включно з власниками магазинів додатків, щоб ділитися відповідною інформацією про організації, які зловживають її платформою.

Додатки для створення оголених зображень — не єдині суб’єкти, які використовували рекламну платформу Meta для розміщення реклами з діпфейками знаменитостей. Meta також боролася з недобросовісними рекламодавцями, які використовують відео публічних осіб, змінені за допомогою ШІ, для просування шахрайських схем. Незалежна Наглядова рада компанії, яка розглядає питання модерації контенту у Facebook та Instagram, нещодавно критикувала Meta за недостатнє дотримання правил, які забороняють таку рекламу.

Ця стаття Meta розпочала боротьбу з ШІ-додатками для створення оголених зображень раніше була опублікована на сайті CyberCalm, її автор — Наталя Зарудня