Компанія Meta нарешті розпочала рішучу боротьбу з додатками типу nudify, які використовують штучний інтелект для створення фейкових оголених та відвертих зображень знаменитостей, інфлюенсерів та інших людей. Компанія подала до суду на розробника одного з таких додатків, який активно рекламував свої сервіси у Facebook та Instagram, а також вживає нових заходів для запобігання реклами подібних послуг.

Ця кампанія розпочалася через кілька місяців після того, як дослідники та журналісти забили тривогу щодо таких додатків. Нещодавній звіт CBS News виявив щонайменше “сотні” рекламних оголошень на платформі Meta, які пропонували додатки для “видалення одягу” із зображень знаменитостей та інших людей. Один додаток, який називається Crush AI, виявився особливо активним рекламодавцем у Facebook та Instagram. Дослідник Алексіос Манцарліс, директор Ініціативи безпеки, довіри та захисту Корнельського технологічного інституту, повідомив ще у січні, що Crush AI розмістив понад 8000 рекламних оголошень у Facebook та Instagram з минулої осені.

Тепер Meta заявляє, що подала позов проти Joy Timeline HK Limited — гонконгської компанії, яка стоїть за Crush AI та іншими додатками для створення оголених зображень. “Це відбувається після численних спроб Joy Timeline HK Limited обійти процес перевірки реклами Meta та продовжити розміщення цих оголошень після їх неодноразового видалення за порушення наших правил”, — написала компанія у своєму блозі. Joy Timeline HK Limited не відповіла на запит щодо коментарів.

Meta також повідомляє про нові заходи для запобігання реклами таких додатків на своїй платформі. “Ми розробили нову технологію, спеціально призначену для виявлення цих типів реклами — навіть коли самі оголошення не містять оголеності — та використовуємо технологію співставлення, щоб швидше знаходити й видаляти копії реклами”, — зазначила Meta. “Ми працювали із зовнішніми експертами та нашими власними спеціалізованими командами, щоб розширити список термінів, фраз та емодзі, пов’язаних з безпекою, які наші системи навчені виявляти в цих оголошеннях”. Соціальна мережа також планує співпрацювати з іншими технологічними платформами, включно з власниками магазинів додатків, щоб ділитися відповідною інформацією про організації, які зловживають її платформою.

Додатки для створення оголених зображень — не єдині суб’єкти, які використовували рекламну платформу Meta для розміщення реклами з діпфейками знаменитостей. Meta також боролася з недобросовісними рекламодавцями, які використовують відео публічних осіб, змінені за допомогою ШІ, для просування шахрайських схем. Незалежна Наглядова рада компанії, яка розглядає питання модерації контенту у Facebook та Instagram, нещодавно критикувала Meta за недостатнє дотримання правил, які забороняють таку рекламу.

Ця стаття Meta розпочала боротьбу з ШІ-додатками для створення оголених зображень раніше була опублікована на сайті CyberCalm, її автор — Наталя Зарудня

Ще у 2022 році Європейська комісія оприлюднила пропозицію щодо директиви про боротьбу з домашнім насильством та насильством щодо жінок в інших формах. Тепер Європейська Рада та Парламент погодилися з пропозицією криміналізувати, серед іншого, різні види кібернасильства.

Запропоновані правила криміналізують обмін інтимними зображеннями без згоди, включаючи діпфейки, зроблені інструментами штучного інтелекту, що може допомогти запобігти поширенню порно з метою помсти. Кібер-переслідування, онлайн-переслідування, мізогінна мова ненависті та “кібер-флешінг”, тобто надсилання відвертих фотографій або відео незнайомцям без їхньої згоди, також будуть визнані кримінальними злочинами.

Комісія заявляє, що наявність директиви для всього Європейського Союзу, яка стосується цих конкретних дій, допоможе жертвам у державах-членах, які ще не криміналізували їх.

“Це нагальне питання, яке необхідно вирішити, враховуючи експоненціальне поширення і драматичний вплив насильства в Інтернеті”, – йдеться в повідомленні.

Крім того, директива вимагатиме від держав-членів розробити заходи, які допоможуть користувачам легше ідентифікувати кібернасильство і знати, як запобігти його виникненню, якщо це можливо, або як звернутися за допомогою. Директива також вимагатиме від них надати своїм громадянам онлайн-портал, на який вони зможуть надсилати повідомлення.

У своєму репортажі Politico припускає, що нещодавнє поширення порнографічних підроблених зображень з обличчям Тейлор Свіфт підштовхнуло чиновників ЄС рухатися далі з цією пропозицією. Соцмережі X навіть довелося тимчасово заблокувати пошукові запити на ім’я виконавиці після того, як зображення стали вірусними.

“Останнім огидним способом приниження жінок є поширення інтимних зображень, згенерованих штучним інтелектом за пару хвилин будь-ким, – заявила виданню віце-президент Єврокомісії Вера Юрова. “Такі фотографії можуть завдати величезної шкоди не лише поп-зіркам, але й кожній жінці, якій доведеться доводити на роботі чи вдома, що це не підробка”.

Наразі, однак, вищезгадані правила є лише частиною законопроекту, який ще мають схвалити представники країн-членів ЄС. “Остаточний закон також очікує на ухвалення в Раді та Європарламенті”, – заявили в Раді ЄС. За даними Politico, якщо все піде добре і законопроект незабаром стане законом, країни ЄС матимуть час до 2027 року, щоб запровадити нові правила.

Нагадаємо, що у 2020 році розгорівся скандал, коли в мережі опинились підроблені оголені фото понад 100 тисяч жінок. Їхній одяг прибрали з фото, які були у вільному доступі в соцмережах, за допомогою технологій штучного інтелекту та розповсюдили через Telegram.

Ця стаття ЄС хоче криміналізувати порнографічні зображення та діпфейки, створені штучним інтелектом раніше була опублікована на сайті CyberCalm, її автор — Наталя Зарудня

У мережі поширили підроблені фото понад 100 тисяч оголених жінок. Їхній одяг штучно прибрали з фото із соцмереж за допомогою технологій штучного інтелекту.

Потім фейкові фото розповсюдили через додаток для повідомлень Telegram, пише ВВС.

Деякі з цих жінок “виглядають неповнолітніми”, йдеться у доповіді, оприлюдненій безпековою компанією Sensity.

Проте відповідальні за поширення фото назвали це просто “розвагою”.

У Sensity кажуть, що для створення подібних фото використовували технологію “діпфейк бот” (deepfake bot).

Діпфейками є фото чи відео, згенеровані на комп’ютері на основі реальних зразків. Одним із напрямків використання цієї технології було створення порнографічного відео на основі зображень зірок та відомих людей.

Але, як каже керівник Sensity Джорджіо Патріні, використання приватних фото є новою тенденцією.

“Достатньо мати сторінку у соцмережах, щоб стати мішенню”, – попереджає він.

Бот у Telegram

Бот на основі штучного інтелекту “живе” у додатку приватних повідомлень Telegram. Його користувачі можуть надіслати боту фото жінки, а той безкоштовно і за лічені хвилини позбавить її одягу.

Схожий додаток закрили минулого року, але вважають, що “сірі” версії програми і досі циркулюють мережею.

Адміністратор сервісу, відомий лише як П., заявив: “Мене це не обходить. Це розвага, яка не пов’язана із насильством. Ніхто нікого не буде шантажувати цим, оскільки якість не відповідає реальності”.

Він також твердить, що розробники додатку стежать, аби зображення дітей не використовували, – “як тільки ми бачимо це, ми блокуємо користувача назавжди”.

ВВС зробило низку експериментів із приватними фото за згоди їхніх власників, але жодного разу результат не був повністю реалістичним, – був навіть випадок, коли пупок жінки опинився у неї на грудях.

Адміністратор боту також повідомив, що рішення про те, чи ділитися з іншими зображенням, отриманим з його допомогою, ухвалює сам користувач.

“У світі є війни, хвороби та інші погані речі, які нам школять”, – заявив він, спростовуючи те, що сервіс може зашкодити користувачам.

Він також заявив, що незабаром усі зображення будуть видалені.

У Telegram не відповіли на прохання про коментар.

“Контент для педофілів”

У Sensity підрахували, що за рік від липня 2019 до липня 2020 жертвами публічного “роздягання” стали 104 852 жінки.

Розслідування також показало, що деякі із зображень належали неповнолітнім, а отже, “можна припустити, що бот використовували для створення та поширення контенту для педофілів”.

У Sensity також кажуть, що роботу бота супроводжувала масована рекламна кампанія у російській соціальній мережі В контакті (VK), а дослідження самої соцмережі свідчить, що більшість її користувачів – із Росії та інших колишніх республік СРСР.

Проте у VK заявили: “Ми не дозволяємо такий контент або посилання та платформи і блокуємо тих, хто розповсюджує їх”.

До початку цього року Telegram був офіційно заборонений в Росії.

“Багато з цих сайтів чи додатків не ховаються і не працюють у підпіллі, бо вони не є офіційно протизаконними”, – пояснює Джорджіо Патріні.

“До того, як це станеться, боюся, ситуація лише погіршуватиметься”, – вважає керівник Sensity.

Автори звіту, підготовленого компанією, поділилися своїми висновками із Telegram, VK, а також відповідними правоохоронними органами, проте не отримали відповіді.

Все законно?

Ніна Шик, автор книги “Діпфейки та Інфокаліпсис” каже, що ті, хто створюють діпфейки, живуть і працюють по всьому світу, і що правоохоронці насправді лише гратимуть у “кішки-мишки” з технологіями.

“Це лише справа часу, коли цей контент стане більш витонченим. Здається, що кількість порнографії, виробленої за допомогою технології діпфейк, подвоюється щопівроку”, – каже вона.

“Наша законодавча система не готова до подібних викликів. Суспільство змінюється швидше, ніж ми собі уявляємо, саме через нові технології, і ми поки що не навчилися це регулювати”, – вважає дослідниця.

“Для жертв цієї технології це катастрофічно. Це може повністю зруйнувати їхнє життя, оскільки вони почуваються скривдженими і приниженими”.

До речі, минулого року американський штат Вірджинія став першим місцем, де діпфейки поставили поза законом.

Радимо звернути увагу на поради, про які писав Cybercalm, а саме:

Шахрайство, оманливий дизайн, або як торгові сайти змушують Вас витрачати більше?

Найпоширеніші схеми кіберзлочинців та способи захисту від них. Поради

Як користуватися спеціальними піктограмами програм на Вашому iPhone та iPad? – ІНСТРУКЦІЯ

Як перемістити програми з бібліотеки додатків на головний екран на iPhone?– ІНСТРУКЦІЯ

Чим Вам загрожує підключення невідомих USB? Поради із захисту

Як зробити Chrome веб-браузером за замовчуванням на iPhone та iPad? – ІНСТРУКЦІЯ

Кібератаки та шкідливі програми – одна з найбільших загроз в Інтернеті. Дізнайтеся з підбірки статей, як виникло шкідливе програмне забезпечення та які є його види, що таке комп’ютерний вірус, про усі види шкідливого ПЗ тощо.

До речі, дослідники розкрили подробиці про критичну уразливість в додатку Instagram для Android, експлуатація якої дозволяла віддаленим зловмисникам перехопити контроль над цільовим пристроєм шляхом відправки спеціально створеного зображення.

Цікаво знати, що кіберполіція затримала злочинну групу, яка за допомогою скімінгових пристроїв виготовляла дублікати банківських карток. Далі з цих карток знімали готівку. За це зловмисникам загрожує до 12 років ув’язнення.

Також після додавання до свого функціоналу аудіо-твітів для iOS у червні, Twitter зараз експериментує з ідеєю дозволити людям записувати та надсилати голосові повідомлення за допомогою прямих повідомлень.

Важливо знати, що хакерам вдалося обійти захист iOS 14 на пристроях, що базуються на процесорі Apple A9.

Ця стаття Небезпечні діпфейки: тисячі жінок опинилися голими і не знали про це раніше була опублікована на сайті CyberCalm, її автор — Семенюк Валентин