Google Messages почав впроваджувати попередження про чутливий контент, що містить зображення оголеної натури, після того, як вперше представив цю функцію наприкінці минулого року.
Нова функція виконуватиме дві ключові дії, якщо система на основі штучного інтелекту виявить повідомлення, що містить зображення оголеного тіла: вона розмиє будь-яку з цих фотографій і видасть попередження, якщо ваша дитина спробує відкрити, надіслати або переслати їх. Нарешті, вона надасть вам і вашій дитині ресурси для отримання допомоги. Усе виявлення відбувається на пристрої, щоб гарантувати, що зображення та дані залишаються приватними.
Попередження про чутливий вміст за замовчуванням увімкнені для користувачів під наглядом і для зареєстрованих підлітків без нагляду, зазначає компанія. Батьки контролюють цю функцію для користувачів під наглядом через додаток Family Link, але підлітки у віці від 13 до 17 років без нагляду можуть вимкнути її в налаштуваннях Google Messages. Для всіх інших ця функція вимкнена за замовчуванням.
Якщо попередження про чутливий контент увімкнено, зображення розмиваються і з’являється підказка, яка дозволяє користувачеві заблокувати відправника, одночасно пропонуючи посилання на сторінку ресурсу з детальним описом того, чому оголена натура може бути шкідливою. Далі програма запитує користувача, чи він все ще хоче відкрити повідомлення, пропонуючи варіанти «Ні, не переглядати» і «Так, переглянути». Якщо робиться спроба надіслати зображення, він надає аналогічні варіанти. Таким чином, функція не повністю блокує відправлення дітьми відвертих зображень, а лише попереджає про це.
Функція працює на основі системи SafetyCore від Google, яка дозволяє класифікувати контент на пристрої за допомогою штучного інтелекту, не надсилаючи «дані, що дозволяють ідентифікувати особу, або будь-який класифікований контент чи результати на сервери Google», як заявляє компанія. Ця функція тільки почала з’являтися на пристроях Android і ще не є широко доступною, пише 9to5Google.
