WhatsApp розпочав обмежене бета-тестування Scam Alert — необовʼязкової функції, яка використовує модель машинного навчання безпосередньо на пристрої для виявлення підозрілих повідомлень від невідомих контактів.
У компанії наголошують, що інструмент розроблений як доповнення до наскрізного шифрування, а не як його обхід: класифікація повідомлень відбувається виключно на пристрої, жодні дані не передаються автоматично ані WhatsApp, ані материнській компанії Meta.
Як працює Scam Alert
Після активації функції на пристрій завантажується модель, яка аналізує вхідні повідомлення на відповідність структурним та лінгвістичним ознакам відомих шахрайських схем. Модель навчено на патернах з розмов, про які користувачі скаржилися як про шахрайські.
Якщо повідомлення позначається як підозріле, попередження бачить лише отримувач — відправник не отримує жодного сповіщення. Користувач може заблокувати контакт, надіслати скаргу, проігнорувати попередження або позначити розмову як довірену, щоб подальші сповіщення для цього чату були придушені. Користувачам, які позначають чат як довірений, додатково пропонують поділитися пʼятьма останніми отриманими повідомленнями для вдосконалення точності моделі.
Захист від цільового розповсюдження моделі
Щоб виключити можливість надсилання конкретної моделі конкретному користувачеві, WhatsApp зобовʼязав реєструвати кожен випуск моделі у сторонньому незмінному реєстрі прозорості (append-only transparency ledger) перед розповсюдженням.
Кожен випуск супроводжується маніфестом із SHA-256 гешами вагових параметрів моделі та супутніх файлів. Дайджест маніфесту підписується за допомогою ключів Ed25519, які зберігає Cloudflare, а не Meta. Пристрій перевіряє цей підпис, звіряє його з реєстром і підтверджує відповідність завантажених файлів опублікованим гешам — лише після цього модель починає працювати.
Конфіденційна федеративна аналітика
Оскільки жоден вміст повідомлень не залишає пристрій, WhatsApp потребував альтернативний спосіб оцінювати працездатність функції. Для цього компанія побудувала конвеєр конфіденційної федеративної аналітики, який збирає лише дві категорії даних: кількість спрацювань попереджень та кількість дій користувачів після них (блокування, скарга чи позначення чату як довіреного).
Ці агреговані метрики обробляються у довірених середовищах виконання (TEE) на основі конфіденційних віртуальних машин, а до серверів Meta потрапляють лише анонімні агрегати з додатковим диференційним шумом приватності. Архітектура конвеєра базується на стеку PAPAYA, опублікованому на конференції USENIX NSDI 2025.
У технічному описі WhatsApp окреслює модель загроз, що охоплює зовнішніх зловмисників, скомпрометованих інсайдерів інфраструктури та ризики ланцюга постачання. Архітектура побудована так, що спроба отримати дані конкретного користувача вимагала б компрометації всієї системи.
Прозорість для користувача та дослідників
Користувачі зможуть переглядати журнал прозорості безпосередньо у застосунку — через розділ «Обліковий запис» → «Запит інформації» → «Активність Scam Alert». Журнал показує, які повідомлення були проаналізовані, результат аналізу та версію моделі.
WhatsApp також розширює програму винагород за виявлення вразливостей (Bug Bounty) на Scam Alert. Дослідники безпеки отримали доступ до ранньої APK-збірки та вагових параметрів моделі і провели стрес-тестування системи перед початком бета-випуску.
Компанія характеризує випуск як ранній технічний превʼю, а не готовий продукт. Функція продовжить розвиватися протягом бета-періоду на основі відгуків дослідників та користувачів, перш ніж стати доступною всім користувачам месенджера.
