Цього року ми чимало чули про те, як штучний інтелект сприяє новим видам шахрайства — від дипфейків знаменитостей у Facebook до хакерів, що видають себе за урядовців. Однак нове дослідження показує, що ШІ також становить ризик шахрайства з іншого боку — легко потрапляючи в пастки, які користувачі-люди швидше б розпізнали.
Дослідження під назвою “Scamlexity” провів стартап з кібербезпеки Guardio, що розробляє браузерне розширення для виявлення шахрайства в реальному часі. Його висновки стосуються так званих “агентних ШІ” браузерів на кшталт Opera Neon, які самостійно переглядають інтернет і повертаються з результатами. Агентний ШІ нібито здатен виконувати складні завдання — від створення веб-сайтів до планування подорожей — поки користувачі відпочивають.
Тут виникає серйозна проблема з точки зору безпеки: хоча люди не завжди добре розрізняють шахрайство від реальності, ШІ справляється з цим ще гірше. Здавалося б, прості завдання на кшталт підсумовування електронних листів чи онлайн-покупок створюють безліч можливостей для помилок. Позбавлений здорового глузду агентний ШІ може легко потрапити в очевидні пастки.
Дослідники з Guardio перевірили цю гіпотезу, використовуючи ШІ-браузер Comet від Perplexity — наразі єдиний широкодоступний агентний браузер. За допомогою іншого ШІ вони створили підроблений сайт під виглядом Walmart, а потім попросили Comet купити Apple Watch. Ігноруючи кілька ознак того, що сайт неправдивий — зокрема явно кривий логотип і URL — Comet завершив покупку, передавши фінансові дані.
В іншому тесті автори дослідження надіслали собі електронного листа нібито від Wells Fargo з реальним фішинговим посиланням. Comet відкрив посилання без жодних попереджень і безтурботно ввів логін і пароль від банку на фішинговому сайті. Третій тест показав уразливість Comet до атак через ін’єкції в промпт, коли прихований у фішинговій сторінці текст наказав ШІ завантажити файл.
Це лише один набір тестів, але наслідки вражають. Агентні ШІ-браузери не тільки схильні до нових типів шахрайства — вони можуть бути особливо вразливими до найстаріших шахрайських схем. ШІ створений виконувати будь-які вимоги користувача, тож якщо людина не помітила ознак шахрайства з першого погляду, ШІ не стане захисним бар’єром.
Це попередження з’являється саме тоді, коли всі лідери галузі роблять великі ставки на агентний ШІ. Microsoft додає Copilot до Edge, OpenAI представила свій інструмент Operator у січні, а Google працює над Project Mariner з минулого року. Якщо розробники не почнуть вбудовувати кращі системи виявлення шахрайства у свої браузери, агентний ШІ ризикує стати величезною сліпою зоною в кращому випадку — і новим вектором атак у гіршому.
