Як і багато інших людей, кіберзлочинці використовують штучний інтелект, щоб працювати швидше, простіше та розумніше. Завдяки автоматизованим ботам, захопленню акаунтів і соціальній інженерії, кмітливі шахраї знають, як удосконалити свою звичайну тактику за допомогою штучного інтелекту.
Новий звіт Gartner показує, як це відбувається зараз і як ситуація може погіршитися в найближчому майбутньому.
Захоплення акаунтів стало постійною сферою атак з однієї основної причини – слабкої автентифікації, вважає віце-президент-аналітик Gartner Джеремі Д’Хойнн (Jeremy D’Hoinne). Зловмисники можуть використовувати різні методи для отримання доступу до паролів облікових записів, включаючи витік даних і соціальну інженерію.
Як тільки пароль скомпрометований, в справу вступає штучний інтелект. Кіберзлочинці використовують автоматизованих ботів зі штучним інтелектом, щоб генерувати безліч спроб входу в різні сервіси. Мета полягає в тому, щоб побачити, чи використовуються ті самі облікові дані на різних платформах, а особливо на тих, які можуть виявитися прибутковими.
Знайшовши потрібний тип сайту, злочинець може зібрати всі відповідні дані для повного захоплення акаунта. Якщо хакер не хоче здійснювати атаку самостійно, він завжди може продати інформацію в даркнеті, де її роздобудуть охочі покупці.
«Захоплення облікових записів (ATO) залишається стійким вектором атак, оскільки слабкі облікові дані, такі як паролі, збираються різними способами, включаючи витоки даних, фішинг, соціальну інженерію та шкідливе програмне забезпечення», – зазначає Д’Хойнн у звіті. «Потім зловмисники використовують ботів для автоматизації шквалу спроб входу в різні сервіси в надії, що ці облікові дані будуть повторно використані на різних платформах».
Маючи в своєму арсеналі штучний інтелект, зловмисники можуть легше автоматизувати кроки, необхідні для заволодіння акаунтом. Gartner прогнозує, що в міру розвитку цієї тенденції час, необхідний для заволодіння акаунтом, скоротиться на 50% протягом наступних двох років.
Окрім допомоги у захопленні акаунтів, штучний інтелект може допомогти кіберзлочинцям у проведенні фейкових кампаній. Вже зараз зловмисники використовують поєднання тактики соціальної інженерії з підробленими аудіо- та відеоматеріалами. Телефонуючи нічого не підозрюючому співробітнику і підробляючи голос довіреної особи або керівника, шахрай сподівається обманом змусити його переказати гроші або розкрити конфіденційну інформацію.
Зафіксовано лише кілька резонансних випадків, але вони призвели до великих фінансових збитків для компаній-жертв. Виявлення фальшивого голосу все ще залишається складним завданням, особливо під час особистих голосових і відеодзвінків. Зважаючи на цю зростаючу тенденцію, Gartner очікує, що до 2028 року 40% атак соціальної інженерії будуть спрямовані на керівників, а також на загальну робочу силу.
«Організаціям доведеться йти в ногу з ринком і адаптувати процедури та робочі процеси, щоб краще протистояти атакам з використанням методів підробленої реальності», – сказав Мануель Акоста, старший директор-аналітик Gartner. «Інформування співробітників про еволюцію ландшафту загроз за допомогою тренінгів, присвячених соціальній інженерії з використанням діпфейків, є ключовим кроком».
Запобігання атакам з використанням штучного інтелекту
Як окремі особи та організації можуть запобігти таким типам атак з використанням штучного інтелекту?
«Щоб протистояти новим викликам, пов’язаним з атаками на основі ШІ, організації повинні використовувати інструменти на основі ШІ, які можуть забезпечити детальну видимість середовища в режимі реального часу і оповіщення для посилення команд безпеки», – говорить Ніколь Каріньян (Nicole Carignan), старший віце-президент з питань безпеки і стратегії ШІ в компанії Darktrace, постачальнику послуг безпеки.
«Там, де це доречно, організації повинні випереджати нові загрози, інтегруючи машинне реагування, як в автономному режимі, так і за участю людини, щоб прискорити реакцію команди безпеки», – пояснила Каріньян. «Завдяки такому підходу, впровадження технологій штучного інтелекту – таких як рішення з функціями виявлення аномалій, які можуть виявляти і реагувати на небачені раніше загрози – може бути корисним для забезпечення безпеки організацій».
Іншими інструментами, які можуть допомогти захистити ваш обліковий запис від компрометації, є багатофакторна автентифікація та біометрична верифікація, наприклад, сканування обличчя або відбитків пальців.
«Кіберзлочинці покладаються не лише на викрадені облікові дані, але й на соціальні маніпуляції, щоб зламати захист ідентичності, – каже Джеймс Скобі, директор з інформаційної безпеки компанії Keeper Security. «Діпфейки викликають особливе занепокоєння в цій сфері, оскільки моделі штучного інтелекту роблять ці методи атак швидшими, дешевшими та переконливішими. Оскільки зловмисники стають все більш витонченими, потреба в більш надійних і динамічних методах перевірки особистості – таких як багатофакторна автентифікація (MFA) і біометрія – буде життєво важливою для захисту від цих загроз, що поступово видозмінюються. MFA має важливе значення для запобігання захопленню облікових записів».
У своєму звіті Gartner також запропонував кілька порад, як протистояти соціальній інженерії та фейковим атакам.
- Навчайте співробітників. Проведіть для співробітників тренінги, пов’язані з соціальною інженерією та діпфейками. Але не покладайтеся виключно або навіть головним чином на їхню здатність виявляти їх.
- Встановіть інші заходи перевірки для потенційно ризикованих взаємодій. Наприклад, будь-які спроби запросити конфіденційну інформацію під час телефонного дзвінка до співробітника повинні перевірятися на іншій платформі.
- Використовуйте політику зворотного дзвінка. Визначте номер телефону, на який працівник може зателефонувати, щоб підтвердити чутливий або конфіденційний запит.
- Не обмежуйтесь лише політикою зворотного дзвінка. Усуньте ризик того, що один телефонний дзвінок або запит може створити проблеми. Наприклад, якщо абонент, який представляється фінансовим директором, просить переказати велику суму грошей, переконайтеся, що ця дія не може бути здійснена без консультації з фінансовим директором або іншим керівником високого рівня.
- Будьте в курсі виявлення діпфейків у режимі реального часу. Будьте в курсі нових продуктів або інструментів, які можуть виявляти діпфейки, що використовуються в аудіо- та відеодзвінках. Такі технології все ще розвиваються, тому обов’язково доповнюйте їх іншими засобами ідентифікації абонента, наприклад, унікальним ідентифікатором.
