За останній рік розвиток штучного інтелекту значно прискорився, спричинивши резонанс як серед спеціалістів із кібербезпеки, так і серед звичайних користувачів Інтернету. У той час як спеціалісти застосовують штучний інтелект (ШІ) для підвищення кібербезпеки, зловмисники використовують технологію у своїх цілях. Тож цього року очікується зростання шахрайства, схем соціальної інженерії, афер з обліковими записами, дезінформаційних кампаній та інших загроз.
У зв’язку зі зростанням інтересу до використання штучного інтелекту спеціалісти ESET підготували перелік основних схем, які можуть використовувати зловмисники, а також розповіли про можливі загрози для конфіденційності та переваги використання ШІ.
Як зловмисники використовують технології ШІ
Штучний інтелект вже використовується різними типами загроз, а кількість кібератак з його застосуванням зростає з кожним роком. Найбільш небезпечною є загроза в контексті соціальної інженерії, де генеративний ШІ може допомогти зловмисникам створювати досить переконливий текст локальними мовами. Серед інших найпоширеніших схем з використанням штучного інтелекту зловмисниками:
- Обхід автентифікації: діпфейк-технологія допомагає шахраям видавати себе за користувачів під час перевірок на основі селфі та відео для створення нових облікових записів та отримання доступу до них.
- Злам корпоративної електронної пошти: штучний інтелект дозволяє обманом змусити жертву перевести кошти на обліковий запис під контролем шахрая. Також можуть використовуватися аудіо та відео діпфейки, щоб замаскуватися під генеральних директорів та інших керівників під час телефонних дзвінків та онлайн-зустрічей.
- Шахрайство з видаванням себе за іншу особу: програми, створені на базі великих мовних моделей (LLM), відкриють нові можливості для шахраїв. Завдяки даним, отриманих із зламаних або загальнодоступних облікових записів у соцмережах, шахраї можуть видати себе за жертву віртуального викрадення та інших афер, призначених для обману друзів та близьких.
- Афери з впливовими особами: у 2025 році очікується використання шахраями технології ШІ для створення підроблених або дублюючих облікових записів знаменитостей, впливових осіб та інших відомих людей у соцмережах. Зокрема зловмисники можуть опублікувати діпфейк-відео, щоб заманити підписників поділитися особистою інформацією та грошима.
- Дезінформація: кіберзлочинці будуть використовувати штучний інтелект для створення підробного контенту, таким чином заманюючи довірливих користувачів соцмереж слідкувати за фальшивими акаунтами. У подальшому ці користувачі можуть стати інструментом для інших операцій зловмисників.
- Злам паролів: інструменти на основі штучного інтелекту здатні за лічені секунди виманювати облікові дані для доступу до корпоративних мереж та даних, а також акаунтів користувачів.
Які загрози для конфіденційності
Крім використання штучного інтелекту як інструменту в атаках кіберзлочинців, він також може збільшити ризики витоків даних. Програми на базі великих мовних моделей потребують величезних обсягів тексту, зображень та відео для їх навчання. Часто випадково деякі з цих даних будуть конфіденційними: біометрія, медична чи фінансова інформація. Також деякі соцмережі та інші компанії можуть змінити умови надання послуг, щоб використовувати дані користувачів для навчання моделей.
Надання інформації моделі штучного інтелекту становить небезпеку для користувача через можливість зламу системи або передачі її іншим через програми, які працюють на основі LLM. Зокрема корпоративні користувачі можуть ненавмисно ділитися конфіденційною інформацією, пов’язаною з роботою, через підказки штучного інтелекту. Згідно з опитуванням, п’ята частина британських компаній випадково розкрила потенційно конфіденційні дані через використання технологій ШІ співробітниками.
У чому переваги штучного інтелекту
Штучний інтелект відіграватиме все більшу роль у роботі команд з кібербезпеки протягом цього року, оскільки він буде вбудований у нові продукти та послуги. Зокрема це допоможе:
- генерувати дані для навчання користувачів, груп безпеки та навіть інструментів з безпеки на основі ШІ;
- узагальнювати довгі та складні звіти про загрози для аналітиків та сприяти швидшому прийняттю рішень щодо інцидентів;
- підвищити продуктивність спеціалістів з безпеки шляхом автоматизації робочих процесів для розслідування та виправлення;
- сканувати великі обсяги даних на ознаки підозрілої поведінки;
- підвищувати кваліфікації ІТ-команд за допомогою функції «другого пілота», вбудованої в різні продукти, щоб зменшити ймовірність неправильних налаштувань.
Однак спеціалісти галузі ІТ повинні розуміти обмеження штучного інтелекту та важливість досвіду людини в процесі прийняття рішень. У 2025 році важливим буде баланс між людськими ресурсами та машинною роботою, щоб зменшити ризики помилок, а також потенційно негативні наслідки. Технології ШІ необхідно поєднувати з іншими інструментами та техніками для отримання оптимальних результатів.
У 2025 році штучний інтелект радикально змінить спосіб взаємодії з технологіями. Використання інструментів на основі ШІ має величезні потенційні вигоди для підприємств та окремих користувачів, але також створює нові ризики, якими необхідно керувати. Тому держава, підприємства та користувачі повинні співпрацювати, щоб використовувати потенціал штучного інтелекту, одночасно зменшуючи ризики.
