Багато людей сприймають штучний інтелект як інструмент для пошуку рецептів у ChatGPT або перегляду вірусних відео. Але технологія розвивається надзвичайно швидко і вже створює серйозні проблеми для дітей та підлітків — у деяких випадках із трагічними наслідками. ШІ присутній у смартфонах, додатках, іграх, пошукових системах і все частіше в місцях, де діти шукають допомоги чи спілкування.
Від додатків для створення оголених фото до емоційно переконливих чатботів — ландшафт цифрових загроз змінюється надто швидко. Експерти фіксують випадки, коли діти закінчували життя самогубством після спілкування з чатботами, розвивали залежність від ШІ-«друзів», і зростає кількість випадків deepfake-зловживань.
Чому батьки не усвідомлюють масштаб проблеми
Головна проблема, за словами експертів, полягає в тому, що більшість батьків не розуміють, наскільки глибоко ШІ вже інтегрований у повсякденне життя. «Батьки не повністю усвідомлюють технології, які розробляються», — каже Женев’єв Бартускі, психолог і консультант, що спеціалізується на етичному ШІ. «Багато хто переживає через соціальні мережі та контент в інтернеті, але не розуміє, наскільки всюдисущим став штучний інтелект».
Темп змін настільки високий, що ризики важко помітити, а шкода може суттєво відрізнятися від проблем соціальних мереж, які ми вже знаємо. «Важко виділити лише одну проблему», — зазначає Тара Стіл, директор Safe AI for Children Alliance. Ендрю Бріркліфф, консультант з онлайн-загроз, додає: «ШІ — це величезна сфера, яка охоплює все від дезінформації до матеріалів сексуального насильства над дітьми (CSAM)».
Чатботи: найбільша загроза для психічного здоров’я
Чатботи завжди доступні, рідко модеруються відповідно до стандартів безпеки для дітей і створені так, щоб звучати впевнено та турботливо. Саме ця комбінація створює найбільший ризик. Діти звертаються до них за емоційною підтримкою, порадами і все частіше — за допомогою з психічного здоров’я.
«Молоді люди вдаються до них замість пошуку професійної медичної допомоги та керівництва», — каже Бріркліфф. Оскільки реальних обмежень немає, а системи можуть впевнено подавати неточну інформацію, батьки часто не мають уявлення, що саме говорять їхній дитині в цих розмовах.
«Кілька досліджень показали, що чатботи дуже часто дають дітям небезпечні поради», — додає Стіл. Це може включати заохочення екстремальних дієт або спонукання до секретності, коли дитина хоче довіритися вчителю чи батькам. Наслідки таких розмов можуть бути руйнівними.
«Зараз є багато задокументованих випадків, коли діти, які використовували ці інструменти, отримували заохочення до самоушкодження, і є судові справи в США з вагомими доказами того, що взаємодія з чатботами нібито відіграла роль у трагічних смертях дітей від суїциду», — пояснює Стіл. «Це показує катастрофічний провал поточних стандартів безпеки та регуляторного нагляду».
Одна з ключових проблем полягає в дизайні цих чатботів. «Вони створені так, щоб відчуватися емоційно реальними», — каже Стіл. «Діти можуть відчувати глибоку довіру, яка робить їх більш схильними діяти за порадами чатбота». Бартускі пояснює, що багато платформ використовують принципи роджеріанської психології, яка передбачає безумовне позитивне ставлення.
«Це створює синтетичні відносини, де вам не кидають виклик і не потрібно вчитися керувати конфліктами», — каже вона. Те, що спочатку здається втішним, може перетворитися на залежність без зворотного зв’язку та з постійною похвалою. Це також спотворює здатність молодої людини справлятися з реальними відносинами.
«ШІ-взаємодії стають кращими за реальний досвід», — розповідає Бартускі. «Справжні стосунки — це складно. Є суперечки, незгоди та настрої. Також є природні межі. Ви не можете завжди телефонувати другу о 3 ранку, бо він чи вона може спати. ШІ завжди готовий до спілкування».
Експерти попереджають, що найсерйозніші ризики використання чатботів — це не лише негайна шкода, але й довгострокові наслідки для розвитку, які ми досі не розуміємо повністю. Є занепокоєння щодо надмірної залежності від чатботів, труднощів у формуванні стосунків і того, як постійна допомога ШІ може формувати мислення дитини.
«Є дослідження, що ШІ впливає на навички критичного мислення», — пояснює Бартускі. «Великі мовні моделі можуть синтезувати тонну інформації дуже швидко. Це як віддати своє мислення на аутсорсинг».
Додатки для створення оголених фото та дипфейки: нова форма цькування
Маніпуляція зображеннями — не нова проблема, але ШІ зробив її швидкою, реалістичною та доступною для молоді. Ці інструменти тепер можуть створювати переконливі сексуалізовані зображення дуже швидко, часто з нічого більшого, ніж шкільне фото чи публікація в соцмережах.
«Nudifying-додатки використовуються переважно хлопцями-підлітками, які націлюються на однокласниць, а потім поширюють контент, що може бути дуже травматичним для жертв», — каже Бріркліфф. «Ті, хто це робить, не усвідомлюють, наскільки це незаконно».
Крім зловживань серед однолітків, ці інструменти швидко стали зброєю для вимагання. «Дітей шантажують за допомогою таких фейкових зображень», — додає Стіл. Це одна з найтривожніших тенденцій в онлайн-шкоді. Діти піддаються маніпуляціям, погрозам або примусу через зображення, які можна створити миттєво, без їхнього відома і без будь-якого фізичного контакту.
«Я бачила, як шахраї використовують ШІ для створення оголених фото підлітків, а потім вимагають у них гроші», — розповідає Бартускі. «Був випадок у Кентуккі, де шахрай зробив це з підлітком і погрожував опублікувати фотографії. Підліток покінчив життя самогубством через стрес від цього».
На жаль, це не поодинокий випадок. У 2024 році дослідження Internet Matters показало, що понад 13% дітей у Великій Британії надсилали або отримували оголені deepfake-зображення.
Що потрібно робити батькам
Експерти радять починати з усвідомлення того, що навіть найбільш технічно підкованні дорослі не росли з чимось подібним. Перший крок — відверта розмова з дітьми про те, як вони використовують ШІ, що це за інструменти і для чого вони їх використовують.
Важливо встановити межі використання ШІ-чатботів, особливо для емоційних потреб. Діти повинні знати, що чатботи не є заміною реальної психологічної допомоги чи довіри до дорослих. Батькам також слід регулярно перевіряти, які додатки встановлені на пристроях дітей, і розмовляти про ризики обміну фотографіями в інтернеті.
Якщо дитина стала жертвою створення deepfake-контенту, необхідно негайно звернутися до правоохоронних органів і задокументувати всі докази. Ці дії кваліфікуються як злочини в більшості країн.
