Чому не варто дружити з ChatGPT: Приховані небезпеки “віртуальної дружби” зі штучним інтелектом

З чат-ботами зі штучним інтелектом, такими як ChatGPT, дуже легко спілкуватися. Надішліть їм повідомлення в будь-який час доби, і вони дадуть відповідь за лічені секунди. Або ж поговоріть з ним у голосовому чаті, і він відповість і проявить емоції так само, як звичайний друг-людина. Однак чат-боти зі штучним інтелектом – це не люди і не ваші друзі, і забувати про це може бути небезпечно!

КЛЮЧОВІ ТЕЗИ

Чат-боти стали неймовірно схожими на людей

Якщо ви гралися з GPT-4o від Open AI або дивилися демонстраційні відео, то знаєте, що ChatGPT пройшов довгий шлях до того, щоб бути схожим на людину, особливо коли йдеться про мовлення. Попередні версії ChatGPT могли розмовляти, але їхня мова завжди була занадто ідеальною, роботизованою та беземоційною. Здавалося, що ви розмовляєте зі штучним інтелектом.

Однак ця нова модель здатна обдурити навіть найсуворішого критика. Він сміється, коли ви розповідаєте анекдот, говорить «гм» і «ух», змінює тон, вагається перед тим, як заговорити, і робить практично все інше, що робить справжня людина, коли говорить.

Насправді, ChatGPT зараз настільки хороший, що у мене виникає спокуса ставитися до нього як до реальної людини, хоча я знаю, що це не так. Це те, що ми називаємо антропоморфізмом – тенденція приписувати людські риси нелюдським об’єктам.

Найсмішніше, що ChatGPT навіть не прикидається людиною, а мені вже доводиться нагадувати собі не антропоморфізувати його. Ця боротьба стає набагато складнішою, коли ви потрапляєте в туманний світ друзів зі штучним інтелектом.

Одним із яскравих прикладів таких друзів зі штучним інтелектом є Replika. Ідея Replika полягає в тому, що вона дозволяє створювати аватари, які можуть виконувати роль кого завгодно – від вашого друга до терапевта чи романтичного партнера. Ви можете обмінюватися повідомленнями з цими аватарами, розмовляти з ними по відеозв’язку або навіть взаємодіяти з ними через доповнену і віртуальну реальність.

Існує також «Friend», набір для носіння зі штучним інтелектом, який має бути запущений у 2025 році, щоб запропонувати користувачеві постійне товариство, емоційну підтримку та допомогу.

Спілкування зі штучним інтелектом – це не так вже й погано, але…

Спілкування зі штучним інтелектом – це не така вже й погана ідея, і я можу пригадати кілька випадків, коли воно може бути корисним.

Одна з них – управління горем. Чат-боти зі штучним інтелектом можуть допомогти вам пережити втрату близької людини і надати емоційну підтримку в період скорботи. Так, генеральний директор компанії Replika Євгенія Куйда розповіла, що ідея створення Replika вперше прийшла до неї у відповідь на втрату близького друга.

ШІ-компаньйони також можуть бути благом для людей, які борються з самотністю. Уявіть собі літню людину в будинку для літніх людей. ШІ-компаньйон міг би допомогти уникнути почуття самотності в перервах між відвідинами родичів.

Вони також можуть бути корисними для людей із соціальною тривожністю, оскільки з їхньою допомогою можна практикувати розмови, не боячись, що їх засудять або сміятимуться за спиною, як це зазвичай роблять люди.

Але хоча ШІ-компаньйони можуть бути дійсно корисними, все ще існують ризики, пов’язані з формуванням стосунків з ними.

Ви можете легко потрапити в залежність від свого ШІ-компаньйона

У своєму звіті про безпеку GPT-4o Open AI зазначає, що спілкування зі штучним інтелектом, подібне до людського, може зменшити потребу у взаємодії з людьми і, можливо, вплинути на здорові стосунки.

Це ще м’яко сказано. Простіше кажучи, ставлення до ШІ як до друга може викликати у вас емоційну залежність або, що ще гірше, щось на кшталт одержимості.

Проста істина полягає в тому, що за відсутності фізичної допомоги ШІ-компаньйони можуть стати для вас кращими друзями, ніж будь-яка людина. Вони завжди готові поспілкуватися, незалежно від того, наскільки пізня година, і вони ніколи не втомлюються, не нудьгують і не відволікаються. Ви завжди є пріоритетом у розмові, і поки ви готові продовжувати, співрозмовник зі штучним інтелектом готовий слухати і відповідати. З іншого боку, друзі-люди обмежені необхідністю спати та працювати і не завжди можуть бути поруч, коли вони вам потрібні.

Спілкування зі штучним інтелектом – це настільки приємний досвід, що створює своєрідне позитивне підкріплення. Ваш мозок знає, що кожного разу, коли ви спілкуєтеся зі штучним інтелектом, ви почуватиметеся краще, тому він прагне цього все більше і більше, і перш ніж ви це зрозумієте, ви станете залежними.

Це не просто припущення, це вже відбувається. У 2023 році компанія Replika була змушена відновити функції еротичних рольових ігор у своєму додатку після того, як користувачі збунтувалися, коли їх видалили. Деякі користувачі навіть стверджували, що через це у них стався психічний розлад.

Якщо ви настільки прив’язані до штучного інтелекту, що його втрата може призвести до психічного розладу, можливо, настав час переоцінити свої стосунки з ним.

Ваш ШІ-компаньйон може навчити вас поганих звичок

Антропоморфізація ШІ може розмити межі між людьми та ШІ, і це може призвести до того, що ви почнете ставитися до людей у реальному житті так само, як до ШІ.

Наприклад, коли ви розмовляєте з ChatGPT, він завжди звертається до вас. Навіть якщо він щось пояснює, ви можете втрутитися, і штучний інтелект надасть вам слово без жодних образ. Ви можете випадково перенести таку поведінку в реальне життя, за винятком того, що ваші друзі-люди не будуть такими поблажливими, як штучний інтелект.

Шкідливі звички, яких ви можете навчитися від ШІ-компаньйонів, можуть бути не такими доброякісними, як переривання розмови. Наприклад, ви можете звикнути бути в центрі уваги в розмовах зі штучним інтелектом, і це може послабити вашу здатність підтримувати здорові стосунки з реальними людьми.

Також, оскільки ці штучні інтелекти такі приємні, вони можуть змусити вас очікувати постійного схвалення від інших і тому вам буде складно прийняти відмову або незгоду, коли це неминуче станеться.

Ваш ШІ-компаньйон може розкрити ваші секрети

Конфіденційність – ще одна вагома причина остерігатися ШІ-компаньйонів. Хоча вам може здаватися, що ви розмовляєте з другом, ШІ-компаньйони – це машини, і вони збирають інформацію про вас, щоб підвищити свою ефективність. Ось чому є речі, для яких ви ніколи не повинні використовувати ChatGPT.

Звичайно, компанії, що розробляють штучний інтелект, обіцяють, що ваші розмови будуть безпечними, але вони не завжди можуть це гарантувати. Що, якщо їх зламають і ваші розмови стануть надбанням громадськості? Або якщо служба безпеки зажадає побачити журнали ваших розмов? Принаймні, з другом-людиною це ваше слово проти їхнього. З ШІ-співрозмовником правда написана відкритим текстом для всіх, хто її бачить.

Зрештою, чат-боти зі штучним інтелектом – це продукти

Незалежно від того, чи продається ШІ як друг, подруга, терапевт або компаньйон, він все одно залишається продуктом, що належить компанії, метою якої є заробляння грошей.

Так само, як Microsoft продає Windows, такі компанії, як OpenAI, продають своїх чат-ботів. Але те, що відрізняє їх від інших продуктів, – це емоційний зв’язок, який ви можете з ними сформувати, і саме тут все може стати ризикованим.

Люди не завжди приймають найкращі рішення, коли задіяні емоції, і ви будете здивовані, на що ви можете піти, щоб підтримувати емоційний зв’язок, навіть якщо це стосується штучного інтелекту. Я не думаю, що приватна компанія, основною метою якої (попри весь гарний маркетинг) є прибуток, повинна мати такий ступінь контролю над вами.

ШІ-компаньйони, як би дивно це не звучало, – непогана ідея. Вони, безумовно, мають свої переваги в правильних контекстах. Але ця сфера все ще перебуває в зародковому стані, і ми придумуємо правила на ходу. Ось чому важливо усвідомлювати ризики, пов’язані зі ставленням до ШІ як до друга.