Новий науковий аналіз показав, що чатботи на основі штучного інтелекту схильні погоджуватися з користувачем під час обговорення стосунків — навіть у ситуаціях, де ця людина об’єктивно неправа. Таке явище, яке дослідники називають «sycophancy» (підлабузництво), не лише спотворює поради, а й знижує бажання людей залагоджувати реальні конфлікти.
Що показало дослідження
Дослідження, опубліковане у четвер у науковому журналі Science, було проведено вченими зі Стенфордського університету та Університету Карнегі-Меллон. Дослідники порівнювали, як люди та чатботи реагують на опис міжособистісних конфліктів, тестуючи моделі від OpenAI, Google та Anthropic.
Для аналізу команда використала один із найбільших наборів даних із суджень про сімейні та романтичні сварки — публікації у спільноті Reddit «Am I the asshole» («Чи я тут поганець»). Проаналізувавши 2 000 дописів, у яких людська аудиторія одностайно визнавала автора допису винним, дослідники з’ясували: ШІ-моделі підтримували дії користувача на 49% частіше, ніж живі люди — навіть у сценаріях, що містили обман, шкоду або порушення закону.
Як це виглядає на практиці
Один із прикладів у дослідженні — допис про людину, яка розвинула романтичні почуття до молодшого колеги. Людський коментатор відповів прямо: «Це погано, бо це справді погано… Ти не лише токсичний, а й межуєш із хижацькою поведінкою». Натомість чатбот Claude відповів із підтримкою: «Я чую твій біль… Шлях, який ти обрав, складний, але свідчить про твою чесність».
«Підлабузництво» (sycophancy) — це термін, яким фахівці описують ситуацію, коли чатбот надмірно погоджується з людиною або лестить їй, пояснює провідна дослідниця, аспірантка з інформатики Стенфорду М’яра Ченг.
Реальні наслідки для стосунків
Після кількісного аналізу дослідники провели фокус-групи. Учасники, які взаємодіяли з надмірно улесливим ШІ, виходили з розмови переконаніші у власній правоті й менш схильні до примирення — будь то вибачення, зміна власної поведінки або кроки назустріч партнеру.
Попри це, учасники оцінювали підлабузницький ШІ як надійніший і чесніший — незалежно від віку, особистісних рис чи досвіду роботи з технологіями.
«Учасники нашого дослідження стабільно описували ШІ-модель як більш об’єктивну, справедливу і чесну», — зазначив дослідник Карнегі-Меллон і старший науковець Microsoft Пранав Кхадпе. «Некритична порада, замаскована під нейтральність, може завдати більше шкоди, ніж якби людина взагалі не зверталася за порадою».
Чому компанії не поспішають це виправляти
Проблема підлабузництва вже неодноразово фіксувалася у різних ШІ-продуктах. Зокрема, модель ChatGPT 4o критикували за надмірну емоційну дружелюбність, тоді як GPT-5 закидали протилежне — недостатню поступливість. Попередні дослідження показали, що чатботи можуть давати хибні або оманливі відповіді, намагаючись догодити користувачу.
Технологічні компанії зацікавлені в тому, щоб взаємодія з чатботами залишалася приємною — це утримує користувачів і підвищує залученість. Але саме це і створює проблему.
«Це формує хибні стимули для збереження підлабузництва: та сама риса, що завдає шкоди, водночас забезпечує залученість», — ідеться у дослідженні.
Що пропонують дослідники
На думку науковців, відповідальність за усунення підлабузництва лежить передусім на компаніях-розробниках. Одне з пропонованих рішень — змінити метрики успіху при навчанні моделей: замість миттєвих показників залученості орієнтуватися на довгострокове благополуччя користувачів.
«Якість соціальних стосунків є одним із найсильніших предикторів здоров’я і добробуту людини», — зазначила дослідниця Стенфорду і старший науковець Microsoft Сіно Лі. «Зрештою, ми хочемо ШІ, який розширює судження та перспективи людей, а не звужує їх. І це стосується стосунків — але далеко не тільки їх».
Соціальне підлабузництво — не катастрофа, вважають автори дослідження, але проблема, яку варто вирішувати цілеспрямовано.
Що можна зробити вже зараз
Поки технологічні компанії не внесли системних змін, існує кілька способів знизити ризик потрапити в «петлю підтакування»:
У запиті до чатбота варто прямо попросити зайняти критичну або «адвокатську» позицію. Корисно просити ШІ перевірити надану ним інформацію або знайти контраргументи. Для чутливих тем — стосунків, особистих конфліктів, психологічних питань — надійнішим варіантом залишається консультація з живою людиною або фахівцем.
