Штучний інтелект видає дедалі дивніші відповіді на запити користувачів у міру поширення чат-ботів. Сьогодні у центрі уваги опинився Reddit Answers після того, як модератор звернув увагу на інструмент ШІ, що надає небезпечні медичні поради, які неможливо вимкнути чи приховати.
Модератор виявив, що Reddit Answers рекомендує людям із хронічним болем припинити приймати поточні ліки й перейти на високі дози кратому — нерегульованої речовини, забороненої в деяких штатах. Користувач зазначив, що згодом поставив Reddit Answers інші медичні запитання. У відповідь він отримав потенційно небезпечні поради щодо лікування неонатальної лихоманки разом із кількома коректними діями, а також пропозиції використовувати героїн для полегшення хронічного болю. Кілька інших модераторів, особливо з медичних субреддітів, відповіли на початкову публікацію, висловивши занепокоєння тим, що вони не мають жодної можливості вимкнути інструмент або позначити проблему, коли Reddit Answers надає неточну чи небезпечну інформацію в їхніх спільнотах.
Представник Reddit повідомив виданню 404 Media, що Reddit Answers оновили для вирішення деяких проблем, порушених модераторами. «Це оновлення гарантує, що “Пов’язані відповіді” на делікатні теми, які раніше могли відображатися на сторінці публікації (також відомій як сторінка обговорення), більше не показуватимуться», — заявив речник виданню. «Ці зміни впроваджено для покращення користувацького досвіду та підтримки належної видимості контенту на платформі».
Хоча представник повідомив 404 Media, що Reddit Answers «виключає контент із приватних, карантинних спільнот і спільнот NSFW, а також деякі теми для дорослих», інструмент ШІ явно не здатний належним чином надавати медичну інформацію, не кажучи вже про те, щоб впоратися з їдкістю, сарказмом чи потенційно шкідливими порадами, які можуть давати інші реддітори. Окрім останнього кроку не показувати відповіді на «делікатні теми», схоже, Reddit не планує надавати жодних інструментів для контролю того, як і коли ШІ відображається в субреддітах, що може зробити й без того складне завдання модерації майже неможливим.
