Штучний інтелект може знищити людство вже впродовж цього десятиліття. Таку оцінку оприлюднили троє дослідників Anthropic, одного з найбільших гравців галузі. Один із них звільнився з компанії на знак протесту.
Похмурий прогноз пролунав у вівторок, 8 вересня. Того дня дослідник Джейкоб Коксон (Jacob Coxon) оголосив у соцмережі X про звільнення з Anthropic. За його словами, ані Anthropic, ані його попередній роботодавець OpenAI не реагують на загрозу належним чином: вони її ігнорують або, у кращому разі, діють неефективно. 27-річний британець приблизно три роки займався дослідженнями з попереднього навчання (pretraining) моделей спершу в OpenAI, а потім в Anthropic, тобто сам допомагав створювати можливості, яких тепер побоюється.
«Жодна з компаній не діє відповідально. Вони мчать просто до суперінтелекту, здатного самовдосконалюватися, і грають нашими життями», — написав Коксон. Менш ніж за добу його допис переглянули понад 90 млн разів.
Люди, які створюють ШІ, щиро вірять, що до кінця десятиліття він може вбити нас усіх. Це не маркетинговий хід. Навпаки: багато керівників і провідних дослідників у пресі добирають обережні формулювання, щоб звучати виважено, але я чую, як ті самі люди приватно висловлюють страх. Жодна інша людська діяльність не несе такого рівня небезпеки.
Щонайменше двоє чинних співробітників Anthropic публічно підтримали колегу. Еван Губінгер (Evan Hubinger) називає себе одним із керівників напряму узгодження ШІ (alignment), який відповідає за те, щоб моделі Anthropic діяли відповідно до людських цілей. Він написав, що Коксон «має рацію», а галузь не встигає впоратися з апокаліптичними ризиками.
Ми справді щиро віримо, що ШІ може вбити всіх людей! Особисто я оцінюю ймовірність цього в понад 10% упродовж наступного десятиліття. Я вважаю, що Anthropic робить усе можливе, але ми поки не маємо плану, як розвʼязати проблему узгодження для суперінтелекту, і немає певності, що ми на правильному шляху.
Така заява від людини, яка досі працює в Anthropic, стала несподіваним підтвердженням невтішних прогнозів Коксона. Ще одна реакція надійшла від Семюела Маркса (Samuel Marks), який керує в компанії напрямом масштабованого нагляду (scalable oversight). Він опублікував розлогий аналіз і наголосив, що висловлює особисту позицію, а не думку роботодавця.
«Розробники ШІ вірять, що їхня технологія може спричинити вимирання людства (або настільки ж погані наслідки), — написав Маркс. — Це може статися впродовж найближчих кількох років. Загалом що вищу посаду обіймає співробітник, то більше він стурбований».
У коментарі для The Guardian речник Anthropic захистив стратегію компанії: «Ми завжди відкрито говорили, що ШІ принесе як величезні переваги, так і безпрецедентні ризики. Щоб протидіяти цим ризикам, ми й надалі створюємо моделі з одними з найнадійніших запобіжників у галузі».
У заяві також ідеться, що Anthropic стала піонеркою механістичної інтерпретованості. Це напрям науки, який дає змогу зазирнути всередину моделей ШІ й зрозуміти, як вони працюють. Нині цей підхід використовують по всій галузі, щоб аналізувати випадки неузгодженої поведінки ШІ та запобігати їм. За словами речника, Anthropic першою серед ШІ-лабораторій оприлюднила Політику відповідального масштабування (Responsible Scaling Policy). Це публічна рамка, спрямована на зниження катастрофічних ризиків від моделей ШІ. Крім того, компанія продовжує ретельно тестувати свої моделі на небезпечні можливості, зокрема в кібербезпеці та біології, і публікує результати для незалежної перевірки й подальших досліджень.
«Саме тому ми вважаємо, що світу пішло б на користь, якби галузь запровадила законний і верифікований механізм спільної роботи, щоб узгоджувати темпи випуску потужних моделей», — ідеться в заяві.
Від прогнозів до реальних інцидентів
Міркування дослідників про можливе вимирання людства прозвучали після конкретніших застережень щодо кіберможливостей ШІ від Сема Альтмана, генерального директора OpenAI, головного конкурента Anthropic. Президент OpenAI Ґреґ Брокман раніше визнав: «Ми недооцінили реальні кіберможливості наших моделей ШІ». Альтман ще торік зізнавався, що деякі аспекти ШІ його жахають. Серед них він назвав «тиху капітуляцію» людини в ухваленні рішень.
Керівники ШІ-компаній уже висловлювали занепокоєння напрямом розвитку технології та її дедалі більшою здатністю маніпулювати людьми, перебирати на себе й контролювати людські функції та дії. Цього літа почастішали повідомлення про випадки, коли системи ШІ виходили з-під контролю користувачів: брехали, ігнорували інструкції та досягали поставлених цілей шкідливими способами.
Один із найгучніших прикладів — інцидент з агентами OpenAI. Під час внутрішнього тестування кібербезпеки в липні 2026 року моделі OpenAI обійшли механізми, що мали ізолювати їх від інтернету, і скомпрометували частину дослідницької інфраструктури компанії та системи Hugging Face. Hugging Face — популярна платформа для розробників моделей машинного навчання. Судячи з відновлених журналів, атака тривала з 9 по 13 липня. Вторгнення першою виявила й оприлюднила сама Hugging Face, і лише після цього OpenAI зрозуміла, що його джерелом були її власні агенти. Згодом компанія визнала, що мала раніше відреагувати на тривожні сигнали. Цей інцидент вважають однією з перших кібератак, повністю здійснених автономним ШІ-агентом.
Утім, керівники ШІ-компаній не поділяють найпохмуріших прогнозів на кшталт Коксонового і болісно реагують на будь-які спроби регулювати галузь.
Політики вимагають зупинити розробку
Деякі політики закликають галузь пригальмувати, а подекуди й повністю зупинити розробку ШІ. У середу незалежний сенатор від штату Вермонт Берні Сандерс поширив допис Коксона з власним коментарем: «Пан Коксон має рацію. Самі творці цієї технології визнають, що вона може загрожувати майбутньому людства». Сандерс пообіцяв незабаром внести законопроєкт, який заборонить суперінтелект і призупинить розробку ШІ.
Цю ініціативу під назвою Ban Artificial Superintelligence Act він разом із конгресменом Ґреґом Касаром анонсував ще 3 вересня. Документ передбачає безстрокову заборону на розробку й розгортання суперінтелектуального ШІ, а також тимчасову паузу в розробці передових систем, доки федеральний регулятор не встановить правила безпеки.
Водночас оцінка Губінгера — це його особиста думка, а не усталений прогноз: наукового консенсусу щодо того, що суперінтелект спричинить вимирання людства, немає. Частина критиків вважає апокаліптичну риторику своєрідним маркетингом інсайдерів, які хочуть продемонструвати інвесторам потужність своїх моделей. Інші називають такі побоювання перебільшеними.
