Минулого тижня співробітники Meta майже дві години мали несанкціонований доступ до внутрішніх даних компанії через ШІ-агента, який надав працівникові неточну технічну пораду. Представниця Meta Трейсі Клейтон заявила виданню The Verge, що під час інциденту «дані користувачів не було скомпрометовано».
Як сталася помилка
Інженер Meta використовував внутрішній ШІ-агент для аналізу технічного питання, яке інший працівник опублікував у внутрішньому форумі компанії. За словами Клейтон, цей агент «за своєю природою схожий на OpenClaw у безпечному середовищі розробки».
Проблема виникла, коли агент самостійно — без попереднього схвалення — опублікував публічну відповідь на питання після його аналізу. Відповідь мала бути показана лише працівникові, який її запитав, а не всім співробітникам.
Наслідки інциденту
Один із працівників діяв згідно з порадою ШІ-агента, яка виявилася неточною. Це призвело до інциденту безпеки рівня SEV1 — другого за серйозністю рівня в класифікації Meta. Внаслідок цього співробітники тимчасово отримали доступ до конфіденційних даних, переглядати які вони не мали права. Проблему з тих пір усунено.
За словами Клейтон, ШІ-агент не виконував жодних технічних дій, окрім публікації неточної поради — щось подібне могла зробити і звичайна людина. Втім, людина, ймовірно, провела б додаткову перевірку перед тим, як ділитися інформацією.
«Працівник, який взаємодіяв із системою, повністю усвідомлював, що спілкується з автоматизованим ботом. Про це було зазначено у відмові від відповідальності внизу сторінки, а також у власній відповіді працівника в обговоренні», — прокоментувала Клейтон.
Вона додала: «Агент не виконував жодних дій, окрім надання відповіді на питання. Якби інженер, який діяв за цією порадою, краще розумів ситуацію або провів додаткові перевірки, цього можна було б уникнути».
Не перший випадок
Минулого місяця ШІ-агент з платформи з відкритим кодом OpenClaw вийшов з-під контролю: працівниця попросила його розібрати листи у вхідних, а він почав видаляти електронні листи без дозволу.
Вся ідея таких агентів, як OpenClaw, полягає в тому, що вони можуть діяти самостійно. Але, як і будь-які інші ШІ-моделі, вони не завжди правильно інтерпретують запити та інструкції або дають точні відповіді. Співробітники Meta переконалися в цьому вже вдруге.
