Через налаштування за замовчуванням і спосіб формування адрес у Grok Build — режимі для створення застосунків у Grok від SpaceXSI (раніше xAI) — у відкритому доступі опинилися десятки тисяч застосунків. Серед них внутрішні документи самої SpaceXSI, медичні дані пацієнта реанімації та графік змін пожежної частини.
Про проблему повідомила компанія Claroc, яка спеціалізується на безпеці застосунків, створених за допомогою ШІ. Дослідники опублікували звіт 10 листопада, а першим про знахідку написало видання Ars Technica.
Що знайшли дослідники
З 31 жовтня по 8 листопада Claroc перевірила 43 551 застосунок на домені grok.me. На цьому домені Grok публікує програми, які користувачі створюють, описуючи їх у чаті. Без облікового запису відкрилися 35 578 застосунків.
Більшість із них виявилися іграми, лендингами та калькуляторами. Проте приблизно кожен десятий містив чутливі дані, а близько 2%, за оцінкою дослідників, мали матеріали високого або критичного рівня. Вручну Claroc підтвердила 150 таких випадків. Серед них застосунок лікарняної мережі з базою понад 3500 працівників і зведення про стан пацієнта відділення інтенсивної терапії з аналізами та даними про апарат ШВЛ. Також знайшовся онлайн-графік змін пожежної частини з іменами й номерами жетонів, а ще табель підрядника, у коді якого зберігалися паролі всіх працівників відкритим текстом.
Крім SpaceXSI та X, внутрішні дані виявилися відкритими ще у 30 організацій. З них 26 мають понад 1000 працівників, а шість входять до списку Fortune 500. Назв цих організацій Claroc не розголошує.
Окремо дослідники знайшли 24 відкриті застосунки, створені працівниками SpaceXSI та X. Серед них:
- план адаптації нового співробітника відділу корпоративних продажів із позначкою «конфіденційно», де були перелік систем для доступу, 19 внутрішніх чат-каналів і план на 30 днів;
- карта торговельних територій із 594 стратегічними клієнтами;
- вісім рекламних пропозицій X, одна з яких адресована федеральному відомству США і теж позначена як конфіденційна;
- чотири робочі панелі рекламних кабінетів із витратами на кампанії;
- дві копії внутрішнього посібника X з безпеки бренду.
Серед знайдених застосунків SpaceXSI та X паролем був захищений лише один, і до цих 24 відкритих він не належить. За словами дослідників, їх шокувало, що компанія-розробник Grok сама тримала внутрішні матеріали відкритими для будь-кого з посиланням. Claroc називає такі сторінки GhostShares, тобто «примарними посиланнями»: їх можуть знайти й відкрити люди, яким посилання ніхто не надсилав.
Чому так сталося
Перша причина полягає в налаштуваннях доступу. В акаунті дослідників під час публікації Grok одразу пропонував варіант «Anyone with the link», тобто доступ для будь-кого, хто має посилання.
Друга причина повʼязана з форматом адреси. Кожен застосунок отримує окреме імʼя хоста виду <назва>.grok.me, складене з чотирьох випадкових слів. Вгадати таку адресу складно: за даними Ars Technica, вона має до 38 біт ентропії. Проте вгадувати її й не потрібно. Щойно хтось відкриває застосунок, його компʼютер надсилає DNS-запит. Сервіси пасивного DNS збирають такі запити, і будь-хто з обліковим записом може шукати в них за шаблоном. Один пошук *.grok.me видає готовий список адрес.
Посилання на поширені чати в Claude, ChatGPT чи Gemini влаштовані інакше. Секретна частина в них розміщена в шляху після домену, наприклад gemini.google.com/share/…, тому до DNS вона не потрапляє. ChatGPT також надає кожному опублікованому застосунку окреме імʼя хоста, але за замовчуванням відкрити такий застосунок може лише власник. Тому навіть знайдена адреса там нікуди не веде.
Тестові застосунки Claroc виявили ще одну ваду. Дослідники попросили Grok створити клієнтську базу для «відділу продажів із чотирьох людей». Grok сам додав вхід через Google та X, але згенерований ним код спершу зараховував до команди будь-кого, хто увійшов, і лише після цього перевіряв членство. Тож перевірка проходила завжди. Сторонній Google-акаунт зміг переглянути всі записи, змінити один і видалити інший. Цю ваду дослідники перевіряли лише на власному застосунку.
ШІ-конструктори застосунків перетворили публікацію на один клік, а за замовчуванням на питання, хто може це бачити, відповідь — усі
Реакція SpaceXSI
Claroc повідомила SpaceXSI про проблему 8 листопада. За даними Ars Technica, компанія не реагувала, доки дослідники не позначили в X Ілона Маска та ще одного її представника. 10 листопада SpaceXSI прибрала 24 застосунки своїх працівників. За словами Claroc, з відкритими застосунками інших користувачів компанія цього не зробила.
У відповідь на запит журналістів SpaceXSI заявила, що застосунки Grok залишаються приватними, доки автор сам не вирішить ними поділитися. Публікація, за словами компанії, вимагає кількох кроків, а для акаунтів працівників за замовчуванням діє режим «Only you». У Claroc заперечують: кількість кліків нічого не змінює, якщо наприкінці доступ уже встановлено «для всіх». Оскільки SpaceXSI не пообіцяла сповістити власників застосунків, Claroc почала сама повідомляти постраждалі організації.
Що варто перевірити
Власникам застосунків у Grok Build варто переглянути налаштування доступу. Для всього, що містить внутрішні чи персональні дані, потрібен режим «Invited users» або «Only you». Перевірити результат можна з іншого браузера без входу в акаунт: сторонній відвідувач має побачити сторінку помилки.
Паролі та ключі не слід зберігати в коді застосунку, бо браузер кожного відвідувача завантажує цей код повністю. Застосунки, якими ніхто не користується, краще зняти з публікації: це одразу прибирає адресу grok.me з мережі.
Організаціям варто зʼясувати, якими ШІ-конструкторами користуються працівники. Grok, Lovable, Replit, v0, Bolt, Base44 та Google AI Studio можна почати використовувати без участі ІТ-відділу.
