Ключові тези
- Claude AI тепер може створювати та редагувати документи та інші файли
- Ця функція може скомпрометувати ваші конфіденційні дані
- Контролюйте кожну взаємодію з ШІ на предмет підозрілої поведінки
Більшість популярних генеративних ШІ-сервісів певною мірою можуть працювати з вашими особистими або робочими даними та файлами. Перевага? Це може заощадити час і зусилля, чи то вдома, чи на роботі. Недолік? Маючи доступ до конфіденційної інформації, ШІ можна обманути, щоб він поділився цими даними з неправильними людьми.
Останній приклад — ШІ Claude від компанії Anthropic. У вівторок компанія оголосила, що її ШІ тепер може створювати та редагувати документи Word, електронні таблиці Excel, презентації PowerPoint і PDF-файли безпосередньо на сайті Claude та в настільних додатках для Windows і macOS. Просто опишіть, що ви хочете в запиті, і Claude, як очікується, надасть бажані результати.
Поки що ця функція доступна лише передплатникам Claude Max, Team та Enterprise. Проте Anthropic повідомила, що найближчими тижнями вона стане доступною для користувачів Pro. Щоб отримати доступ до нової функції створення файлів, перейдіть до налаштувань і виберіть опцію «Вдосконалене створення та аналіз файлів» у розділі експериментальних функцій.
Anthropic попереджає про ризики
Звучить як корисна навичка, чи не так? Але перед тим як зануритися, зважте на ризики, пов’язані з таким типом взаємодії. У своєму прес-релізі від вівторка навіть Anthropic визнала, що «функція надає Claude доступ до інтернету для створення та аналізу файлів, що може поставити ваші дані під загрозу».
На сторінці підтримки компанія детальніше розглянула потенційні ризики. Створена з урахуванням деяких аспектів безпеки, функція забезпечує Claude ізольованим середовищем з обмеженим доступом до інтернету, щоб він міг завантажувати та використовувати JavaScript-пакети для процесу.
Але навіть з таким обмеженим доступом до інтернету зловмисник може використовувати ін’єкцію запитів та інші хитрощі для додавання інструкцій через зовнішні файли або веб-сайти, які обманюють Claude, змушуючи його виконувати шкідливий код або читати конфіденційні дані з підключеного джерела. Звідти код може бути запрограмований на використання ізольованого середовища для підключення до зовнішньої мережі та витоку даних.
Який захист доступний?
Як ви можете захистити себе та свої дані від такого типу компрометації? Єдина порада, яку пропонує Anthropic, — це контролювати Claude під час роботи з функцією створення файлів. Якщо ви помітите, що він використовує або отримує доступ до даних несподівано, зупиніть його. Ви також можете повідомляти про проблеми, використовуючи опцію «палець донизу».
Що ж, це не дуже корисно, оскільки покладає тягар на користувача спостерігати за зловмисними або підозрілими атаками. Але це типово для індустрії генеративного ШІ на цьому етапі. Ін’єкція запитів — це знайомий і сумнозвісний спосіб для зловмисників вставляти шкідливий код у запит ШІ, даючи їм можливість скомпрометувати конфіденційні дані. Проте постачальники ШІ повільно протидіють таким загрозам, ставлячи користувачів під ризик.
У спробі протидіяти загрозам Anthropic окреслила кілька функцій для користувачів Claude:
- Ви маєте повний контроль над функцією створення файлів, тому можете вмикати та вимикати її в будь-який час
- Ви можете контролювати прогрес Claude під час використання функції та зупиняти його дії, коли захочете
- Ви можете переглядати та аудитувати дії, виконані Claude в ізольованому середовищі
- Ви можете вимкнути публічне поширення розмов, що включають будь-яку інформацію з цієї функції
- Ви можете обмежити тривалість будь-яких завдань, виконуваних Claude, та кількість часу, відведеного одному контейнеру ізольованого середовища. Це може допомогти уникнути циклів, які можуть вказувати на зловмисну діяльність
- Мережеві, контейнерні та сховищні ресурси мають бути обмежені
- Ви можете налаштувати правила або фільтри для виявлення атак ін’єкції запитів і зупинити їх, якщо вони виявлені
Можливо, ця функція не для вас
«Ми провели червоне тестування та тестування безпеки цієї функції», — заявила Anthropic у своєму релізі. «У нас є постійний процес поточного тестування безпеки та червоного тестування цієї функції. Ми заохочуємо організації оцінювати ці засоби захисту відповідно до їхніх специфічних вимог безпеки при прийнятті рішення про увімкнення цієї функції».
Це останнє речення може бути найкращою порадою з усіх. Якщо ваш бізнес або організація налаштовує функцію створення файлів Claude, ви захочете оцінити її відповідно до власних засобів безпеки і подивитися, чи відповідає вона стандартам. Якщо ні, то, можливо, ця функція не для вас. Виклики можуть бути ще більшими для домашніх користувачів. Загалом, уникайте поширення особистих або конфіденційних даних у своїх запитах або розмовах, стежте за незвичайною поведінкою ШІ та регулярно оновлюйте програмне забезпечення ШІ.
