Спроби відрізнити синтетичний контент від справжнього стають все складнішими, оскільки якість зображень, згенерованих штучним інтелектом, стає дедалі реалістичнішою. Щоб допомогти вам розрізняти їх під час прокрутки в TikTok, платформа для короткометражних відео запровадила систему Content Credentials (Облікові дані вмісту).
Що таке Content Credentials (облікові дані вмісту)?
Облікові дані вмісту – це новий вид метаданих, захищених від несанкціонованого доступу. Вони дозволяють творцям додавати додаткову інформацію про себе та свій творчий процес безпосередньо до свого вмісту під час експорту чи завантаження.
Облікові дані вмісту, розроблені Коаліцією за походження та автентичність контенту (C2PA), – це метадані, які слугують “харчовою етикеткою” для життєво важливих інгредієнтів контенту, включаючи ім’я творця, інструменти, використані для створення контенту (наприклад, камеру або програмне забезпечення), внесені правки та інше.
Ці облікові дані можуть бути додані автором до частини контенту вручну безкоштовно, щоб забезпечити належну атрибуцію свого контенту. Багато програм зі штучним інтелектом, як-от Adobe Firefly, автоматично додають облікові дані вмісту до AIGC. Якщо ви завантажите контент, створений за допомогою такого інструменту, TikTok автоматично позначить його для користувачів.
TikTok допоможе розпізнати контент, створений штучним інтелектом
У четвер TikTok оголосив, що відтепер автоматично позначатиме завантажений контент, створений штучним інтелектом (AIGC), додаючи до нього Content Credentials. Прокручуючи TikTok, ви побачите, що на контенті, який має Content Credentials, з’являється позначка “AI-generated label”, яка вказує на те, що він був створений за допомогою штучного інтелекту в метаданих, як показано на зображенні нижче.
Цей додатковий захід безпеки гарантує, що контент, створений штучним інтелектом, буде позначений, навіть якщо користувач, який завантажує його, не розкриває цього сам. Цей захід буде корисним для TikTok, коли потужні відеогенератори, такі як Sora від OpenAI, стануть загальнодоступними. Заходи безпеки почали впроваджуватися для користувачів сьогодні і будуть застосовуватися до всіх користувачів по всьому світу протягом найближчих тижнів.
“Контент, створений штучним інтелектом, є неймовірним творчим виходом, але прозорість для глядачів має вирішальне значення. Співпрацюючи з колегами для маркування контенту на різних платформах, ми полегшуємо творцям відповідальне вивчення контенту, створеного штучним інтелектом, одночасно продовжуючи стримувати шкідливий або оманливий AIGC, який заборонений у TikTok”, – сказав Адам Прессер, керівник відділу операцій, довіри та безпеки TikTok.
У найближчі місяці TikTok також додасть облікові дані до власного контенту TikTok, що дозволить користувачам визначати, коли AIGC було створено в TikTok. Щоб продемонструвати подальшу прихильність до Content Credentials, TikTok також приєднався до очолюваної Adobe Ініціативи автентичності контенту (Content Authenticity Initiative).
TikTok заявляє, що стане першою відеоплатформою, яка підтримуватиме облікові дані контенту, хоча пройде певний час, перш ніж ці мітки стануть звичним явищем, оскільки багато компаній тільки починають підтримувати цю технологію. (Google, Microsoft, OpenAI та Adobe пообіцяли підтримувати облікові дані контенту. Meta також заявила, що використовує цей стандарт для міток на своїй платформі).
Функції Content Credential ґрунтуються на практиках, які TikTok вже застосовує для забезпечення безпечної роботи додатків, таких як заборона оманливого контенту, створеного штучним інтелектом, і маркування AIGC, створеного за допомогою ефектів штучного інтелекту TikTok.
Однак варто зазначити, що облікові дані контенту та інші системи, які покладаються на метадані, не є надійними. OpenAI зазначає на сторінці підтримки, що ця технологія “не є срібною кулею” і що метадані “можуть бути легко видалені як випадково, так і навмисно”. Мітки також просто не настільки ефективні, якщо люди не намагаються їх читати. TikTok заявляє, що має план, як вирішити і цю проблему. Компанія співпрацює з організацією з перевірки фактів MediaWise та правозахисною організацією Witness над серією кампаній з медіаграмотності, які мають на меті розповісти користувачам TikTok про мітки та “потенційно оманливий” контент, створений штучним інтелектом.
https://cybercalm.org/yak-rozpiznaty-video-stvorene-ai/
