Фахівці Лабораторії комп’ютерних наук і штучного інтелекту (CSAIL) Массачусетського технологічного інституту змогли обійти моделі штучного інтелекту, що використовують технології розпізнавання мови.
Розроблена ними система TextFooler здатна обманювати моделі штучного інтелекту на зразок Siri і Alexa. У майбутньому такі системи допоможуть боротися зі спамом і відповідати на нецензурну лексику.
TextFooler – система, які зазвичай створюються для атак на моделі ШІ з використанням технологій розпізнавання мовлення з метою виявлення недоліків. Система змінює вхідні пропозиції шляхом заміни деяких слів зі збереженням сенсу і граматики і з їх допомогою атакує модель ШІ, щоб визначити, як вона обробляє змінений текст.
Зміна тексту без зміни сенсу – завдання непросте. Перш за все TextFooler шукає важливі слова, що мають велике смислове навантаження для конкретної моделі ШІ, і підбирає для них відповідні синоніми.
За словами фахівців CSAIL, розробленим ними інструменту вдалося успішно обдурити три існуючі моделі, в тому числі популярну мовну модель BERT від Google. Змінивши лише 10% тексту в реченні, TextFooler зміг досягти високого рівня успіху.
Зверніть увагу, з 1 лютого WhatsApp не буде працювати на мільйонах iPhone та Android-пристроях, які використовують застарілі версії операційних систем. Застарілими вважаються iOS 8 і Android 2.3.7 Gingerbread та всі, що були до них.
Також нову активність вже відомої групи кіберзлочинців Winnti зафіксували фахівці з кібербезпеки. Цього разу ціллю зловмисників стали університети Гонконгу. Можливою ціллю зловмисників було викрадення конфіденційних даних з пристроїв жертв.
Окрім цього, компанія Twitter розкрила подробиці про кібератаки, в ході яких сторонні особи використовували офіційний API компанії для зіставлення телефонних номерів з іменами користувачів соціальної мережі.
Нагадаємо, дослідники з університету Бен-Гуріон змогли обдурити популярні системи автопілотів, використовуючи сприйняття ними проектованих зображень як справжніх та змусили машини гальмувати або заїжджати на зустрічні смуги на автотрасі.
До речі, якщо Ви не користуєтесь необмеженим стільниковим або широкосмуговим зв’язком, використовуєте повільне з’єднання або просто хочете обмежити кількість даних, які споживає Ваш пристрій, у iOS є прихована функція, яка допоможе Вам зробити це.
