«Светр-невидимка»: розроблено одяг, який допоможе сховатися від ШІ-систем розпізнавання
Група дослідників з Мерилендського університету в Коледж-Парку, яка працює зі штучним інтелектом Facebook, розробила “светр-невидимку”, який може приховати людину від систем розпізнавання.
Спочатку команда зосередилася на моделюванні атак: створенні “змагального шаблону””Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання, який можна було б застосувати до виявлених об’єктів на зображенні, а нейромережа не змогла б їх розпізнати. Дослідники спробували створити універсальний протиборчий патч – єдиний шаблон, який можна застосувати на будь-якому об’єкті та приховати його від системи ШІ.
Попередні спроби змагальних атак на нейромережі переважно були зосереджені на класифікаторах (надають цілісну мітку всьому зображенню), але цього разу дослідники взялися за детектори (локалізують об’єкти на зображенні).
“Детектори працюють, розглядаючи тисячі попередніх зображень з різними розташуваннями, розмірами та співвідношеннями сторін об’єкта. Щоб обманути детектор об’єктів, змагальний шаблон має змінити і всі попередні зображення, що набагато складніше, ніж обдурити єдиний висновок класифікатора”, – йдеться у дослідженні.
Дослідники довели, що складніше – не означає неможливо. У рамках широкого дослідження змагальних атак на детектори команді вдалося створити потрібний патч. Команда надрукувала 10 шаблонів на плакатах і розмістила їх у 15 місцях – усі вони знизили продуктивність детекторів у зображеннях.
This sweater developed by the University of Maryland is an invisibility cloak against AI.
It uses "adversarial patterns" to stop AI from recognizing the person wearing it. pic.twitter.com/aJ8LlHixvX
— Morning Brew ☕️ (@MorningBrew) October 25, 2022
А потім, тестуючи концепцію, подібну до гри в “паперових ляльок” (дитяча гра, в якій ляльку з картону можна було одягати в різні вбрання), команда використовувала одяг і виявила, що “светр-невидимка” значно ефективніше погіршує роботу детекторів.
“Цей стильний светр – чудовий спосіб зігрітися цієї зими. Він оснащений непромокаючою підкладкою з мікрофлісу, має сучасний крій і візерунки, які допоможуть сховатися від детекторів об’єктів. У нашій демонстрації детектор YOLOv2″Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання вдалося обдурити за допомогою шаблону, навченого на наборі даних COCO”Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання із ретельно сконструйованою метою”, – зазначає команда дослідників.
