Google створив інструмент SynthID — вшитий водяний знак проти ШІ-згенерованих зображень
Команда Google DeepMind створила інструмент SynthID, призначений позначати невіддільним водяним знаком згенеровані штучним інтелектом зображення.
SynthID спочатку буде доступний лише для користувачів генератора зображень зі штучним інтелектом Imagen від Google, який розміщено на платформі машинного навчання Google Cloud Vertex. Користувачам під час створення зображення буде надана можливість обрати, додавати водяний знак чи відмовитися від нього.
Це може стати допомогою у боротьбі з діпфейками, які набули особливого розповсюдження минулого року, з ростом популярності генеративного штучного інтелекту, передає MIT Technology Review. Водяний знак — це техніка, за допомогою якої можна вшити певний сигнал у фрагмент тексту чи зображення, який ідентифікуватиме його як згенероване. Це допоможе в тому числі захистити авторське право.
На щорічній конференції Google I/O у травні Сундар Пічаї заявив, що компанія будує свої моделі з урахуванням можливості інтеграції водяних знаків. Google через DeepMind стала першою великою технологічною компанією, яка публічно запустила такий інструмент.
Принцип роботи SynthID
Традиційно на зображення наносили водяні знаки, додаючи на них видимий символ або вносячи інформацію в метадані. Але цей метод є «крихким», водяний знак може бути втрачений при обрізанні, зміні розміру або редагуванні зображень, каже Пушміт Колі, віцепрезидент із досліджень Google DeepMind.
SynthID створюється за допомогою двох нейронних мереж. Одна з них бере оригінальне зображення і створює інше, майже ідентичне йому, але з дещо зміненими пікселями. Це створює вбудований візерунок, невидимий для людського ока. Друга нейронна мережа може виявити цей шаблон і повідомить користувачам, чи виявляє вона водяний знак або підозрює це. Згідно зі словами Колі, SynthID розроблений таким чином, що водяний знак можна виявити, навіть якщо зображення зроблено зі скріншоту або відредаговано.
Google DeepMind не єдина, хто працює над методами нанесення водяних знаків. Подібні інструменти вже існують і використовуються в генераторі ШІ-зображень Stable Diffusion з відкритим вихідним кодом. Meta також проводила дослідження щодо водяних знаків, але ще не запустила жодного публічного інструменту для нанесення та відстеження водяних знаків.
Що далі?
Колі стверджує, що водяний знак Google DeepMind більш стійкий до підробки, ніж попередні спроби створення водяних знаків для зображень, хоча все ще не є повністю захищеним. Проте, запуск Google DeepMind є хорошим першим кроком і може призвести до кращого обміну інформацією в галузі про те, які методи працюють, а які ні, каже Клер Лейбович, керівник програми AI and Media Integrity Program Partnership on AI.
Колі розповів, що інструмент нанесення водяних знаків є «експериментальним», і додав, що компанія хоче побачити, як люди ним користуються, і дізнатися про його сильні та слабкі сторони, перш ніж розгортати його більш широко. Він не повідомив, чи зробить Google DeepMind цей інструмент доступним для інших зображень, окрім тих, що генеруються Imagen.Та чи додаватиме Google водяні знаки до своїх інших ШІ-систем генерації зображень.
