TikTok запровадить автоматичне маркування зображень та відео, створених за допомогою штучного інтелекту
TikTok почне використовувати технологію, яка допоможе маркувати зображення та відео, створені штучним інтелектом та завантажені у службу обміну відео, пише Reuters.
TikTok заявив, що прийме цифровий водяний знак, який позначає, як зображення були створені та відредаговані. Технологія Content Credential була розроблена Adobe, є відкритою для використання іншими компаніями і вже прийнята такими компаніями, як OpenAI, яка є творцем ChatGPT.
TikTok вже маркує контент, створений штучним інтелектом, створений за допомогою інструментів усередині програми, але останній крок буде застосовувати мітку до контенту, створеного поза сервісом.
Щоб система працювала, і виробник генеративного інструменту ШІ, що використовується для створення контенту, і платформа, що розповсюджує контент, повинні погодитись використовувати галузевий стандарт.
Наприклад, якщо людина використовує інструмент Dall-E від OpenAI для створення зображення, OpenAI прикріплює водяний знак до отриманого зображення. Якщо це промарковане зображення потім завантажити в TikTok, воно буде автоматично позначене як створене штучним інтелектом.
Контекст
Зображення, створені штучним інтелектом, чи «дипфейки», існують уже кілька років. Але за останній рік їхня якість різко покращилася настільки, що деякі фейкові відео, зображення та аудіозаписи вже складно відрізнити від справжніх. Інструменти для їх виготовлення тепер широко доступні, що спрощує їхнє створення.
Контент, створений штучним інтелектом, уже використовувався у виборчих кампаніях у всьому світі. Наприклад, минулого року в рекламі на підтримку колишнього кандидата в президенти від Республіканської партії Рона ДеСантіса використовувався штучний інтелект, щоб імітувати голос колишнього президента Дональда Трампа.
Раніше цього року компанії Google, Microsoft, OpenAI, Meta, TikTok та Adobe заключили угоду, щоб відреагувати на поширення контенту, створеного штучним інтелектом. Йшлося про розробку технологій для ідентифікації, маркування та контролю зображень, відео та аудіозаписів, створених ШІ, перед виборами у багатьох країнах цього року.
