З появою інструментів штучного інтелекту, які можуть швидко створювати модифіковані зображення та відео, виготовлення фейкових зображень для поширення політичної дезінформації перед майбутніми президентськими виборами в США стало простіше, ніж будь-коли. За даними Bloomberg, Midjourney пропонує повністю заборонити політичні зображення. Як повідомляється, Девід Хольц, генеральний директор Midjourney, сказав користувачам під час чату на Discord, що компанія близька до того, щоб заборонити такі зображення, як зображення Байдена і Трампа, протягом наступних 12 місяців.
“Я знаю, що робити зображення Трампа весело – я роблю зображення Трампа”, – сказав він користувачам, які були присутні на сесії. “Трамп естетично дуже цікавий. Однак, напевно, краще просто не робити цього – краще трохи відволіктися під час цих виборів. Побачимо”.
Як зазначає Bloomberg, раніше люди вже використовували штучний інтелект компанії для створення фейків про арешт Трампа. Компанія припинила безкоштовні випробування свого ШІ-генератора зображень після того, як ці зображення – разом із сумнозвісними фейками про Папу Римського, одягненого в пальто в стилі Баленсіаги, – стали вірусними.
Наразі в компанії вже діють правила, що забороняють створювати “публічних осіб, що вводять в оману”, і “зображення подій”, які “можуть ввести в оману”. Однак Bloomberg все ще зміг створити модифіковані зображення Трампа, вкритого спагеті, використовуючи стару версію системи Midjourney, тоді як нова версія відмовилася генерувати модифіковані зображення колишнього президента. Звісно, навіть якщо Midjourney заборонить зображення відомих політиків, вона лише захистить свою платформу від того, щоб не викликати гнів критиків і не опинитися в центрі уваги цього виборчого сезону. Це не завадить використанню інструментів штучного інтелекту в політичних дезінформаційних кампаніях або поширенню фейкової інформації для маніпулювання виборами в цілому.
Інші технологічні компанії також вжили заходів, щоб запобігти політичній дезінформації або принаймні полегшити її виявлення. ChatGPT незабаром почне тегувати зображення, створені за допомогою DALL-E 3, а Meta працює над розробкою технології, яка може виявити й позначити, чи було зображення, відео або аудіокліп створено за допомогою штучного інтелекту.
