Microsoft, Google, OpenAI та інші компанії підпишуть з Білим домом угоду щодо принципів розробки ШІ

За інформацією Bloomberg, сьогодні представники провідних американських компаній, які займаються штучним інтелектом, публічно дадуть Білому дому зобов’язання щодо безпеки їхніх технологій.

Очікується, що Microsoft, Google, OpenAI та інші візьмуть на себе зобов’язання відповідально розробляти та впроваджувати ШІ. Хоча зобов’язання мають добровільний характер, вони стали результатом зусиль адміністрації президента Байдена та Конгресу. Парламент США витратив місяці на проведення слухань щодо питання, яке викликало серед конгресменів значні розбіжності. Зобов’язання компаній закінчаться, коли Конгрес ухвалить закон, що регулює ШІ.

Розробники технології ШІ й раніше попереджали щодо ризиків її використання. Адміністрація Байдена зі свого боку пропонувала керівні принципи розробки ШІ, у тому числі «Структуру управління ризиками» від Національного інституту стандартів та технологій, що виникла внаслідок багатомісячної взаємодії з лідерами галузі та експертами.

Допомагаємо нашим захисникам:

Допоможемо зібрати 240 тис. грн. на АВТО для дівчини бельгійки з інтернаціонального легіону ЗСУ. Реквізити тут.

У документі, який, ймовірно, буде опублікований сьогодні, Білий дім запропонує вісім зобов’язань, орієнтованих на безпеку та соціальну відповідальність. Вони включають:

• Дозвіл спроб незалежних експертів підштовхувати моделі до поганої поведінки (процес, відомий як «червона команда»)
• Обмін інформацією про довіру та безпеку з державними органами та іншими компаніями
• Використання водяних знаків на аудіо- та візуальному контенті для ідентифікації контенту, створеного ШІ
• Інвестиції у засоби кібербезпеки
• Заохочення третіх осіб до розкриття вразливостей безпеки
• Інформування про соціальні ризики ШІ, такі як неналежне використання та упередженість
• Пріоритет досліджень соціальних ризиків ШІ
• Використання передових систем штучного інтелекту, відомих як граничні моделі, для розв’язання найсерйозніших проблем суспільства

Поки що зусилля урядів та компаній помітно відстають від темпів розвитку ШІ, викликаного гострою конкуренцією між корпораціями та побоюваннями, що китайські технології у сфері ШІ можуть обігнати західні досягнення.