Microsoft заплатить 15 тис. доларів тим, хто зможе обманути Bing AI: що відомо

Microsoft запрошує айтівців з усього світу взяти участь в AI Bounty Program та отримати винагороду від $2000 до $15 000 за виявлення вразливостей у Bing AI, які мають вплив на безпеку користувачів.

Розмір винагороди залежить від рівня вразливості.

Щоб отримати винагороду, виявлені вразливості мають відповідати наступним критеріям:

— вразливість має бути невідомою раніше для Microsoft,

— має мати критичний або важливий рівень серйозності за критеріями вразливості компанії,

— потрібно представити чіткі, лаконічні та відтворювані кроки в письмовій формі або у відеоформаті,

— надати інженерам компанії інформацію, необхідну для швидкого відтворення, розуміння та розв’язання проблеми.

Приклади можливих вразливостей:

— Спровокувати Bing AI генерувати в чаті непристойні та навіть образливі відповіді, що порушують вимоги компанії, пише «24 Техно».

— Отримати доступ до закритої інформації, пов’язаної з даними машинного навчання Bing AI, процесом прийняття рішень або конфіденційною інформацією про користувачів.

— Змінити роботу ШІ так, щоб це поширювалося не лише на ваш із ним діалог, а й на всі інші бесіди з користувачами.