Microsoft заплатить 15 тис. доларів тим, хто зможе обманути Bing AI: що відомо
Microsoft запрошує айтівців з усього світу взяти участь в AI Bounty Program та отримати винагороду від $2000 до $15 000 за виявлення вразливостей у Bing AI, які мають вплив на безпеку користувачів.
Розмір винагороди залежить від рівня вразливості.
Щоб отримати винагороду, виявлені вразливості мають відповідати наступним критеріям:
— вразливість має бути невідомою раніше для Microsoft,
— має мати критичний або важливий рівень серйозності за критеріями вразливості компанії,
— потрібно представити чіткі, лаконічні та відтворювані кроки в письмовій формі або у відеоформаті,
— надати інженерам компанії інформацію, необхідну для швидкого відтворення, розуміння та розв’язання проблеми.
Приклади можливих вразливостей:
— Спровокувати Bing AI генерувати в чаті непристойні та навіть образливі відповіді, що порушують вимоги компанії, пише «24 Техно».
— Отримати доступ до закритої інформації, пов’язаної з даними машинного навчання Bing AI, процесом прийняття рішень або конфіденційною інформацією про користувачів.
— Змінити роботу ШІ так, щоб це поширювалося не лише на ваш із ним діалог, а й на всі інші бесіди з користувачами.
