ЄС готує повну заборону на використання ШІ в масовому стеженні та соціальному рейтингу
Євросоюз обдумує введення повної заборони на використання технології штучного інтелекту (ШІ) в цілому ряді сфер, включаючи масове стеження та соціальний рейтинг. Офіційно про це повинні повідомити на наступному тижні, але документ вже циркулює онлайн, повідомляє сайт Politico. Якщо законопроєкт буде схвалений, ЄС позначить свою жорстку позицію стосовно ШІ, яка сильно відрізняється від позиції США та Китаю.
Згідно із законопроєктом, країни-члени будуть зобов’язані сформувати поради по оцінці потенційно небезпечних систем ШІ. А компанії, які розробляють та продають заборонені програми в ЄС — в тому числі іноземні — будуть оштрафовані на суму до 4% від глобальних надходжень, якщо продовжать свою діяльність на території Євросоюзу, пише Verge.
Окрім цього, в пропозиції перераховані наступні заходи:
- Заборона на ШІ для «масового стеження», в тому числі на системи, які стежать за людьми безпосередньо або збирають про них відомості з інших джерел.
- Заборона на системи ШІ, які створюють бали соціального кредиту, тобто оцінюють чиюсь благонадійність на підставі соціальної поведінки або особистих якостей.
- Спеціальний дозвіл на використання систем віддаленої біометричної ідентифікації на кшталт розпізнавання облич в громадських місцях.
- Необхідність оповіщення людини перед взаємодією з ШІ, крім тих випадків, коли це очевидно.
- Контроль над небезпечними системами ШІ, враховуючи ті, які несуть пряму загрозу безпеці, як робомобілі, і ті, які здатні вплинути на засоби до існування людини, наприклад, при прийманні на роботу, прийняття юридичних та фінансових рішень.
- Оцінка систем які несуть ризик перед введенням в експлуатацію — вони повинні бути зрозумілі сторонньому спостерігачеві та бути навчені на «високоякісних» даних.
- Створення «Європейської ради зі штучного інтелекту», що складається з представників кожної національної держави, яка буде допомагати Єврокомісії вирішувати, які системи ШІ вважати небезпечними.
Невідомо, які зміни будуть внесені в цей документ перед офіційним оголошенням 21 квітня. Але як тільки законопроєкт буде офіційно внесений на обговорення, члени Європарламенту зможуть відкоригувати його, перш ніж він відправиться на голосування в кожну національну державу ЄС.
На початку минулого року Єврокомісія обговорювала заборону на використання технології розпізнавання облич в громадських місцях терміном від трьох до п’яти років. Винятки могли бути зроблені для дослідницьких проєктів, а також з метою забезпечення безпеки. Потім законодавці відмовилися від мораторію. Замість цього Єврокомісія закликала кожну з країн-учасниць ЄС встановити власні правила.
