Згідно із законопроєктом, країни-члени будуть зобов’язані сформувати поради по оцінці потенційно небезпечних систем ШІ. А компанії, які розробляють та продають заборонені програми в ЄС — в тому числі іноземні — будуть оштрафовані на суму до 4% від глобальних надходжень, якщо продовжать свою діяльність на території Євросоюзу, пише Verge.

Окрім цього, в пропозиції перераховані наступні заходи:

  • Заборона на ШІ для «масового стеження», в тому числі на системи, які стежать за людьми безпосередньо або збирають про них відомості з інших джерел.
  • Заборона на системи ШІ, які створюють бали соціального кредиту, тобто оцінюють чиюсь благонадійність на підставі соціальної поведінки або особистих якостей.
  • Спеціальний дозвіл на використання систем віддаленої біометричної ідентифікації на кшталт розпізнавання облич в громадських місцях.
  • Необхідність оповіщення людини перед взаємодією з ШІ, крім тих випадків, коли це очевидно.
  • Контроль над небезпечними системами ШІ, враховуючи ті, які несуть пряму загрозу безпеці, як робомобілі, і ті, які здатні вплинути на засоби до існування людини, наприклад, при прийманні на роботу, прийняття юридичних та фінансових рішень.
  • Оцінка систем які несуть ризик перед введенням в експлуатацію — вони повинні бути зрозумілі сторонньому спостерігачеві та бути навчені на «високоякісних» даних.
  • Створення «Європейської ради зі штучного інтелекту», що складається з представників кожної національної держави, яка буде допомагати Єврокомісії вирішувати, які системи ШІ вважати небезпечними.

Невідомо, які зміни будуть внесені в цей документ перед офіційним оголошенням 21 квітня. Але як тільки законопроєкт буде офіційно внесений на обговорення, члени Європарламенту зможуть відкоригувати його, перш ніж він відправиться на голосування в кожну національну державу ЄС.

На початку минулого року Єврокомісія обговорювала заборону на використання технології розпізнавання облич в громадських місцях терміном від трьох до п’яти років. Винятки могли бути зроблені для дослідницьких проєктів, а також з метою забезпечення безпеки. Потім законодавці відмовилися від мораторію. Замість цього Єврокомісія закликала кожну з країн-учасниць ЄС встановити власні правила.