Європарламент прийняв законопроєкт про штучний інтелект

Європейський парламент у середу прийняв законопроєкт про штучний інтелект (ШІ), спрямований на захист основних прав, демократії, верховенства права та екологічної стійкості від штучного інтелекту (ШІ) з високим ступенем ризику, а також на стимулювання інновацій, ідеться в повідомленні органу ЄС.

Нові правила забороняють застосування штучного інтелекту, яке може порушувати права громадян. Приклади включають біометричну категоризацію на основі конфіденційних персональних даних або створення баз даних розпізнавання осіб з використанням зображень облич, які не були цілеспрямовано завантажені з інтернету чи замкнутих телевізійних мереж. Крім того, забороняють використання систем машинного розпізнавання емоцій на робочому місці та в школах, а також штучного інтелекту для класифікації громадян відповідно до їхнього соціального класу або походження та систем, які можуть впливати на поведінку людей чи користуватися їхньою вразливістю.

Системи віддаленої біометричної ідентифікації (RBI) не доступні для правоохоронних органів, за деякими винятками. RBI в режимі реального часу буде використовуватися лише за умови дотримання суворих гарантій. Наприклад, обмежена в часі та географії, за наявності спеціального судового або адміністративного дозволу. Вони можуть бути використані, зокрема, для пошуку зниклих безвісти або для запобігання терористичним атакам. Використання таких систем ex-post, після того, як злочин було встановлено, вважається високоризикованим і тому вимагає судового дозволу.

Інші системи штучного інтелекту з високим ступенем ризику також підпадають під чіткі зобов’язання. До них належать, наприклад, критична інфраструктура, освіта і навчання, працевлаштування, основні приватні й державні послуги, правоохоронні органи, управління міграцією і кордонами, правосуддя і певні системи демократичних процесів. При використанні таких систем необхідно оцінювати і зменшувати ризики, вести журнали використання та забезпечувати людський нагляд. Громадяни матимуть право скаржитися на системи штучного інтелекту й отримувати роз’яснення щодо рішень, які впливають на їхні права на основі систем штучного інтелекту з високим ступенем ризику.

Системи ШІ загального призначення і моделі ШІ, які вони використовують, повинні відповідати вимогам прозорості, включаючи авторське право ЄС і публікацію детальних резюме контенту, що використовується для навчання. До високопродуктивних моделей ШІ, які становлять системні ризики, застосовуються додаткові вимоги, зокрема щодо проведення оцінювання моделей, оцінки та зменшення системних ризиків, а також повідомлення про інциденти.

Згідно з новим законодавством, у державах – членах ЄС має бути створене регуляторне середовище для випробувань і тестування в реальних умовах із залученням МСП та стартапів, щоб забезпечити виведення на ринок зрілих і протестованих інноваційних систем штучного інтелекту.

Остаточний текст закону ще має бути офіційно затверджений Радою держав – членів ЄС та опублікований в «Офіційному віснику ЄС». Регламент набуде чинності на 20-й день після публікації.

Євродепутати підкреслили, що нові правила орієнтовані на людей, зосереджені на захисті прав споживачів, дозволяючи при цьому впроваджувати інновації та використовувати економічні можливості. «Для нас завжди було пріоритетом те, що регулювання ЄС у сфері ШІ повинно не тільки зосереджуватися на безпеці людей і враховувати ризики, пов’язані з використанням ШІ, а й забезпечувати рівні умови для цифрових МСП», – заявили депутати Європарламенту.

Зокрема Едіна Товт зазначила: «Важливо, щоб розробка і використання ШІ в Європі залишалися під контролем людини, були безпечними, прозорими та недискримінаційними, а також слугували добробуту суспільства і навколишнього середовища».

Джерело: MTI