Полностью самостоятельные системы ИИ хотят запретить в Казахстане

Мажилис одобрил в первом чтении проект закона «Об искусственном интеллекте». Особое внимание в нем уделено вопросам безопасности, передает Вечерняя Астана.

Системы ИИ будут классифицированы по степени риска – от минимального до высокого. Системы высокого риска будут отнесены к объекту критически важной информационно-коммуникационной инфраструктуры. По словам мажилисменов, это позволит обеспечить контроль их безопасности.

Также законопроект делит системы с ИИ на помощников, полуавтономные системы и полностью автономные алгоритмы. Последние будут запрещены на территории Республики Казахстан.

Справочно: автономные системы – это системы, которые способны выполнять задачи или принимать решения без вмешательства человека. Эти системы полагаются на искусственный интеллект (ИИ) и машинное обучение для самообучения, взаимодействуя с окружающей средой и соответствующим образом корректируя свое поведение. Примерами автономных систем являются самоуправляемые автомобили, беспилотники и роботы-помощники.

Кроме того, проектом запрещаются некоторые практики использования искусственного интеллекта, например:

– использование ИИ, влияющего на поведение людей без их осознанного согласия;

– использование ИИ, которое намеренно пользуется уязвимостями людей: возраст, инвалидность, социальное положение;

– оценка или классификация людей по их социальному поведению или характеристикам (социальный скоринг);

– использование ИИ для анализа эмоций людей без их согласия;

– использование ИИ для распознавания лиц в общественных местах в режиме реального времени за исключением случаев, разрешённых законом;

– создание и распространение результатов деятельности ИИ, которые запрещены законодательством.

Существенным элементом регулирования является возмещение вреда, причинённого системами ИИ. Закон предусматривает, что в случае причинения ущерба пользователям ответственность за это несут владельцы и операторы систем ИИ. Страхование ответственности за вред, причинённый ИИ, предлагается как добровольная мера, но оно может стать важным элементом защиты прав граждан.