Мажилис одобрил в первом чтении проект закона «Об искусственном интеллекте». Особое внимание в нем уделено вопросам безопасности, передает Вечерняя Астана.
Системы ИИ будут классифицированы по степени риска – от минимального до высокого. Системы высокого риска будут отнесены к объекту критически важной информационно-коммуникационной инфраструктуры. По словам мажилисменов, это позволит обеспечить контроль их безопасности.
Также законопроект делит системы с ИИ на помощников, полуавтономные системы и полностью автономные алгоритмы. Последние будут запрещены на территории Республики Казахстан.
Справочно: автономные системы – это системы, которые способны выполнять задачи или принимать решения без вмешательства человека. Эти системы полагаются на искусственный интеллект (ИИ) и машинное обучение для самообучения, взаимодействуя с окружающей средой и соответствующим образом корректируя свое поведение. Примерами автономных систем являются самоуправляемые автомобили, беспилотники и роботы-помощники.
Кроме того, проектом запрещаются некоторые практики использования искусственного интеллекта, например:
– использование ИИ, влияющего на поведение людей без их осознанного согласия;
– использование ИИ, которое намеренно пользуется уязвимостями людей: возраст, инвалидность, социальное положение;
– оценка или классификация людей по их социальному поведению или характеристикам (социальный скоринг);
– использование ИИ для анализа эмоций людей без их согласия;
– использование ИИ для распознавания лиц в общественных местах в режиме реального времени за исключением случаев, разрешённых законом;
– создание и распространение результатов деятельности ИИ, которые запрещены законодательством.
Существенным элементом регулирования является возмещение вреда, причинённого системами ИИ. Закон предусматривает, что в случае причинения ущерба пользователям ответственность за это несут владельцы и операторы систем ИИ. Страхование ответственности за вред, причинённый ИИ, предлагается как добровольная мера, но оно может стать важным элементом защиты прав граждан.
