Пресса о страховании, страховых компаниях и страховом рынке

Казахстанский портал о страховании, 10 февраля 2025 г.

ЕС определяет запрещенные практики в области ИИ

390 просмотров

В связи с началом применения Закона ЕС об искусственном интеллекте Европейская комиссия опубликовала руководящие принципы, запрещающие определенные практики использования искусственного интеллекта в соответствии с новыми правилами, «которые считаются неприемлемыми из-за их потенциальных рисков для европейских ценностей и основных прав».

Наиболее рискованные и запрещенные практики ИИ — от вредоносных манипуляций до социального скоринга и удаленной биометрической идентификации — первыми попадают под действие Закона ЕС об ИИ, который будет вводиться поэтапно в течение двух лет, но первые меры вступят в силу со 2 февраля 2025 года. Руководящие принципы не являются обязательными и были одобрены, но официально не приняты.

Кроме того, юридическая фирма Hogan Lovells заявила, что первая волна правил EI AI Act требует от компаний внедрять грамотность в области ИИ в своих фирмах посредством программ обучения и повышения осведомленности. Обязательства по грамотности, вероятно, требуют, чтобы все поставщики и разработчики любой системы ИИ, независимо от их классификации риска по четырем группам, достигли определенного уровня грамотности в области ИИ, объясняет Hogan Lovells.

«Этот стандарт применяется к любому сотруднику организации и другому персоналу, который занимается эксплуатацией и использованием систем ИИ от их имени. Это предполагает, что сторонние поставщики и подрядчики также могут подпадать под действие стандарта», — предупреждают юристы.

В соответствии с этими правилами будет запрещено продавать, внедрять или использовать в общей сложности восемь методов ИИ:

Вредоносная манипуляция и обман. Системы ИИ, которые используют подсознательные методы, выходящие за рамки сознания человека, или преднамеренные манипулятивные или обманные методы с целью или результатом искажения поведения, причиняющего или с большой вероятностью способного причинить значительный вред.

Вредоносное использование уязвимостей. Системы ИИ, которые используют уязвимости, обусловленные возрастом, инвалидностью или определенной социальной или экономической ситуацией, с целью или с эффектом искажения поведения, причиняющего или с большой долей вероятности причиняющего значительный вред.

Социальная оценка. Системы ИИ, которые оценивают или классифицируют физических лиц или группы лиц на основе социального поведения или личных или личностных характеристик, при этом социальная оценка приводит к пагубному или неблагоприятному обращению, когда данные поступают из несвязанных социальных контекстов или такое обращение неоправданно или несоразмерно социальному поведению.

Оценка и прогнозирование риска совершения индивидуального уголовного преступления. Системы ИИ, которые оценивают или прогнозируют риск совершения людьми уголовного преступления исключительно на основе профилирования или черт личности и характеристик; за исключением поддержки человеческой оценки, основанной на объективных и проверяемых фактах, напрямую связанных с преступной деятельностью.

Нецелевой сбор данных для разработки баз данных распознавания лиц. Системы ИИ, которые создают или расширяют базы данных распознавания лиц посредством нецелевого сбора изображений лиц из Интернета или с видеозаписей камер видеонаблюдения.

Распознавание эмоций. Системы ИИ, которые определяют эмоции на рабочем месте или в учебных заведениях, за исключением медицинских целей или соображений безопасности.

Биометрическая категоризация. Системы ИИ, которые классифицируют людей на основе их биометрических данных, чтобы вывести или сделать вывод об их расе, политических взглядах, членстве в профсоюзе, религиозных или философских убеждениях, половой жизни или сексуальной ориентации; за исключением маркировки или фильтрации законно полученных наборов биометрических данных, в том числе в сфере правоохранительной деятельности.

Удаленная биометрическая идентификация в режиме реального времени. Системы искусственного интеллекта для удаленной биометрической идентификации в режиме реального времени в общедоступных местах в целях обеспечения правопорядка; за исключением случаев, когда это необходимо для целевого поиска конкретных жертв, предотвращения конкретных угроз, включая террористические атаки, или поиска подозреваемых в совершении конкретных преступлений.

Поставщикам и разработчикам ИИ предоставлен шестимесячный льготный период до принятия каких-либо мер принудительного характера до 2 августа 2025 года, когда вступит в силу вторая фаза закона, охватывающая поставщиков универсальных моделей ИИ.

Подготовлено порталом Allinsurance.kz

Ваше мнение об этом материале:

— Ваше имя
— Ваш email
— Тема

Ваш отзыв (заполняется обязательно):

Укажите код на картинке слева:

Установите трансляцию заголовков прессы на своем сайте

 Подробнее »

Получить код для трансляции заголовков прессы »