Пресса о страховании, страховых компаниях и страховом рынке

IT Channel News, 17 июля 2024 г.

О гражданской ответственности при применении технологий ИИ

375 просмотров

Эксперт компании К2Тех рассказала об особенностях реализации экспериментально-правовых режимов и прокомментировала изменения, недавно внесенные в законодательство: виды вреда, причиненного ИИ, которые будут попадать под обязательное гражданское страхование, а также возможные ограничения, которые применяются к экспериментам с использованием искусственного интеллекта в рамках работы экспериментальных правовых режимов.

Экспериментально-правовые режимы (ЭПР) реализуются на основании закона «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» от 2021 года. Сейчас ЭПР применяются в сфере телемедицины, грузоперевозок с помощью дронов, беспилотного автотранспорта и такси, бизнес-аналитики больших данных и медицинских исследований эффективности лекарственных препаратов.

Если ранее страхование рисков в ЭПР носило добровольный характер, то есть программой экспериментально-правового режима могло предусматриваться требование к субъекту правового режима о необходимости страхования гражданской ответственности, то по истечении трех лет проведения экспериментов государство перешло к вопросу обязательного страхования.

Согласно законопроекту, одобренному Советом Федерации 3 июля 2024 года, гражданская ответственность стала обязательной. Теперь она распространяется на всех участников экспериментально-правовых режимов. Новелла закона предусматривает ответственность участников ЭПР, являющихся юридическими лицами или индивидуальными предпринимателями, за причинение вреда жизни, здоровью или имуществу лиц, которые принимали участие в реализации экспериментально-правового режима, в том числе с использованием технологий, разработанных с применением искусственного интеллекта.

Законодатель вводит комиссии, которые будут рассматривать случаи возникновения и причинения вреда. Также субъекты ЭПР обязаны вести реестр лиц, которые работают с ИИ технологиями, и программных средств с применением ИИ.

Рассмотрим примеры случаев наступления гражданской ответственности при применении технологий ИИ.

- Если при эксплуатации автономных средств, например, беспилотного транспорта, причинен вред жизни или здоровью пассажира, то на основании гражданско-правовых отношений поставщик средства несет ответственность и компенсирует нанесенный вред.

- Если медицинский помощник ввел ошибочную дозу пациенту, который является участником экспериментально-правового режима, возникает морально-этическая дилемма: угроза жизни и здоровью человека, с одной стороны, с другой — добровольное согласие на участие в эксперименте. При этом закон позволил это сделать как пациенту, так и поставщику медицинского изделия. В этом случае поставщик медицинского помощника будет нести ответственность за вред, причиненный здоровью.

- Если система распознавания лиц дала сбой и своевременно не распознала преступника, в результате действий которого нанесен имущественный вред, вина лежит на поставщике оборудования с встроенным программным обеспечением. В случае, если же неисправность оборудования могла быть вызвана скачком напряжения, будет собрана комиссия, которая расследует обстоятельства и примет решение о правомерности или неправомерности привлечения к ответственности поставщика ПО на основании собранных доказательств.

Участники экспериментально-правовых режимов находятся в особой зоне регулирования отношений по обороту персональных данных. Однако в случае утечки или использования данных злоумышленниками, ответственность ложится на оператора, который являлся поставщиком или разработчиком ПО. При этом каждый случай также следует рассматривать отдельно, ведь утечка могла возникнуть при некорректной настройке или эксплуатации ПО.

На сегодняшний день наиболее сложной областью для законодательного регулирования является генеративный искусственный интеллект, который может галлюцинировать и никогда не отвечает одинаково на один и тот же вопрос. Его непредсказуемость не позволяет пока сформировать соответствующую норму права.

Если говорить об ограничениях как таковых, то их не существует. Изначально экспериментально-правовые режимы вводились с целью развития инновационных технологий вне рамок жесткого законодательного регулирования. В контексте ограничений можно упомянуть лишь о принципе прозрачности и перечне сфер, где применяются ЭПР.

Один из принципов установления экспериментально-правового режима — обеспечение прозрачности. То есть компания, участвующая в эксперименте должна проинформировать получателей товаров или услуг систем, при разработке которых используется ИИ, о том, что они получают товар или услугу в рамках эксперимента.

Сейчас применение экспериментально правовых режимов ограничено рядом отраслей и конкретных сфер: телемедицины, грузоперевозок с помощью дронов, беспилотного автотранспорта и такси, бизнес-аналитики больших данных и медицинских исследований эффективности лекарственных препаратов. Для медицинских помощников, которые контролируют параметры состояния организма и при необходимости вводят препараты, существуют отдельный правовой режим. В других сферах и отраслях, которые не участвуют в реализации ЭПР, существуют свои механизмы регулирования.

Анна СМИРНОВА, руководитель направления искусственного интеллекта К2Тех

В материале упоминаются: Компании, организации: Совет Федерации Федерального Собрания РФ 3162

Ваше мнение об этом материале:

— Ваше имя
— Ваш email
— Тема

Ваш отзыв (заполняется обязательно):

Укажите код на картинке слева:

Установите трансляцию заголовков прессы на своем сайте

 Подробнее »

Получить код для трансляции заголовков прессы »