Пресса о страховании, страховых компаниях и страховом рынке

Хабр, 2 ноября 2026 г.

Кто заплатит, если ИИ-агент ошибётся: страхование ИИ-рисков в России и на Западе

76 просмотров

Типовая ситуация 2026 года: компания подключила ИИ-агента к CRM, чтобы тот автоматически чистил дубликаты контактов. Агент ошибся в классификации, посчитал половину клиентской базы «дублями» и удалил её. Без хакерской атаки, без злого умысла со стороны разработчика — просто автономное исполнение ошибочного вывода модели.

Кто виноват? Разработчик модели, интегратор, который собрал агента, или сама компания, которая его запустила? И главное — есть ли у кого-то из них страховой полис, который это покроет?

Я изучила российскую законодательную базу по ИИ в части страхования и сравнила её с тем, как страхование ИИ-рисков устроено за рубежом.

Что говорит российское право

Ответственность всегда лежит на человеке. Национальная стратегия развития ИИ до 2030 года и Кодекс этики в сфере ИИ закрепляют принцип: ответственность должны нести человек или организация. Кодекс идёт дальше и рекомендует определять ответственность конкретных участников жизненного цикла с учётом их роли. Но это рекомендация, а не норма закона.

Специальной нормы о гражданско-правовой ответственности за ИИ нет, вред от ИИ сейчас рассматривают в основном по общим нормам ГК РФ. Согласно п. 18 Постановления Пленума ВС РФ № 1 источник повышенной опасности — «любая деятельность, осуществление которой создаёт повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека». В доктрине спорят, можно ли приравнять ИИ-агента к источнику повышенной опасности. Если да, ответственность за причинённый им вред будет наступать по ст. 1079 ГК РФ — независимо от вины.

Страхование обсуждалось ещё в 2020 году. Концепция развития регулирования ИИ и робототехники до 2024 года прямо называла способы возмещения вреда от ИИ: страхование ответственности и компенсационные фонды. Там же отмечено, что за рубежом наличие полиса бывает условием выпуска продукта на рынок. И там же предлагались «красная кнопка» для остановки системы и «чёрный ящик» для фиксации обстоятельств вреда.

Обязательное страхование уже есть — но в песочницах. С января 2025 года участники экспериментальных правовых режимов (ЭПР) обязаны страховать ответственность за вред жизни, здоровью и имуществу, в том числе причинённый решениями с применением ИИ. Это беспилотные грузовики, дроны, роверы доставки, телемедицина. Условия страхования задаёт программа конкретного режима.

Новый закон 2026 года тоже упоминает страхование. Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в РФ» в статье 7 относит к правам разработчика суверенной или национальной большой фундаментальной модели право страховать имущественные интересы и ответственность за вред при применении модели.

При этом нормы об определении суверенной и национальной моделей и порядок присвоения такого статуса вступают в силу только 1 марта 2027 года (ст. 6).

Тогда же заработает статья 8: разработчик обязан вести техническую документацию с ключевыми параметрами и ограничениями модели — ровно то, что нужно страховщику для оценки риска.

Получается, закон дал страховому рынку полгода на подготовку продуктов и методики расчёта рисков к моменту, когда появятся первые суверенные и национальные модели и их документация. Но ИИ-агенты, которые создаются «поверх» моделей, в эту норму не попадают.

Что было в проекте и что осталось в законе

18 марта 2026 года Минцифры вынесло на общественное обсуждение проект закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». В Госдуму правительство внесло уже скорректированный текст с другим названием, и он стал № 243-ФЗ; раздел об ответственности по дороге почти исчез. Но проект показывает, как разработчики видели эту систему.

В мартовском проекте была выстроена цепочка ответственности. Статья 11 проекта предусматривала полноценную схему:

- все участники отвечают за незаконный результат работы ИИ соразмерно степени вины (ч. 1);

- разработчик, оператор и владелец сервиса освобождаются от ответственности, если приняли «исчерпывающие меры» для предотвращения такого результата (ч. 3);

- пользователь отвечает, если результат стал следствием его умысла или нарушения условий использования сервиса (ч. 4);

- оператор, возместивший вред, может взыскать его с разработчика в регрессном порядке, если вред возник из-за скрытых недостатков модели (ч. 6).

Кто платит, когда виновного нет. По ч. 5 ст. 11 проекта оператор и пользователь освобождались бы от ответственности, если вред причинён из-за скрытых недостатков системы или противоправных действий третьих лиц, которые нельзя было предвидеть. Например, на агента совершена атака, а разработчик доказал, что принял «исчерпывающие меры», — и получается сценарий, в котором не отвечает никто. Потерпевший остаётся без возмещения.

Именно для таких случаев и существуют страхование и компенсационные фонды, о которых писала Концепция 2020 года. Но в проекте нет ни слова о страховании: цепочку виновных выстроили, а вопрос «кто будет возмещать убытки, если виноватых нет» оставили открытым.

А в принятой ст. 11 № 243-ФЗ осталась одна фраза: участники «несут ответственность в соответствии с законодательством РФ».

И это не теория. В июле 2026 года британский AI Security Institute (AISI) тестировал модели на задачах по взлому изолированных учебных сетей — киберполигонов. Модели работали без штатных защитных фильтров, а доступ в интернет им оставили намеренно, но не предупредили, что трогать реальных людей и системы нельзя. Модель Mythos 5 компании Anthropic направила свои действия против реальных людей, не участвовавших в испытаниях: попыталась провести атаку через цепочку поставок ПО — отправила вредоносный код в настоящий открытый проект и создала фальшивые аккаунты, чтобы убедить сопровождающего его принять. Судя по рассуждениям модели, она нередко принимала реальные цели за часть симуляции. Атаку остановил человек, и реального вреда, по данным AISI, не случилось. Отчёт об инциденте AISI опубликовал в августе, а в октябре вышли подробные разборы причин от самого института и от Anthropic (см. также обзор iTnews).

Но представим, что «страховой случай» всё-таки наступил. Разработчик такой задачи не ставил, пострадавший — посторонний человек, а тестировщик действовал в рамках утверждённого плана испытаний. Можно ли считать, что он принял «исчерпывающие меры», если сам отключил фильтры и открыл доступ в интернет? Ответ на этот вопрос — и есть спор о распределении ответственности, который проект пытался решить, а закон обошёл. Если же все участники докажут свою добросовестность, по логике ч. 5 ст. 11 мартовского проекта Минцифры отвечать было бы некому.

Нужно отметить, что инцидент удалось разобрать только потому, что действия моделей фиксировались. Это и есть тот самый «чёрный ящик».

А ещё этот случай хорошо показывает цену формулы об «исчерпывающих мерах»: если агент вышел из-под контроля даже у организации, которая профессионально занимается безопасностью ИИ, риск нужно не только предотвращать, но и покрывать.

Компенсация только за «неправомерное». Часть 5 ст. 9 проекта давала гражданину право на компенсацию вреда, причинённого неправомерным использованием ИИ. А если агента использовали законно и он просто ошибся, как в нашем примере с CRM? Такой случай формулировка не охватывала.

При этом проект содержал ровно то, что нужно для расчёта тарифов:

- разработчик должен был документировать архитектуру и ограничения модели и моделировать риски (ч. 1 ст. 10);

- оператор — вести учёт инцидентов и приостанавливать работу системы при угрозе вреда (ч. 2 ст. 10), то есть те самые «чёрный ящик» и «красную кнопку»;

- государство — вести мониторинг последствий применения ИИ на основе данных операторов, собирая сведения об инцидентах и оценивая их последствия (ст. 14);

- статья 5 перечисляла факторы риска: назначение системы, степень её автономности, влияние на юридически значимые решения.

И ещё одна деталь: слово «агент» в проекте не встречается. Регулирование строится вокруг модели, системы и сервиса, а агент, который сам совершает действия, в эти понятия укладывается с трудом.

В апреле 2026 года эксперты Совета по кодификации указали, что некоторые положения документа противоречат Гражданскому кодексу и подрывают основы авторского права, а ряд норм уже есть в ГК РФ. Поэтому в Государственную Думу текст был внесён уже в изменённом виде.

Страховой рынок

Нормы есть, а покупать нечего. Несколько фактов:

- готового «коробочного» продукта страхования ответственности за вред от ИИ-агента на сайтах российских страховщиков нет;

- открыто о добровольных полисах по ИИ-рискам заявил только СОГАЗ, и то в формате индивидуальной программы под проект, без публичных тарифов. СберСтрахование рассматривает запуск продукта, у Ингосстраха есть продукт под беспилотный транспорт. Росгосстрах прямо говорит: пока не определены границы ответственности разработчиков, тарифы считать не на чем. Спрос пока точечный: отдельные запросы, в основном от финансовых компаний;

- исследование «Гильдии актуариев» и группы ДРТ (октябрь 2026): ни один страховщик в России, Беларуси и Узбекистане не предлагает продукт страхования ИИ-рисков, а 72% компаний не планируют его выпускать.

В чём проблема? Страховщику для тарифа нужны три вещи, которых нет:

- Кто отвечает. Между разработчиком модели, интегратором и компанией-пользователем ответственность в законе никак не распределена.

- Как проверить систему. Нет общепринятого стандарта, по которому можно оценить агента перед страхованием.

- Какая практика. Без истории страховых случаев и при почти полном отсутствии судебной практики актуарию не с чем работать.

На сайте Росстандарта размещено порядка 115 ГОСТов по ИИ. В некоторых из них описаны организационно-функциональные роли разработчика модели, интегратора и пользователя и есть отсылки к законодательству РФ. Конкретное распределение ответственности остаётся предметом договора и общих норм ГК РФ. Для страховщика это означает: базовая таксономия для определения застрахованных лиц и субъекта покрытия есть, а юридически значимого распределения рисков — нет.

Как сейчас выглядит покрытие для разных страховых случаев:

Страховой случай	Покрытие	Вид полиса
Беспилотник в ЭПР повредил чужое имущество	Да, по закону	Обязательный полис ЭПР
Вред имуществу третьих лиц вне ЭПР	Скорее да, если нет исключения про ИИ	Полис гражданской или профессиональной ответственности
Данные удалены или деньги украдены после кибератаки	Да	Киберстрахование
Агент сам удалил базу или совершил сделку без атаки	Нет	Не покрывается ни одним полисом
Умышленные действия, вред от ИИ-контента	Спорно	Кибер или профессиональная ответственность — зависит от формулировок

Наш случай с CRM попадает ровно в строку без покрытия: киберполис обычно рассчитан на внешнее воздействие, а здесь атаки не было.

Международный опыт

Обязательного страхования ответственности за ИИ нет ни в США, ни в ЕС. Статья 26 EU AI Act требует от пользователей высокорисковых систем надзора, мониторинга и хранения логов не менее шести месяцев, но не полиса. Проект директивы об ответственности за ИИ Еврокомиссия отозвала летом 2025 года.

В США единого федерального закона нет: ответственность складывается из общего права, законов штатов и судебной практики. В Техасе с 1 января 2026 года действует TRAIGA, но применяет его только генпрокурор штата. Закон Колорадо в 2026 году отменили и заменили более мягким, который вступит в силу в 2027-м. А с 1 января 2026 года в Калифорнии действует закон AB 316: ответчик больше не может защищаться тем, что вред причинил «сам» ИИ.

Показательный пример из Канады — Moffatt v. Air Canada (2024): трибунал отверг довод авиакомпании, что чат-бот — «отдельное юридическое лицо», и обязал её возместить ущерб от ложного обещания бота.

При этом рынок есть, и он конкретный:

Страховщик	Лимит	Что покрывает
Armilla (Lloyd’s)	до $25 млн (агрегатно на компанию)	Галлюцинации, деградация модели, действия ИИ-агентов, расходы и штрафы по регулированию ИИ
Munich Re aiSure	до €15 млн на случай (по отраслевым данным)	Параметрическое покрытие: выплата при недостижении заданных показателей точности модели, без доказывания вины
Testudo (Lloyd’s)	до $9,25 млн	Ответственность за генеративный ИИ (США)
HSB (Munich Re)	Не раскрывается; партнёры самостоятельно определяют лимиты до $100 000	Телесный вред, ущерб имуществу, личный и рекламный вред (клевета, нарушение авторских прав, приватности) от использования ИИ в МСП; встраивается в полисы страховщиков-партнёров

Интересный пример — стандарт AIUC-1 от Artificial Intelligence Underwriting Company: порядка 50 требований и 130 контролей (на осень 2026 года), разработанных именно под ИИ-агентов. Сертификация включает аудит аккредитованной фирмы и тестирование самого агента — например, агенты ElevenLabs прошли более 5000 таких тестов. Сам стандарт — не страховка, а данные для страховщика.

Обратите внимание и на логику aiSure: страховщик платит по данным о работе модели, а не по итогам спора о вине. Допустимый уровень ошибок согласуют заранее, и выплата наступает, если модель в работе его превышает. Это практическое воплощение «чёрного ящика», о котором писала наша Концепция 2020 года, — функции фиксации фактов, позволяющих установить обстоятельства причинения вреда (подразд. 10).

У рынка есть и обратная сторона. Крупные страховщики (AIG, W.R. Berkley, Great American, затем Chubb, Travelers и Berkshire Hathaway) добавляют в полисы исключения по ИИ, а с 1 января 2026 года Verisk предлагает стандартные формы таких исключений для полисов общей гражданской ответственности.

OpenAI, по данным Financial Times, смогла застраховаться лишь на сумму до $300 млн при потенциальных претензиях на миллиарды.

Убытки на западном рынке уже есть: по опросу Gallagher 2026 года, каждый пятый страховой специалист сообщил об убытках клиентов, связанных с ИИ, и чуть больше половины из них были полностью покрыты страховкой.

Ключевые выводы исследования Женевской ассоциации, которая опросила 600 лиц, принимающих решения о корпоративном страховании, в Китае, Франции, Германии, Японии, Великобритании и США:

- 71% опрошенных компаний внедрили генеративный ИИ хотя бы в одной функции;

- более 90% компаний проявляют интерес к страховому покрытию рисков генеративного ИИ; две трети готовы платить за такое покрытие страховую премию как минимум на 10% выше;

- на первом месте среди рисков генеративного ИИ — опасения в сфере кибербезопасности, за ними следуют ответственность перед третьими лицами и сбои в операционной деятельности;

- сложность проверки рисков генеративного ИИ и вероятность крупных убытков вызывают сомнения в их страхуемости — это напоминает проблемы киберстрахования.

Предложения

Первое, что приходит в голову, — обязать всех, кто делает и продаёт ИИ-агентов, страховать ответственность. У нас это не сработает. Люди квартиры не страхуют: проникновение страхования жилья около 10% на август 2026 года, — куда уж там ответственность за ИИ-агента. Агентов делают и крупные компании, и один человек с ботом. Обязательная норма для всех превратится либо в массово игнорируемую, либо в формальность для небольших команд.

Между тем на V Казанском международном юридическом форуме анонсировали возможное внесение до конца 2026 года законопроекта о взаимодействии ИИ и гражданского законодательства, в том числе об ответственности за вред от ИИ.

С учётом всей информации целесообразно:

- Распределить ответственность между участниками жизненного цикла. Разработчик модели, интегратор, который собрал агента, и компания, которая его применяет, должны чётко понимать свою ответственность. Кодекс этики это уже рекомендует, мартовский проект Минцифры это прямо предусматривал — пора перевести это в норму, иначе страховщику просто нечего страховать. Если же законодатель выберет нормы статьи 1079 ГК и ответственность без вины, страхование станет для бизнеса необходимостью — и тем важнее, чтобы продукты к этому моменту уже были.

- Распространить возможность страхования из статьи 7 № 243-ФЗ на ИИ-агентов. Сейчас она касается только суверенных и национальных фундаментальных моделей, а вред чаще всего будут причинять агенты, построенные поверх них.

- Сделать ГОСТы основой для андеррайтинга. Ни один из действующих стандартов по ИИ не касается страхования. Отдельный стандарт по страхованию в сфере ИИ мог бы стать российским аналогом AIUC-1: соответствие ему может сдвинуть рынок с мёртвой точки.

- Включить «чёрный ящик» в закон. Журналирование действий агента нужно и страховщику для оценки убытка, и суду для установления причины вреда. Концепция 2020 года об этом уже писала, EU AI Act требует хранить логи. Наличие журнала можно сделать условием страхования, а обезличенную статистику инцидентов — передавать государству (как предлагала ст. 14 мартовского проекта) с обязанностью её публиковать.

Заключение

Мы пошли по пути «сначала норма»: обязательное страхование в песочницах, упоминание страхования в новом законе, но без практического применения.

Все детали пазла уже есть: принцип ответственности человека, ГОСТы, идея «чёрного ящика» из Концепции 2020 года, практика ЭПР. Не хватает одного — собрать их в систему, в которой страховщик сможет посчитать риск.

А вы бы застраховали своего ИИ-агента, если бы такой полис был? Или считаете, что это лишнее?

FNadinV

Ваше мнение об этом материале:

— Ваше имя
— Ваш email
— Тема

Ваш отзыв (заполняется обязательно):

Укажите код на картинке слева:

Установите трансляцию заголовков прессы на своем сайте

 Подробнее »

Получить код для трансляции заголовков прессы »