Страхование ИИ: черный ящик или бомба замедленного действия?

Технологии искусственного интеллекта развиваются стремительно, и многие компании спешат их внедрить. Однако, когда программное обеспечение становится настолько распространенным, что его риски сложно оценить, возникает вопрос: кто будет нести ответственность в случае сбоев?

Крупные страховые компании, такие как Great American, Chubb и WR Berkley, обращаются к регуляторам США с просьбой разрешить исключать из корпоративных полисов ответственность, связанную с широким применением ИИ. Один из андеррайтеров назвал выходные данные моделей ИИ «слишком непрозрачными».

AIG, упомянутая в той же статье, заявила, что «не искала специально эти [сообщенные] исключения и не планирует их внедрять в настоящее время».

Страховую индустрию есть причины опасаться. Недавний случай с Google AI Overview, ложно обвинившим солнечную компанию в юридических проблемах, привел к иску на сумму 110 миллионов долларов. В прошлом году Air Canada была вынуждена предоставить скидку, придуманную ее чат-ботом. А мошенники использовали цифровую копию голоса руководителя для кражи 25 миллионов долларов у лондонской инженерной фирмы Arup во время видеозвонка, который казался полностью реальным.

Страховщиков пугает не один крупный убыток, а системный риск одновременных претензий, когда широко используемая модель ИИ допускает ошибку. Как отметил один из руководителей Aon, страховщики могут справиться с убытком в 400 миллионов долларов для одной компании. Но они не готовы к сбою ИИ, который спровоцирует 10 000 одновременных потерь.