Что произойдёт, когда программное обеспечение, которое все стремятся внедрить, окажется слишком рискованным, чтобы кто-либо согласился его страховать? Согласно материалу Financial Times, мы скоро это выясним.
Крупнейшие страховщики, включая AIG, Great American и WR Berkley, обратились к американским регуляторам с просьбой разрешить им исключать обязательства, связанные с искусственным интеллектом, из корпоративных страховых полисов. Один из андеррайтеров охарактеризовал выдачу результатов ИИ как «слишком чёрный ящик», сообщает FT.
Как отмечает издание, у страховой отрасли есть веские причины для тревоги. Например, в марте модуль Google AI Overview ошибочно обвинил одну солнечную компанию в юридических проблемах, что привело к судебному иску на 110 миллионов долларов. В прошлом году Air Canada была вынуждена выполнить скидку, которую выдумал их чат-бот. А мошенники воспользовались цифровым клоном топ-менеджера, чтобы в ходе видеозвонка, выглядевшего совершенно достоверно, выманить 25 миллионов долларов у лондонской инжиниринговой фирмы Arup.
Однако страховщиков пугают не отдельные крупные выплаты, а системный риск — риск тысячи одновременных требований к выплатам, если массово используемая модель ИИ допустит ошибку. Как отметил один из руководителей компании Aon, страховщики способны справиться с убытком в 400 миллионов долларов в отношении одной компании. То, к чему они не готовы, — это сбой агентного ИИ, который приведёт к 10 000 выплат одновременно.
Источник: TechCrunch
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.
Социальные сети автора:
Только страховые компании понимают риски. Понимают как часто ИИ делает ошибки. Ну это естественно — страховые компании же собственными деньгами рискуют. Отсюда интересный вопрос: а вот те люди, которые внедряют беспилотные такси, системы безопасности на базе ИИ, они разве не чувствуют за собой ответственности за человеческие жизни? похоже, что нет :((
Законодательство про ИИ только формируется, а страховые компании обычно ориентируются на чёткие правила. Пока их нет — проще исключить ИИ из покрытия.
Однако страховщиков пугают не отдельные крупные выплаты, а системный риск — риск тысячи одновременных требований к выплатам, если массово используемая модель ИИ допустит ошибку. Как отметил один из руководителей компании Aon, страховщики способны справиться с убытком в 400 миллионов долларов в отношении одной компании. То, к чему они не готовы, — это сбой агентного ИИ, который приведёт к 10 000 выплат одновременно.
В такие серьезные темы как выплаты надо исключить совсем ИИ.