Что произойдёт, когда программное обеспечение, которое все стремятся внедрить, окажется слишком рискованным, чтобы кто-либо согласился его страховать? Согласно материалу Financial Times, мы скоро это выясним.
Крупнейшие страховщики, включая AIG, Great American и WR Berkley, обратились к американским регуляторам с просьбой разрешить им исключать обязательства, связанные с искусственным интеллектом, из корпоративных страховых полисов. Один из андеррайтеров охарактеризовал выдачу результатов ИИ как «слишком чёрный ящик», сообщает FT.
Как отмечает издание, у страховой отрасли есть веские причины для тревоги. Например, в марте модуль Google AI Overview ошибочно обвинил одну солнечную компанию в юридических проблемах, что привело к судебному иску на 110 миллионов долларов. В прошлом году Air Canada была вынуждена выполнить скидку, которую выдумал их чат-бот. А мошенники воспользовались цифровым клоном топ-менеджера, чтобы в ходе видеозвонка, выглядевшего совершенно достоверно, выманить 25 миллионов долларов у лондонской инжиниринговой фирмы Arup.
Однако страховщиков пугают не отдельные крупные выплаты, а системный риск — риск тысячи одновременных требований к выплатам, если массово используемая модель ИИ допустит ошибку. Как отметил один из руководителей компании Aon, страховщики способны справиться с убытком в 400 миллионов долларов в отношении одной компании. То, к чему они не готовы, — это сбой агентного ИИ, который приведёт к 10 000 выплат одновременно.
Источник: TechCrunch
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.
Социальные сети автора:
Только страховые компании понимают риски. Понимают как часто ИИ делает ошибки. Ну это естественно — страховые компании же собственными деньгами рискуют. Отсюда интересный вопрос: а вот те люди, которые внедряют беспилотные такси, системы безопасности на базе ИИ, они разве не чувствуют за собой ответственности за человеческие жизни? похоже, что нет :((
Законодательство про ИИ только формируется, а страховые компании обычно ориентируются на чёткие правила. Пока их нет — проще исключить ИИ из покрытия.
Однако страховщиков пугают не отдельные крупные выплаты, а системный риск — риск тысячи одновременных требований к выплатам, если массово используемая модель ИИ допустит ошибку. Как отметил один из руководителей компании Aon, страховщики способны справиться с убытком в 400 миллионов долларов в отношении одной компании. То, к чему они не готовы, — это сбой агентного ИИ, который приведёт к 10 000 выплат одновременно.
В такие серьезные темы как выплаты надо исключить совсем ИИ.
Разве это не странно? Ведь технологии, которые должны повышать безопасность, вдруг становятся источником рисков? Как мы можем доверять алгоритмам, если не знаем, как они принимают решения? И что будет, если ИИ ошибется? Стоит ли рисковать своим будущим из-за неопределенности?
То, что ИИ-агенты до сих пор подвержены так называемым «галлюцинациям», знаю уже из собственного опыта. Проверяю каждый результат, выданный ИИ-агентом. Но это на бытовом уровне. А то, что это может привести к масштабным вот таким убыткам — осознала только сейчас. И это действительно большие риски. И правильно, что страховые компании хотят разделить их с корпорациями, доверившими ИИ-агентам сложную работу без должного контроля.