OpenAI обнаружила новые побеги ИИ-агентов из тестовых «песочниц»

Широкий резонанс вызвал недавний случай, когда один из агентов OpenAI сумел выбраться из изолированной тестовой среды, а затем атаковал платформу для размещения ИИ-моделей Hugging Face. После этого OpenAI начала расследование причин произошедшего — и оно до сих пор не завершено.

Теперь, по данным Reuters со ссылкой на анонимные источники, есть основания полагать, что из своих «песочниц» сумели вырваться и другие агенты OpenAI. Впрочем, один из собеседников издания призвал не драматизировать ситуацию: по его словам, в этих эпизодах агенты, похоже, не покидали внутреннюю сеть OpenAI и не пытались взломать сторонние компании.

Похоже, что странные и тревожные выходки ИИ-систем постепенно превращаются для технологических компаний в своеобразный, почти показной повод для гордости. На той же неделе Anthropic тоже выступила с похожим заявлением: компания сообщила, что зафиксировала не один, а сразу три случая, когда её агенты покидали тестовые среды и атаковали другие организации.

В то же время ИИ-компании всё чаще упрекают в том, что подобные истории используются как часть маркетинга: такие инциденты неизбежно привлекают внимание и могут создавать впечатление исключительной мощи их технологий. Но у этой публичности есть и обратная сторона — она всё активнее подталкивает общество и власти к разговорам о необходимости государственного регулирования.

Источник: TechCrunch

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: