OpenAI приобрела стартап Promptfoo для улучшения безопасности ИИ-агентов

OpenAI в понедельник объявила о приобретении Promptfoo — стартапа в сфере ИИ-безопасности, основанного в 2024 году для защиты LLM от онлайн-злоумышленников.

Лаборатория, работающая на переднем крае, сообщила в публикации в блоге, что после закрытия сделки технология Promptfoo будет интегрирована в OpenAI Frontier — корпоративную платформу OpenAI для ИИ-агентов.

Разработка независимых ИИ-агентов, выполняющих цифровые задачи, вызвала ажиотаж вокруг роста производительности. Но вместе с тем она дала злоумышленникам новые возможности получать доступ к конфиденциальным данным или манипулировать автоматизированными системами. Эта сделка подчёркивает, как лаборатории переднего края в спешке пытаются доказать, что их технологии можно безопасно использовать в критически важных бизнес-операциях.

Promptfoo основали Иэн Вебстер и Майкл Д’Анджело, чтобы разрабатывать инструменты, с помощью которых компании могут тестировать уязвимости безопасности в LLM, включая интерфейс и библиотеку с открытым исходным кодом. Компания сообщает, что её продукты используют более 25% компаний из списка Fortune 500.

С момента основания Promptfoo привлекла всего 23 млн долларов и оценивалась в 86 млн долларов после последнего раунда в июле 2025 года, согласно PitchBook. OpenAI не раскрыла сумму сделки.

В публикации OpenAI говорится, что технология Promptfoo позволит платформе агентов выполнять автоматизированное red-teaming-тестирование, оценивать агентные рабочие процессы на предмет проблем безопасности и мониторить активность на наличие рисков и потребностей в соблюдении требований. Компания также заявила, что рассчитывает продолжить развитие предложения Promptfoo с открытым исходным кодом.

Источник: TechCrunch

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: