Маск ведет США к AI-first: безопасность принесена в жертву скорости

В Соединённых Штатах начал действовать необычный Департамент правительственной эффективности (DOGE) под управлением миллиардера Илона Маска. Новая команда быстро внедряет технологии в федеральные учреждения. Особое внимание привлекает разработка чат-бота на базе искусственного интеллекта для Управления общих служб (GSA), которое отвечает за правительственные здания и IT-инфраструктуру. Предполагается, что чат-бот будет анализировать данные о контрактах и закупках, чтобы определять структуру государственных расходов.

Эксперты считают, что такое использование ИИ повышает риск утечек и некорректных решений, так как подобные системы часто «выдумывают» факты и могут раскрывать конфиденциальную информацию. Ещё в 2023 году был принят указ, требовавший «безопасного, надёжного и ответственного» развития ИИ, но первый день правления Дональда Трампа ознаменовался отменой этого документа. С тех пор в приоритете — «двигаться быстро», несмотря на возможные непредсказуемые последствия.

DOGE уже пытался внедрить генеративные модели, но не все эксперименты оказались успешными: развёртывание по крайней мере одного инструмента остановили, а тестовый помощник для написания кода сменил название с Cursor на GitHub Copilot. При этом в Департаменте образования уже начали использовать ИИ для обработки чувствительных данных, что вызывает дополнительные вопросы о безопасности.

Собственная система GSA может помочь DOGE ускорить пересмотр федерального бюджета, хотя сомнительная точность таких алгоритмов способна привести к ошибочным рекомендациям. Планируется единый центр для анализа госконтрактов, но резкие шаги в духе «AI-first» подходят не всем. Некоторые наблюдатели считают, что риски перевесят выгоды и первые трещины могут стать заметны уже вскоре.

Источник: SecurityLab.ru