ИИ меняет кибербезопасность быстрее, чем компании успевают адаптироваться — даже Google

За кулисами мероприятия в Лос-Анджелесе операционный директор Google Cloud Фрэнсис деСоуза сформулировал главный тезис о безопасности ИИ: её нельзя «прикрутить потом».

По его словам, компании, внедряющие ИИ, должны сразу строить стратегию вокруг трёх вещей: данных, безопасности и платформенного подхода. Иначе появляется «теневой ИИ» — сотрудники начинают использовать потребительские AI-инструменты без контроля компании, создавая риски утечек и нарушений.

ДеСоуза подчёркивает: единого облака у большинства компаний на самом деле нет. Даже если бизнес выбрал одного провайдера, он всё равно использует SaaS-сервисы, партнёрские системы и сторонние облака. Поэтому защита должна быть единой — для разных облаков, моделей, агентов, промптов и data pipeline.

Угрозы тоже ускорились. По его словам, время между первым взломом и следующим этапом атаки сократилось с 8 часов до 22 секунд. Старые подходы к защите просто не успевают.

Особенно опасны AI-агенты внутри корпоративных систем: они могут находить забытые хранилища данных, старые SharePoint-серверы и устаревшие права доступа — всё то, что годами оставалось незамеченным. А значит, могут случайно или намеренно раскрыть чувствительную информацию.

Решение, по мнению деСоузы, — защита на скорости машин: AI-native и агентные системы безопасности, где люди не управляют каждым действием вручную, а контролируют автономную оборону. Это уже не только задача CISO, а вопрос уровня совета директоров.

Но есть важный нюанс: сами платформы тоже не всегда успевают за рисками.

Недавние публикации The Register показали, что даже крупные облачные платформы вроде Google Cloud сталкиваются с болезненными сбоями на стыке ИИ, API и биллинга. Несколько разработчиков получили счета на тысячи долларов после несанкционированных обращений к Gemini через скомпрометированные API-ключи.

Проблема в том, что ключи, изначально созданные для одних сервисов Google, могли получить доступ к новым AI-возможностям после изменения их области действия. Для пользователей это стало неожиданностью: они не включали эти сценарии осознанно и не рассчитывали на такие расходы.

Отдельный риск — задержка при отзыве ключей. По данным исследователей Aikido, в некоторых случаях удалённый ключ мог продолжать работать ещё несколько минут. Для атакующего этого достаточно, чтобы успеть вывести данные или накрутить расходы.

Главный вывод: даже если платформа говорит о безопасности ИИ, компаниям нельзя полагаться только на настройки по умолчанию. API-ключи, лимиты, доступы и права нужно регулярно проверять самостоятельно.

ИИ может ускорить бизнес. Но без контроля он так же быстро ускорит утечки и расходы.

Источник: TechCrunch

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: