Меморандум, основанный на ранее подписанном Байденом исполнительном указе по ИИ, базируется на предположении, что передовые разработки в области ИИ окажут значительное влияние на национальную безопасность и внешнюю политику в ближайшем будущем.
Эксперты в области безопасности уже отмечают влияние этих изменений. «ИИ уже оказывает влияние на национальную безопасность, поскольку мы знаем, что всё больше атакующих используют ИИ для создания большего объёма и более сложных атак, особенно в области социальной инженерии и дезинформации», – говорит Мелисса Руззи, директор по ИИ в компании AppOmni.
Основная цель NSM заключается в трёх ключевых задачах: установлении лидерства США в безопасной разработке ИИ, использовании технологии ИИ для целей национальной безопасности и содействии развитию международных рамок управления.
«Наши конкуренты стремятся подорвать лидерство США в области ИИ и прибегают к экономическому и технологическому шпионажу с целью кражи американских технологий», – говорится в меморандуме, который поднимает защиту американских инноваций в сфере ИИ до уровня «приоритетной разведывательной задачи».
Документ официально определяет Институт безопасности ИИ (AI Safety Institute) в качестве основного государственного центра взаимодействия с индустрией ИИ. Этот институт будет укомплектован техническими экспертами и будет поддерживать тесные партнёрские отношения с органами национальной безопасности, включая разведывательное сообщество, Министерство обороны и Министерство энергетики.
«Действия, указанные в меморандуме, являются отличной отправной точкой для формирования общей картины текущего состояния и получения необходимой информации для принятия решений на основании данных, а не поспешных выводов, основанных на неопределённых предположениях», – поясняет Руззи.
Тем не менее, Руззи предупреждает: «Данные, которые необходимо собрать для оценки действий, весьма сложны, и даже обладая этими данными, потребуется делать предположения и компромиссы при принятии окончательных решений. Основной вызов начнётся при принятии решений после сбора данных».
Важным шагом к демократизации исследований в области ИИ является усиление поддержки пилотной программы Национального исследовательского ресурса по ИИ. Эта инициатива направлена на расширение исследовательских возможностей не только крупных технологических компаний, но и университетов, общественных организаций и малого бизнеса.
NSM также вводит Рамку по развитию управления ИИ и управления рисками в области национальной безопасности (PDF), которая устанавливает комплексные руководящие принципы для применения ИИ в задачах национальной безопасности. Эти принципы содержат требования к проведению тщательных процедур оценки рисков и мер безопасности, предотвращающих вторжения в частную жизнь, предвзятость, дискриминацию и нарушения прав человека.
В рамках Рамки особое внимание уделено вопросам безопасности, что подчеркивает важность данных аспектов. «Кибербезопасность ИИ является ключевой – мы знаем, что если ИИ будет неправильно настроен, то это может представлять такие же риски, как и ошибки в настройке SaaS-приложений, которые приводят к утечкам конфиденциальных данных», – утверждает Руззи.
На международной арене меморандум опирается на недавние дипломатические достижения, включая Международный Кодекс поведения G7 в отношении ИИ и соглашения, достигнутые на саммитах по безопасности ИИ в Блетчли и Сеуле. Примечательно, что 56 стран поддержали Политическую декларацию США по военному использованию ИИ и автономии.
Администрация Байдена также добилась дипломатической победы, получив единогласную поддержку первой резолюции Генеральной Ассамблеи ООН по вопросам ИИ, которая была спонсирована, в том числе, Китаем.
Меморандум подчёркивает важную роль полупроводникового производства в развитии ИИ, связывая это с ранее принятым Законом CHIPS (CHIPS Act), и нацеливает на действия по повышению безопасности и диверсификации цепочек поставок микрочипов, чтобы обеспечить лидерство США в области передовой вычислительной инфраструктуры.
Эта инициатива является частью более широкой стратегии администрации Байдена-Харрис по поддержке ответственных инноваций в секторе ИИ, что подчёркивает приверженность Америки сохранению технологического лидерства при соблюдении демократических ценностей и прав человека.
Источник: Artificial Intelligence News
