Новости искусственного интеллекта и нейросетей

Правительство США обязало Anthropic заблокировать доступ к Fable 5 и Mythos 5 из-за соображений национальной безопасности

Anthropic
Источник изображения: Cath Virginia / The Verge

Вечером в пятницу правительство США приказало Anthropic заблокировать доступ к Fable 5 и Mythos 5 для всех иностранных государств как на территории США, так и за их пределами, в связи с опасениями в области национальной безопасности. Это распоряжение распространялось и на сотрудников Anthropic. Чтобы выполнить эти требования, компания полностью отключила доступ к моделям для всех клиентов.

Смотрите видео на удобном для вас ресурсе!
YouTube ВК.Видео RuTube ОК

В заявлении Anthropic сообщила, что, хотя она и выполняет распоряжение, правительство «не предоставило конкретных подробностей о своих опасениях в сфере национальной безопасности». Вместо этого, как утверждает компания, любые доказательства потенциального джейлбрейка были представлены устно, а обнаруженные уязвимости были незначительными и доступны через другие модели, включая GPT 5.5.

В своем заявлении компания перечисляет меры, которые она предприняла для защиты Fable и Mythos, включая сотрудничество с правительствами США и Великобритании и изменение политики хранения данных, чтобы помочь отслеживать попытки использовать их в злонамеренных целях. Далее она заявляет:

Мы даже не получили раскрытия информации о вызывающем обеспокоенность неуниверсальном потенциальном джейлбрейке, который привел бы к вредоносному результату. Потенциальные джейлбрейки, о которых нам сообщили, представляют собой либо полностью безобидные ответы, либо незначительные находки, не дающие каких-либо специфических преимуществ Mythos.

Источник: The Verge

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.

Интересно? Поделиться:

7 комментариев к “Правительство США обязало Anthropic заблокировать доступ к Fable 5 и Mythos 5 из-за соображений национальной безопасности”

  2. Как мужчина который ценит и технологический прогресс, и стабильность в обществе я склоняюсь к тому, что решение оправдано. Почему? ИИ это двойная сила. Его возможности безграничны, но и риски велики. Вспомните как даже базовые модели уже используются для создания дезинформации и мошенничества. Продвинутые версии могут быть куда опаснее. Ответственность перед обществом. Компании вроде Anthropic безусловно двигают науку вперёд, но они не всегда могут учесть все сценарии использования своих продуктов. Государство здесь выступает как страховой полис. Пример для подражания. Возможно другие страны последуют примеру США и это приведёт к созданию международных стандартов безопасности в ИИ.

    Ответить

  3. Мне кажется это правильное решение — когда вероятность шпионажа высокая, меры предосторожности не могут быть лишними.

    Ответить

  4. Это реальная государственная экспортная мера США, которая фактически привела к глобальному отключению двух самых продвинутых AI-моделей Anthropic из-за опасений их потенциального двойного (в том числе военного/кибер) применения.

    Ответить

  5. Я понимаю, что безопасность страны – это приоритет, но когда речь заходит о таких технологиях, как Fable 5 и Mythos 5, которые, как я слышала, обладают огромным потенциалом для исследований и развития, такое решение вызывает много вопросов. Неужели эти модели действительно представляют такую угрозу, что их пришлось полностью заблокировать?

    Ответить

  6. Интересно, насколько серьёзные возможности у Fable 5 и Mythos 5, если вопрос дошёл до уровня национальной безопасности. Похоже, развитие ИИ всё чаще становится не только технологической, но и политической темой. Будет любопытно увидеть, как это решение повлияет на конкуренцию между разработчиками ИИ.

    Ответить

  7. Вот, буквально вчера из новостей:
    Генерал Джошуа Радд, возглавляющий Агентство национальной безопасности США и Киберкомандование Пентагона, сообщил: Mythos «проникла практически во все наши засекреченные системы не за недели, а за часы», — пишет The Economist.
    Ранее Белый дом запретил иностранцам доступ к новейшим ИИ-моделям Anthropic — Mythos 5 и Fable 5. Причем доступ был ограничен даже для ближайших союзников, включая страны разведывательного альянса Five Eyes — Великобританию, Канаду, Австралию и Новую Зеландию.
    Еще раньше министр финансов США Бессент заявлял о том, что новые ИИ-модели могут рекордно быстро обходить киберзащиту крупнейших компаний и организаций.
    Так что дыма без огня не бывает, а в АНБ здорово подгорело! Видимо хорошо обучили в Anthropic и Mythos 5 и Fable 5, а затем они попали в руки злоумышленников.

    Ответить

Добавить комментарий

Оставляя комментарий вы соглашаетесь на обработку персональных данных в соответствии с политикой конфиденциальности, соглашаетесь с пользовательским соглашением. Ваш адрес email не будет опубликован. Обязательные поля помечены *

Рекомендуем почитать

Подпишитесь на нашу рассылку

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам:

Отправить
Продолжая использовать наш сайт, вы соглашаетесь с использованием файлов cookie. Они помогают нам обеспечивать корректную работу сайта и делать его более удобным.
Принять
Подробнее…
Политика конфиденциальности