Новости искусственного интеллекта и нейросетей

Генпрокуроры штатов США начали расследование в отношении OpenAI

Логотип OpenAI отображается на экране смартфона, лежащего на отражающей поверхности, на которую проецируются строки компьютерного кода
Источник изображения: Samuel Boivin / NurPhoto / Getty Images

Коалиция генеральных прокуроров штатов начала расследование в отношении OpenAI.

Как сообщает The Wall Street Journal, в пятницу компания получила повестку от генерального прокурора Нью-Йорка. В ней запрашивались документы, связанные с широким кругом тем, включая рекламу компании, вовлечённость и удержание пользователей, склонность моделей к поддакиванию, обращение с потребительскими и медицинскими данными, а также отношение к несовершеннолетним и пожилым людям.

Смотрите видео на удобном для вас ресурсе!
YouTube ВК.Видео RuTube ОК

«ИИ — это новая и мощная технология, и мы каждый день работаем над тем, чтобы безопасно приносить её преимущества людям ответственным образом», — заявил представитель OpenAI. «Мы серьёзно относимся к вопросам, поднятым генеральными прокурорами штатов, и намерены конструктивно взаимодействовать с их ведомствами».

Представитель также сказал: «Сегодня ChatGPT включает более защищённый опыт для несовершеннолетних и людей, находящихся в трудных ситуациях, с мерами безопасности, которые направляют их к ресурсам в реальном мире и к доверенным контактам среди людей. Мы считаем, что к детям следует относиться как к детям, поэтому мы создали прогнозирование возраста, выпустили родительские инструменты, чтобы помогать родителям направлять использование ИИ их детьми, и запретили рекламу, ориентированную на детей».

Компания не уточнила, какие штаты участвуют в расследовании, и не сообщила дополнительных подробностей о том, какая информация была запрошена.

Недавно OpenAI одержала победу над своим сооснователем Илоном Маском в громком судебном процессе после того, как Маск обвинил компанию в нарушении её учредительного соглашения. (Ведущий адвокат Маска заявил, что обжалует решение.)

Однако OpenAI по-прежнему сталкивается с исками по самым разным вопросам — от предполагаемого нарушения авторских прав до предполагаемой роли ChatGPT в самоубийствах пользователей. Ранее в этом месяце генеральный прокурор Флориды Джеймс Утмайер подал иск против OpenAI и её генерального директора Сэма Альтмана, утверждая, что OpenAI и Альтман «проигнорировали внутренние и внешние предупреждения о безопасности, подвергли детей серьёзному риску и позволили опасному продукту попасть к миллионам жителей Флориды».

Недавно Альтман извинился перед сообществом Тамблер-Ридж в Канаде после массовой стрельбы; он признал, что OpenAI не уведомила правоохранительные органы после того, как компания выявила и заблокировала аккаунт ChatGPT предполагаемого стрелка.

На прошлой неделе компания объявила, что конфиденциально подала документы для выхода на биржу.

Источник: TechCrunch

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.

Интересно? Поделиться:

9 комментариев к “Генпрокуроры штатов США начали расследование в отношении OpenAI”

  1. На мой взгляд расследование это сигнал: эпоха свободного плавания для ИИ компаний заканчивается. Теперь: Будут чёткие правила работы с данными. Увеличится прозрачность алгоритмов. Разовьётся законодательство учитывающее специфику генеративных моделей. Это хорошо. Без регулирования риски (утечки данных, дискриминация, дезинформация) будут расти. Но важно чтобы законы не задушили инновации. OpenAI вероятно станет примером золотой середины — баланса между коммерцией и этикой.

    Ответить

  3. Важно отметить, что само расследование не означает установления нарушений. На данном этапе власти собирают информацию и оценивают потенциальные риски для потребителей.

    Ответить

  4. Что ж, контролировать новые технологии и предупреждать возможные опасности с ними связанные бесспорно нужно. Главное чтобы с контролем не перегибали палку, потому что свобода слова и свобода самовыражения (если их не используют во зло) очень важны и ограничивать без серьёзной необходимости их нельзя.

    Ответить

  5. Расследование генпрокуроров США против OpenAI это первый шаг к созданию правового поля для ИИ. Если регуляторы найдут нарушения.

    Ответить

  6. Честно говоря, когда я прочитала новость о том, что генпрокуроры штатов США начали расследование в отношении OpenAI, у меня смешанные чувства. С одной стороны, я понимаю, что такие мощные технологии, как те, что разрабатывает OpenAI, требуют пристального внимания и контроля. Важно, чтобы они использовались ответственно и не несли вреда.

    Ответить

  7. Интересно наблюдать, как всё больше внимания уделяется не только возможностям ИИ, но и вопросам ответственности разработчиков. Если расследование действительно началось, то его результаты могут повлиять на правила работы всей индустрии искусственного интеллекта, а не только одной компании. Будем следить за развитием ситуации.

    Ответить

  8. История с расследованием против OpenAI показывает, что эпоха бесконтрольного развития искусственного интеллекта заканчивается. Чем мощнее становятся ИИ-системы, тем больше возникает вопросов: как используются персональные данные, насколько безопасны такие технологии для детей и людей в уязвимом состоянии, и кто несёт ответственность за последствия их применения.
    Сам факт расследования ещё не означает вину компании, но это сигнал для всей индустрии: развитие искусственного интеллекта должно идти вместе с прозрачностью, этическими стандартами и реальными механизмами защиты пользователей. Технологии, способные влиять на миллионы людей, не могут существовать без общественного и государственного контроля.

    Ответить

  9. Все потенциальные риски ИИ для людей пока предусмотреть невозможно. ИИ-технологии развиваются бурно и, увы, практически бесконтрольно. Что называется «вещь в себе». И прежде всего нужно подвергать проверкам и ограничивать самих создателей ИИ-моделей. Т.к. именно они закладывают в эти технологии потенциально опасные возможности. Пример со взломом (правда моделями другого флагмана этой индустрии) сетей нац. безопасности США говорит о многом.

    Ответить

Добавить комментарий

Оставляя комментарий вы соглашаетесь на обработку персональных данных в соответствии с политикой конфиденциальности, соглашаетесь с пользовательским соглашением. Ваш адрес email не будет опубликован. Обязательные поля помечены *

Рекомендуем почитать

Подпишитесь на нашу рассылку

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам:

Отправить
Продолжая использовать наш сайт, вы соглашаетесь с использованием файлов cookie. Они помогают нам обеспечивать корректную работу сайта и делать его более удобным.
Принять
Подробнее…
Политика конфиденциальности