Папа против власти алгоритмов: Лев XIV предупредил об угрозах ИИ для человечества

Папа Лев XIV опубликовал свою первую энциклику — и она посвящена не только искусственному интеллекту.

Документ под названием Magnifica Humanitas говорит о «защите человеческой личности в эпоху ИИ». Но за темой технологий скрывается куда более широкий и острый вопрос: кто на самом деле будет управлять будущим — общество или узкая группа людей, сосредоточившая в своих руках данные, деньги и власть?

В 200-страничной энциклике, представленной вместе с Крисом Олахом, сооснователем AI-компании Anthropic, Лев XIV предупреждает: технологии, которые создаются и контролируются небольшой элитой, по определению не могут служить общему благу.

«Когда такая власть сосредоточена в руках немногих, она становится непрозрачной и уходит от общественного контроля. Это повышает риск развития, которое создаёт новые зависимости, исключения, манипуляции и неравенство», — пишет папа.

По его словам, ИИ, как и любой крупный технологический прорыв, прежде всего усиливает позиции тех, у кого уже есть ресурсы: деньги, экспертиза и доступ к данным. А значит, у элит появляется ещё больше возможностей влиять на информационную повестку, потребительские привычки, демократические процессы и экономику — в собственных интересах.

Энциклика вышла спустя несколько дней после того, как президент Дональд Трамп отложил подписание указа об ИИ. Документ должен был дать государству право контролировать новые модели до их выхода на рынок, но, по сообщениям, его подписание было отложено по настоянию венчурного инвестора и бывшего «ИИ-царя» Белого дома Дэвида Сакса.

Лев XIV призывает выстраивать развитие ИИ на основе «чётких критериев и эффективного надзора» — с участием тех сообществ, на которые эти технологии будут напрямую влиять.

Ещё жёстче папа высказывается о гонке ИИ-вооружений: стремлении компаний и государств создавать всё более мощные алгоритмы и всё более крупные массивы данных ради геополитического или коммерческого превосходства.

«Разоружиться — значит отказаться от идеи, что техническая мощь автоматически даёт право управлять», — подчёркивает он.

Но, как отмечает Лев XIV, проблема началась не с искусственного интеллекта. Ещё в 1891 году Лев XIII в энциклике Rerum Novarum говорил о концентрации власти в эпоху промышленной революции. Сегодня мы видим похожие процессы в новой форме: покупка Илоном Маском Twitter и использование платформы в политических целях, сотни миллионов долларов от технологических элит, направляемые в супер-PAC для блокировки регулирования ИИ.

Именно эти тенденции, по всей видимости, стали одной из причин появления Magnifica Humanitas.

Главный вывод папы прост и тревожен: возможности современного ИИ настолько велики, что цена ошибки становится беспрецедентно высокой.

Профессор Школы права Нотр-Дама Паоло Кароцца, член Папской академии социальных наук, отметил, что дезинформация и дипфейки на базе ИИ уже «разъели нашу способность отличать правду от лжи» — а это напрямую влияет на демократическую политику.

По его словам, практика технологических компаний по «сбору и манипулированию» человеческими данными ставит под угрозу одну из базовых свобод современного человека — когнитивную свободу.

Источник: TechCrunch

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: