Substack будет проверять тексты на признаки использования ИИ

Substack теперь поможет пользователям определить, могло ли то, что они читают, быть написано ИИ. Новый инструмент, который появится на платформе, сможет сканировать посты, заметки, ответы и комментарии, чтобы оценить, какая часть текста могла быть сгенерирована ИИ или написана с его помощью, согласно записи в блоге.

Инструмент работает на базе компании Pangram, специализирующейся на обнаружении ИИ, и внедряется в веб-версии и приложении для iOS; запуск на Android ожидается «скоро». Читатели смогут анализировать контент длиннее 100 слов, выбрав опцию «Проверить на ИИ-текст» в меню с тремя точками в правом верхнем углу поста.

Сооснователь и генеральный директор Substack Крис Бест говорит, что интеграция с Pangram призвана повысить прозрачность на платформе по мере того, как ИИ становится всё более распространённым в социальных сетях. «Главная проблема не в том, что люди используют ИИ, и не в качестве его результатов, — пишет Бест. — Проблема возникает тогда, когда есть несоответствие между ожиданиями читателя и реальностью, особенно когда он, сам того не зная, вкладывает своё внимание во что-то, за чем нет человеческой мысли. Это Claudefishing».

В соответствии с этим изменением Substack также позволит авторам объяснять читателям свой процесс написания с помощью нового заявления «Как я это создаю». Писатели также смогут проверять свои черновики с помощью Pangram, и у них будет возможность сообщать о неточных результатах.

Бест отмечает, что «Pangram может лишь определить, использовался ли ИИ для создания текста, но не то, был ли он создан с большой человеческой заботой, и не то, использовались ли инструменты ИИ в качестве источника».