OpenAI разработала технологию, способную с высокой точностью распознавать тексты, созданные с помощью ChatGPT, однако решила не делиться этой разработкой с общественностью. Компания опасается, что внедрение такого инструмента может отпугнуть пользователей, особенно тех, кто не владеет английским языком на высоком уровне. По данным опроса, около трети пользователей готовы отказаться от использования ChatGPT, если технология будет внедрена. Несмотря на это, обсуждения внутри компании продолжаются, но пока окончательного решения не принято.
Сотрудники OpenAI отметили, что даже при использовании водяных знаков их можно легко удалить, например, через перевод текста или добавление и удаление эмодзи. Подобные меры могут подорвать эффективность технологии. Вопросом занимались генеральный директор Сэм Альтман и технический директор Мира Мурати, но пока компания не определилась с дальнейшими шагами.
В то же время, Google также работает над аналогичной технологией под названием SynthID для выявления текста, созданного ИИ Gemini AI, которая находится на стадии бета-тестирования. Тем не менее, в OpenAI понимают важность борьбы с мошенничеством и продолжают искать способы сделать это эффективно и без ущерба для пользовательского опыта.
Эксперты в области ИИ отмечают, что проблема мошенничества с использованием текстов, созданных ИИ, становится все более актуальной. Безопасность и доверие к технологиям искусственного интеллекта напрямую зависят от способности компаний находить баланс между инновациями и защитой пользователей.
В связи с этим, в будущем можно ожидать появления новых решений и технологий, которые помогут эффективно бороться с мошенничеством, сохраняя при этом удобство и доступность использования ИИ для всех пользователей.
Источник: Новая Наука
