ИИ не может отличить текст, написанный человеком, от текста, созданного ИИ
Объем текстов, созданных ИИ, становится настолько большим, что вопрос о «создателе» перестает быть чисто теоретическим. Если не найти решение, могут пострадать люди. И в первую очередь студенты.
Ученые Стэнфордского университета показали, что существующие сегодня системы ИИ, которые должны распознавать тексты, созданные машиной, работают крайне ненадежно. По крайней мере, 20% текстов, написанных человеком, все существующие на сегодня детекторы считают созданными машиной. Это очень опасно, поскольку ведет к обвинениям людей в плагиате. Самой уязвимой группой оказываются студенты.
После громкого запуска ChatGPT не менее семи разработчиков предложили в качестве ответной меры детекторы ИИ. По словам разработчиков таких детекторов, ИИ способен определить, был ли контент на английском языке написан другим ИИ. Эти новые алгоритмы предлагаются преподавателям, журналистам и другим людям в качестве инструмента для выявления плагиата и дезинформации.
Но, согласно новой работе ученых из Стэнфорда, есть одна (очень большая) проблема: детекторы не особенно надежны. Хуже того, они особенно ненадежны, когда автор (человек) не является носителем английского языка.