Детекторы ШИ-текстов не дают абсолютной гарантии.

Без абсолютної гарантії. Детектори не можуть на 100% визначити текст, створений штучним інтелектом

Инструменты обнаружения текстов, созданных искусственным интеллектом, могут работать достаточно точно. Они все равно не обеспечивают полной уверенности. Результат зависит от развития речевых моделей. Алгоритмы меняются постоянно.

Как работают современные детекторы

Системы типа Pangram и Originality.ai анализируют сотни мелких закономерностей в тексте. Они оценивают не только отдельные слова. Важно их взаимное расположение. Алгоритмы находят математические признаки, незаметные человеку.

Разработчики признают пределы таких систем. Генеральный директор Pangram Макс Сперо отметил, что компания собирает больше данных. Цель – повысить уровень уверенности. Сто процентной точности добиться не удастся.

Руководитель Originality.ai Джон Гиллгам сравнил определение ШИ-текста с прогнозом погоды. Алгоритм работает с вероятностями. Он не дает абсолютной уверенности. Даже высокий показатель не гарантирует верный результат.

Быстрое развитие ChatGPT, Claude и Gemini усложняет задачи. Признаки использования ИИ сегодня могут исчезнуть завтра после обновления модели. Есть сервисы, которые перерабатывают сгенерированный текст. Они делают его более похожим на человеческое.

Детекторы действуют по принципу черного ящика. Даже их создатели не всегда объясняют конкретные комбинации признаков, приведших к выводу.

Водяные знаки и частичное использование ИИ

Цифровые водяные знаки предлагают другой способ для определения происхождения контента. Закон ЕС об искусственном интеллекте предусматривает маркировку определенного материала, созданного или измененного ИИ. Предусмотрены также машиносчитываемые водяные знаки. Их можно обходить или удалять.

Anthropic начала внедрять водяные знаки для текстов Claude. Исследователи вскоре нашли способы их обхода. Google использует невидимый SynthID. Компания также использует метаданные C2PA для изображений, видео и музыки.

Эксперт по цифровой криминалистике профессор Дартмутского колледжа Хани Фарид считает, что несовершенство технологий не означает отказ от них. Водяные знаки и детекторы могут являться лишь частью системы защиты. Эту систему приходится постоянно совершенствовать.

Еще сложнее выявить контент, в котором ИИ применили частично. Человек мог написать текст самостоятельно. Затем она попросила нейросеть его отредактировать. Водяной знак покажет факт вмешательства. Он не объяснит масштаб перемен.

Специалисты советуют не полагаться на результат одного детектора. Важными остаются проверка источников информации, редакционные стандарты и критическое мышление.