Новые модели Claude будут добавлять в сгенерированный текст незаметный водяной знак

Компания Anthropic объявила, что новые модели Claude будут вставлять в генерируемый текст незаметный водяной знак. Он не повлияет на смысл или читаемость, но будет сохраняться при копировании и вставке.

Маркировка появится в моделях, выпущенных 2 августа и позже. Anthropic также работает над добавлением функции в более старые версии.

Этот шаг входит в число обязательств Anthropic по повышению прозрачности в рамках закона ЕС об искусственном интеллекте. Водяной знак поможет издателям, школам и университетам бороться с выдачей ИИ-текстов за собственные.

При этом серьезное редактирование, перефразирование или перевод могут сделать невозможным обнаружение водяного знака. Также его наличие само по себе не доказывает, что текст был создан именно Claude, ведь даже вычитка или перевод с помощью ИИ могут оставить маркер.

В июне Anthropic призвала замедлить или приостановить развитие ИИ. Компания опасается, что вскоре ИИ может достичь этапа, когда начнет самостоятельно разрабатывать свои следующие версии и большинство институтов окажутся к этому не готовы. Для замедления технологии, как отмечается в статье, необходимо согласие нескольких лабораторий в разных странах.