С 2 августа 2026 года вступает в силу статья 50 Европейского AI Act, которая обязывает провайдеров генеративного искусственного интеллекта помечать сгенерированный контент. Это нововведение направлено на повышение прозрачности и безопасность использования ИИ-технологий, особенно в контексте публикации синтетических материалов.

Обязанности провайдеров и деплойеров

Статья 50 AI Act требует от провайдеров генеративного ИИ, чтобы выдача была помечена машиночитаемо и достоверно определялась как синтетическая. Также от тех, кто публикует такой контент, требуется раскрывать информацию о дипфейках и сгенерированных текстах на общественно значимые темы. В рамках этого закона Еврокомиссия разработала кодекс практик, состоящий из двух секций: одна для провайдеров, другая для деплойеров. Подписание кодекса является добровольным, однако выполнение обязательств — принудительным. За несоблюдение статьи 50 предусмотрены штрафы до €15 миллионов или 3% от глобального оборота. К концу июля 2023 года около 190 организаций подписали кодекс. В секции провайдеров значатся такие гиганты, как Google, Microsoft, OpenAI, Anthropic, Mistral и Meta. В секции деплойеров можно увидеть компании, такие как Getty Images, Lufthansa и Lenovo. Однако среди подписантов нет китайских или российских компаний, а также таких гигантов, как Apple и Amazon.

Внедрение водяных знаков

10 августа 2023 года Anthropic обновила справочную статью о том, как их модель Claude помечает сгенерированный контент. Теперь в текст будут внедряться незаметные водяные знаки, которые сохраняются даже при копировании и редактировании. Это делается на уровне модели и не зависит от источника текста, будь то чат, API или другие платформы. К сгенерированным файлам и изображениям прикрепляются метаданные по стандарту C2PA. Однако текущие модели Claude не будут иметь этой функции, и для них установлен «переходный период» без конкретных сроков.

Проблемы с детекцией ИИ-контента

Несмотря на обязательства по маркировке, на данный момент нет надежных инструментов для проверки меток ИИ-контента. Anthropic обещает в будущем предоставить информацию о том, как проверять свои метки, но пока детектора от Claude не существует. OpenAI запустила публичный верификатор, который может определять только изображения и аудио, а текст пока не помечается. Google планирует внедрить метки для текста Gemini через SynthID с 2024 года, однако доступ к этой технологии ограничен. Сторонние детекторы, такие как GPTZero, показывают низкую точность, основываясь на анализе текстовых паттернов, что делает их ненадежными для определения источника контента.

Парадокс маркировки

Интересный момент заключается в том, что ИИ-текст может не подлежать маркировке, если он прошёл человеческую редактуру и за него несут ответственность. Это означает, что если юрист подписал документ, он отвечает за него, независимо от того, как он был создан. Таким образом, маркировка вводится не только для идентификации источника, но и для проверки ответственности за контент. Google, как пионер в этой области, стремится отличать качественный контент от сгенерированного. Например, в X уже введена автоматическая пометка «Made with AI», а в LinkedIn появилась кнопка «Выглядит как ИИ-слоп». Однако определить водяные знаки в тексте визуально невозможно, так как они зашифрованы и считываются по принципу наличия определённых слов. Таким образом, вступление в силу статьи 50 AI Act и внедрение технологий маркировки создают новые вызовы и возможности для индустрии генеративного ИИ, требуя от всех участников рынка большей прозрачности и ответственности.