Россиян хотят обязать маркировать контент, созданный нейросетями
Скоро, возможно, придётся подписывать каждый пост в соцсетях, если он хоть немного «тронут» нейросетью. В России готовят поправки, которые обяжут пользователей маркировать созданный ИИ контент.
Идею прорабатывает рабочая группа Совета при президенте по кодификации гражданского законодательства под руководством Павла Крашенинникова. Изменения хотят внести сразу в два документа — Гражданский кодекс и принятый в июле закон об ИИ. Пока в обоих обязанности помечать «машинное» творчество нет.
Деталей в проекте мало, и это главная проблема. Формат и порядок маркировки определит какой-то «уполномоченный государственный орган», но какой именно — не сказано. Не прописан и порог: сколько процентов контента должно быть сгенерировано, чтобы требовать пометку. А формулировка «создан с применением нейросети» вообще может зацепить материалы, которые ИИ просто отредактировал.
Вопросов больше, чем ответов. Кто ставит метку, если один пользователь создал картинку, а другой её выложил? Кто будет проверять наличие пометок и что грозит нарушителям? Пока ни на один из них ответа нет. По словам источников, нынешняя версия документа требует «существенной доработки».
Скептики говорят, что против фейков норма не сработает: авторы просто перейдут на иностранные модели и продолжат распространять контент без всяких пометок. Зато российским сервисам станет сложнее — им придётся встраивать маркировку, а зарубежным платформам на наши законы, мягко говоря, всё равно.
Любопытно, что от обязательной маркировки уже отказывались при подготовке закона об ИИ. Тогда в Госдуме посчитали: к моменту принятия документа помечать пришлось бы 90% всего интернета. Похоже, теперь решили попробовать снова.
Маркировка — только часть пакета. В том же документе предлагают признать обучение нейросетей использованием объектов авторских прав. Разработчиков обяжут платить правообладателям вознаграждение, если те заранее не запретили использовать свои произведения.
Рабочая группа собиралась обсудить поправки 19 августа, завершить подготовку планируют к концу сентября. Так что до финальной версии текст ещё не раз изменится.
Ключевой вопрос — как будут определять порог: если нейросеть просто исправила опечатки в тексте, это уже «применение» или нет? Без внятных критериев маркировка превратится в очередную формальность, которую будут обходить все кому не лень. Хотелось бы увидеть хотя бы проект с конкретными механизмами проверки.
А мне теперь всё помечать?
Главный вопрос для меня — как эту пометку будут отображать. Мелкая плашка под постом теряется в ленте, а крупный баннер убьёт вёрстку. Пока не поймут, как метка выглядит на практике, маркировка будет либо незаметной, либо раздражающей.
Самое непонятное — как это будет работать в жизни. Я, например, иногда правлю опечатки в своих текстах с помощью нейросети — получается, такое тоже нужно помечать? И если я сделала картинку, а кто-то её перепостил, метку должен ставить автор или тот, кто публикует? Пока не объяснят, как определять долю ИИ в материале и кто за это отвечает, закон будет неудобен всем.
Непонятно главное — как это реализуют технически: метка будет вшита в метаданные файла, добавлена платформой или определяться алгоритмически? При перепостах метаданные легко теряются, и тогда вся маркировка ложится на модерацию площадок.
@Алексей, метаданные — это как раз слабое место: при пересохранении картинки или репосте через мессенджер подпись легко обрезается, а алгоритмически определять «долю ИИ» пока никто не научился. Похоже, реально проверять будут только выборочно и на крупных площадках, а всё остальное останется на честном слове. Ещё неясно, кто будет этим «уполномоченным органом» и какие у него критерии — в проекте об этом ни слова.
@Дмитрий, причём снять такую метку проще простого: открытых утилит, которые вычищают метаданные при конвертации, полно, и никаких навыков не нужно. Пока формат не стандартизируют и не встроят в сами платформы, любая маркировка будет обходиться в два клика.
Я частенько обрабатываю свои фото нейросетью, так что прозрачность мне скорее по душе. Но всё же непонятно, нужно ли помечать даже лёгкую ретушь или только то, что сгенерировано с нуля.