Маркировка созданного нейросетью контента: как это будет выглядеть и кем уже применяется

В Госдуме приступили к разработке законопроекта о маркировке созданного нейросетью контента. Идею еще год назад озвучили в Российском технологическом университете. Между тем крупные компании уже начали добровольно помечать подобные материалы. Детали — в материале «Реального времени».

Маркировка должна быть заметной, но ненавязчивой

Как сообщил член комитета Госдумы по информполитике Антон Немкин, депутаты изучают законодательный опыт других стран по поводу маркировки и консультируются с экспертами. По мнению парламентария, в настоящий момент человеку становится сложно отличать реальное от нереального.

— А если рассматривать отдаленную перспективу, то развитие ИИ-сервисов без необходимого контроля несет опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных, — цитирует его РИА «Новости».

Маркировка может осуществляться при помощи графических или водяных знаков, считает Немков. При этом она должна быть ненавязчивой, но заметной для всех пользователей. Депутат заявил, что по началу следует обязать российские ИИ-сервисы автоматически маркировать любые сгенерированные тексты. Это связано с тем, что пока непонятно, как распознавать степень участия машины и искусственного интеллекта в материале.

Также предполагается наделить Роскомнадзор полномочиями по выявлению деструктивного контента, созданного с использованием искусственного интеллекта.

— После выявления такой контент должен будет принудительно маркироваться на площадках его распространения или же блокироваться в случае, если он распространяется в противоправных целях, — заключил Антон Немков.

Когда конкретно будет готов законопроект и сроки его вступления в силу неизвестны.

Идея о маркировке прозвучала год назад

Первым маркировать контент, сделанный нейросетью, предложил в мае прошлого года Российский технологический университет.

— РТУ МИРЭА предлагает закрепить обязательную маркировку контента, созданного с помощью технологии «нейросети», специальным графическим знаком в рамках федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика» и предусмотреть разработку соответствующего постановления правительства Российской Федерации, — говорилось в письме ректора вуза главе Минцифры Максуту Шадаеву.

Концепцию будущего законопроекта начали продумывать в июне того же года. В Госдуме тогда заявляли, что это позволит снизить риски от распространения дипфейков.

— Задача законодателя — защитить граждан, введение маркировки дипфейков и ответственности за их распространение без нее представляется эффективной мерой, — говорил зампредседателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин (цитата по ТАСС).

Кто из компании уже начал маркировать созданный ИИ контент

Несмотря на отсутствие законодательной базы, некоторые крупные игроки на рынке уже начали маркировать контент, который был создан нейросетью. Видеохостинг YouTube, например, выпустил обновление, в рамках которого будет помечать контент, сделанный при помощи ИИ. Это же начнет делать и компания Meta* (признана в России экстремистской и запрещена), которой принадлежат соцсети Instagram* и Facebook*. В феврале компания OpenAI сообщила, что начали маркировать все изображения, которые создаются в ChatGPT и их API.

Также стоит отметить, что Евросоюз в будущем планирует обязать все сервисы маркировать созданный нейросетями контент. Такое требование есть в кодексе, который подписали больше 40 компаний, в том числе TikTok, Microsoft и другие.

* Признаны экстремистскими и запрещены в РФ по решению суда.