Поделиться
Власти хотят заставить российские соцсети самостоятельно воевать с дипфейками
Главный радиочастотный центр Роскомнадзора предложил соцсетям самостоятельно выявлять и ограничивать распространение дипфейков до проверки сведений у упомянутых в них лиц или организаций. В ведомстве считают, что для такого регулирования нужны понятные механизмы быстрого реагирования: ИТ-платформы должны уметь останавливать распространение подозрительного контента, пока его достоверность не подтверждена.
Предложение по регулированию контента
Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) предложил социальным сетям самим блокировать дипфейки, пишет «Коммерсант».
Главный радиочастотный центр (ГРЧЦ) Роскомнадзора в мае 2026 г. предлагает социальным сетям самим превентивно выявлять и блокировать резонансные дипфейки до проверки достоверности информации. Участники рынка отмечают, что технической возможности точно определить, какой контент создан при помощи технологий искусственного интеллекта (ИИ), нет, а ошибки в решениях ведут к росту споров как с пользователями, так и брендами.
Дипфейк — это реалистичное изображение, аудио и видео, созданное с помозью ИИ.
ГРЧЦ предложил социальным сетям самостоятельно выявлять и блокировать дипфейки, рассказал заместитель начальника отдела специальных проектов и академических программ Научно-технического центра Федерального государственного предприятия (ФГУП) ГРЧЦ Станислав Махортов.
«Например, реализовать на законодательном уровне инициативу контроля и блокировки сообщений, которые приобретают широкую популярность в моменте. У них распространение идет со скоростью большей, чем у инфоповодов, даже если последние обладают статусом горячих», — отметил Махортов. Среди других предложений, о которых он сообщил, создание базы технологических угроз для просвещения населения и технологических решений для обмена информацией между ведомствами и бизнесом, а также введение маркировки сгенерированного ИИ-контента до его распространения.
В Роскомнадзоре пояснили «Коммерсант», что регулирование дипфейков должно основываться на понятных, открытых и технически реализуемых механизмах их оперативного выявления и прекращения распространения. Одним из возможных подходов, по мнению ведомства, является наделение социальных сетей ИТ-инструментами самостоятельного контроля за быстрым распространением подобного контента. При этом социальные сети должны получить право временно приостанавливать распространение спорного материала до проведения проверки его достоверности у доверенного источника, в том числе у лица или организации, фигурирующих в контенте.
Собеседник «Коммерсант» в крупной ИТ-компании отмечает, что на текущем количестве видеороликов и изображений в соцсетях нет технической возможности определять, какой контент создан при помощи ИИ. VK, Rutube и «Яндекс» отказались от комментариев.
Автоматизировать будет сложно
Генеральный директор компании «Социальная лаборатория» Наталия Тылевич считает, что регулятору необходима существенная детализация и экспертиза для четкого определения, какой сгенерированный медиаконтент следует относить к запрещенному или требующему обязательной маркировки. Важно формировать подход на основе конкретных кейсов. По ее мнению, запрещать сами технологии генерации контента непродуктивно. Решить задачу исключительно в ручном режиме невозможно, поэтому потребуется активное применение ИИ. Тылевич отмечает, что потенциал создания эффективной ИТ-системы выявления такого контента на базе существующих ИТ-решений имеется, однако полностью автоматизировать процесс не удастся.
Гибридная система анализа
Распознавание ИИ-контента и дипфейков возможно с помощью комбинации различных методов: анализа изображения, видео и аудио, поиска цифровых водяных знаков, проверки метаданных, а также поведенческого анализа характера распространения материала, отмечает партнер инвестиционно-технологической компании Zarya Ventures Александр Пономарев.
«Точность существующих решений пока далека от 100%. Современные генеративные ИИ-модели быстро обходят детекторы, при этом реальные фото и видео могут ошибочно попадать под блокировку», — поясняет эксперт.
По его словам, для социальных сетей реализуемой мерой может стать ИТ-система временной приостановки охвата спорного контента до проведения проверки. Однако такой подход является дорогостоящим, несет значительные риски и может привести к росту юридических споров с пользователями и брендами.
Наиболее реалистичным сценарием Александр Пономарев считает создание гибридной системы, сочетающей ИИ-фильтры, автоматическую маркировку подозрительного контента и последующую ручную верификацию.
Короткая ссылка
