Модерация контента
Модерация контента в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Яндекс масштабирует Модерацию контента в ответ на рост числа детских аккаунтов
Компания перешла от простой фильтрации к комплексной системе безопасности, объединяющей автоматические алгоритмы и ручную проверку для защиты более 2 млн детей. Модерация контента стала центральным элементом стратегии, охватывая музыкальные треки, генеративные изображения и видеоматериалы через двухэтапный контроль. Рост активности пользователей и появление новых угроз, таких как дипфейки, требуют постоянного обновления правил и обучения как детей, так и специалистов.
Событие: С октября 2025 по март 2026 года Модерация контента отметила знаком «!» свыше 78 тыс. треков и эпизодов подкастов, содержащих нецензурную лексику или насилие.
Фактор: Увеличение числа детских аккаунтов на 15% до 2 млн создает повышенную нагрузку на системы фильтрации, требуя масштабирования команды модераторов и доработки алгоритмов ИИ.
Тренд: В сервисе генерации изображений Шедеврум Модерация контента теперь блокирует не только запросы на создание «взрослого» контента, но и скрывает подобные изображения, созданные другими пользователями.
Связь: Внедрение двухэтапного контроля (алгоритмы плюс люди) в Яндекс Музыке напрямую снижает риски попадания опасного материала к детям, что подтверждается маркировкой тысяч треков.
Эффект: Рост числа пользователей «Семейного режима» до 3,2 млн в первом квартале 2026 года демонстрирует высокий спрос на автоматизированную Модерацию контента со стороны родителей.
Установление стандартов прозрачности использования ИИ в играх
Valve обновила правила раскрытия информации об использовании искусственного интеллекта в играх на платформе Steam. Теперь разработчики обязаны раскрывать использование ИИ только в случае, если пользователи взаимодействуют с сгенерированным контентом, а не в процессе разработки. Правила включают раскрытие сгенерированного ИИ контента в игре, таких как графика, звук или тексты, а также динамическое создание контента в реальном времени. Разработчики несут ответственность за предотвращение появления неприемлемого контента, а пользователи могут сообщать о проблемах через систему Overlay.
Введение возрастной верификации ограничивает доступ детей к платному контенту
С 1 января 2026 года в штате Техас создание нового Apple ID станет возможно только после подтверждения возраста. Пользователям младше 18 лет необходимо будет присоединиться к семейной группе Family Sharing, а родители обязаны давать согласие на скачивание приложений или покупки. Эти меры направлены на контроль доступа несовершеннолетних к платному контенту и ограничение их расходов без участия опекунов. Apple предоставляет разработчикам API для определения возрастной категории и получения согласия родителей. Аналогичные правила уже действуют в штатах Юта и Луизиана.
Снижение участия модераторов из-за новых правил
Reddit вводит ограничения, запрещающие модераторам управлять пятью и более крупными сообществами, чтобы снизить концентрацию власти и повысить разнообразие мнений. Пользователи, не соответствующие новым правилам, будут постепенно лишены позиций, начиная с наименее активных. Модераторы могут подать заявку на исключение, уйти из сообществ или перейти в роль наблюдателя. Платформа оценивает, что изменения затронут менее 0.1 процента модераторов, но вызывают обеспокоенность из-за возможной потери опытных волонтёров.
Ограничение распространения глубокой подделки ради предотвращения дезинформации
Регулирование контента в Сингапуре направлено на предотвращение распространения фейковых видеоматериалов, созданных с помощью глубокой подделки. Такие ролики, например, с бывшим премьер-министром Ли Сян Лонгом, могут ввести в заблуждение и повлиять на общественное мнение, особенно перед выборами. Власти рассматривают временное запрещение создания и распространения AI-сгенерированного контента, опираясь на опыт Южной Кореи. В стране уже действует закон POFMA, позволяющий удалять или исправлять ложную информацию, но его применение вызывает критику за возможное ограничение свободы слова. Регулирование контента считается важным инструментом в борьбе с дезинформацией в условиях роста угроз из-за развития искусственного интеллекта.
В нашей базе собрано 8 событий по теме «Модерация контента». Мы показываем все из них.
Объединили похожие карточки: Модерация контента; Модерационная деятельность; Регулирование контента и другие.