Модерация и принудительные меры

Обнаружение контента

Как мы находим вредоносный контент с помощью технологий

Мы используем многоуровневый подход для защиты наших пользователей от вредоносного контента и действий.

Мы применяем технологии хэш-сопоставления PhotoDNA и MD5 к фото- и видеоконтенту, распространяемому через размещенные на серверах Майкрософт службы для потребителей, а также к контенту, загружаемому для визуального поиска изображений в Интернете, чтобы обнаружить и пресечь распространение незаконных и вредоносных изображений. Хэш-функция преобразует изображение в последовательность чисел, которые легко сравнивать, хранить и обрабатывать. Хэш-функция необратима, то есть на основе ее результата невозможно воссоздать исходное изображение. Используя эти технологии хэш-сопоставления в службах, регулируемых Директивой ЕС 2002/58/EC, мы руководствуемся отступлением, разрешенным Регламентом Европейского Союза (ЕС) 2021/1232.

Мы также задействуем технологии машинного обучения, такие как текстовые классификаторы, классификаторы изображений и методы обнаружения очистки, для поиска потенциально незаконных и нарушающих наши политики видов контента и действий в размещенных на серверах Майкрософт службах для потребителей. Наконец, мы используем информацию от пользователей, органов власти и доверенных служб проверки, которые сообщают нам о возможных нарушениях наших политик. Все эти методы уникальным образом адаптируются с учетом особенностей функций и служб, в которых они применяются.

Поиск нарушений своими силами

Мы вложили немало усилий в собственный классификатор для заблаговременного выявления нарушений в определенных контекстах. Классификатор используется для распознавания и маркировки недопустимых признаков контента на основе заранее заданных правил, например агрессивной речи. Кроме того, мы разработали методы обнаружения в наших службах контента, которых с большой вероятностью окажется вредоносным, например вирусов.

Поиск нарушений третьими лицами

Доверенные службы проверки сообщают в Майкрософт о потенциально незаконном или вредоносном контенте, действиях или URL-адресах в наших службах, чтобы мы могли принять соответствующие меры. Доверенные службы проверки — это специальные учреждения, которые сотрудничают с Майкрософт по условиям договора или в соответствии с требованиями закона. Материалы, о которых сообщают доверенные службы проверки, анализируются на соответствие нашим условиям и политикам, как и все остальные сообщения, и по ним принимаются соответствующие меры. Мы делаем то же самое, если о потенциальном нарушении нам сообщают государственные или правоохранительные органы.

Отчет о запросах государственных органов на удаление содержимого

Поиск нарушений с вашей помощью

Если вы столкнулись в службе Майкрософт с чем-то, что вызвало у вас беспокойство, вы можете рассказать нам об этом. Подробная информация о содержимом, действиях или чем-то еще, в том с инструкциями по поиску этих материалов (например, в виде ссылки на контент или копии электронного письма), поможет нашим специалистам проанализировать потенциальное нарушение наших правил и политик и принять необходимые меры. В большинстве продуктов и служб есть возможность пожаловаться на содержимое или действия других пользователей. Вы также можете сообщать о нарушениях здесь. Сообщая о нарушении, не отправляйте нам незаконные материалы. Присылайте нам ссылки на соответствующее содержимое, чтобы мы смогли его найти.

Проверка содержимого

Наши специалисты анализируют изображения, видео, сообщения и контекст.

Подробнее о специалистах по проверке

Политики

В политиках Майкрософт относительно контента и поведения объясняется, что запрещено делать в наших службах.

Подробнее о политиках