Moderazione e applicazione

Rilevamento di contenuti

Come usare la tecnologia per rilevare contenuti dannosi

Adottiamo una strategia a più livelli per proteggere i nostri utenti da comportamenti e contenuti dannosi.

Distribuiamo le tecnologie di hash matching PhotoDNA e MD5 su immagini e video condivisi tramite servizi consumer ospitati da Microsoft e sui contenuti caricati per le ricerche basate su immagini di Internet, per rilevare e arrestare la diffusione di contenuti visivi dannosi e illegali già noti. Un "hash" trasforma le immagini in una serie di numeri che possono essere confrontati, archiviati ed elaborati facilmente. Questi "hash" non sono reversibili, il che significa che non possono essere usati per ricreare le immagini originali. Per l'utilizzo di queste tecnologie di hash matching nei servizi disciplinati dalla Direttiva dell'Unione Europea 2002/58/EC, ci avvaliamo della deroga consentita dal Regolamento dell'Unione Europea (EU) 2021/1232 come richiesto.

Inoltre, usiamo tecnologie di machine learning come classificatori basati su testo, classificatori di immagini e tecniche di rilevamento di grooming per individuare contenuti o comportamenti condivisi tramite servizi consumer ospitati da Microsoft che potrebbero essere illegali o non conformi alle nostre politiche. Infine, sfruttiamo le segnalazioni di utenti, enti governativi e segnalatori attendibili per analizzare potenziali violazioni delle politiche. Queste tecniche sono create su misura per le funzionalità e i servizi in cui vengono distribuite.

Quando Microsoft rileva le violazioni

Abbiamo potenziato la capacità dei nostri "classificatori" di rilevare le violazioni in determinati contesti in modo proattivo. Un "classificatore" viene usato per riconoscere ed etichettare caratteristiche dannose in una politica predefinita, come le dichiarazioni di odio. Inoltre, abbiamo sviluppato dei modi per rilevare contenuti potenzialmente pericolosi, come i virus, nei nostri servizi.

Quando altri rilevano le violazioni

I segnalatori attendibili possono informare Microsoft della presenza di contenuti, comportamenti o URL potenzialmente illegali o dannosi nei nostri servizi, affinché possiamo intraprendere le azioni necessarie. I segnalatori attendibili sono apposite istituzioni che collaborano con Microsoft secondo un accordo o come richiesto dalla legge. Il materiale indicato dai segnalatori attendibili viene esaminato rispetto alle nostre condizioni e politiche, proprio come tutte le altre segnalazioni, e poi vengono intraprese le misure necessarie. Questo vale anche se un ente governativo o le forze dell'ordine segnalano una potenziale violazione.

Report delle richieste da parte di enti governativi di rimozione dei contenuti

Quando tu rilevi le violazioni

Se hai visto o riscontrato qualcosa che ti preoccupa in un servizio Microsoft, puoi comunicarcelo. Fornendo informazioni dettagliate sul contenuto o comportamento in questione, compreso dove trovarlo (ad esempio, inserendo un collegamento al contenuto o una copia di un'e-mail), aiuterai i nostri revisori a valutare il contenuto o comportamento e agire di conseguenza se dovesse violare le nostre condizioni e politiche. La maggior parte dei prodotti e servizi include opzioni che ti consentono di segnalare contenuti o comportamenti di altri utenti preoccupanti. Puoi anche segnalare eventuali preoccupazioni. Fai attenzione a non inviare materiali illegali nelle tue segnalazioni. Usa collegamenti ai contenuti segnalati affinché possiamo trovarli.

Analisi dei contenuti

Immagini, video, messaggi e contesto vengono analizzati da revisori umani.

Scopri di più sull'analisi dei contenuti

Politiche

Le politiche di Microsoft relative ai contenuti e comportamenti spiegano cosa non è consentito nei nostri servizi.

Scopri di più sulle politiche