중재와 규정 적용
콘텐츠 감지
Microsoft가 유해한 콘텐츠를 감지하기 위해 기술을 사용하는 방식
Microsoft는 다계층 접근 방식을 사용하여 사용자들을 유해한 콘텐츠와 행동으로부터 보호합니다.
Microsoft에서 호스트한 소비자용 서비스를 통해 공유된 사진 및 비디오 콘텐츠와 인터넷상의 시각적 이미지 검색을 위해 업로드된 콘텐츠를 대상으로 해시 매칭 기술인 PhotoDNA와 MD5를 적용하여 알려진 불법적이고 유해한 이미지 콘텐츠를 감지하여 확산을 막습니다. “해시”란 이미지를 손쉽게 비교하고 보관하고 처리할 수 있는 일련의 숫자로 변환하는 방법입니다. 이러한 “해시”는 불가역적입니다. 즉, 이를 사용하여 원본 이미지를 재구성할 수 없습니다. Microsoft는 EU(유럽 연합) 규정 2021/1232에서 허용하는 완화 기준에 의거, EU 지침 2002/58/EC가 적용되는 서비스에서 이러한 해시 매칭 기술을 사용합니다.
이에 더해 텍스트 기반 분류기, 이미지 분류기, 그루밍 감지 기법과 같은 기계 학습 기술을 사용하여 Microsoft에서 호스트된 소비자용 서비스를 통해 공유된 콘텐츠 또는 행동 중에서 불법적이거나 정책에 위반되는 콘텐츠를 찾아냅니다. 마지막으로, 사용자, 정부 기관 및 신뢰할 수 있는 감시 기관의 신고를 참고하여 잠재적인 정책 위반 사항을 찾아냅니다. 이러한 기법은 해당 기법이 배포된 기능 및 서비스에 맞게 설정되어 있습니다.
Microsoft가 직접 찾아내는 위반 콘텐츠
Microsoft는 특정 컨텍스트에서 위반 사항을 선제적으로 찾아내기 위해 “분류기” 기능에 대폭 투자하고 이를 발전시켰습니다. “분류기”는 미리 정의된 정책을 기반으로 유해한 특성(예: 혐오 발언)을 인식하고 레이블을 적용하는 데 사용됩니다. 이게 더해 Microsoft 서비스에서 바이러스와 같은 악성 콘텐츠를 감지하는 방법도 개발했습니다.
제3자가 찾아내는 위반 콘텐츠
신뢰할 수 있는 감시 기관이 Microsoft가 조치를 취할 수 있도록 당사 서비스에 있는 잠재적으로 불법적이거나 유해한 콘텐츠, 행동 또는 URL을 신고하는 경우가 있습니다. 신뢰할 수 있는 감시 기관이란 협의에 따라 또는 법적 요구에 따라 Microsoft와 협력하는 지정된 기관을 의미합니다. 신뢰할 수 있는 감시 기관에서 신고한 항목은 다른 모든 신고와 마찬가지로 Microsoft의 약관과 정책을 기준으로 검토가 이루어진 후에 적절한 조치가 취해집니다. 정부 기관이나 법 집행 기관에서 잠재적인 위반 사항을 신고하는 경우에도 이와 동일한 방식으로 대응합니다.
사용자가 찾아내는 위반 콘텐츠
Microsoft 서비스에서 우려되는 무언가를 보거나 경험했다면 저희에게 알려 주세요. 콘텐츠, 행동 또는 기타 항목에 대한 상세한 정보(콘텐츠로 연결되는 링크 등 해당 항목을 찾을 수 있는 곳이나 전자 메일 사본)를 제공해 주시면 Microsoft 검토자들이 검토 후에 약관 및 정책을 위반한다고 판단되면 조치를 취할 수 있습니다. 대부분의 제품과 서비스에는 제품 환경 내부에 우려되는 콘텐츠나 다른 사용자의 행동을 신고할 수 있는 옵션이 있습니다. 우려 사항을 신고하는 방법도 있습니다. 신고할 때는 불법 자료 자체를 전송하지 않도록 주의해 주세요. 저희가 해당 항목을 찾아서 조치를 취할 수 있도록, 콘텐츠로 연결되는 링크를 기재해 주세요.