Offcanvas
Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
Offcanvas
1111Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.

세상의 모든 IT 리서치 자료 - 넘버스 Numbers

새로운 ‘음성 신고’ 기능으로 경고를 받은 뒤 행동을 개선한 플레이어
98
%
자료 제목 :
엑스박스 2023년 하반기 투명성 보고서
Xbox 2023 H2 Transparency Report
자료 출처 :
Microsoft
원본자료 다운로드
발행 날짜 :
2024년 05월 17일
게임

엑스박스, 23년 하반기 투명성 보고서 발표…“새 신고 시스템 가시적 성과 도출”

편집부 | ITWorld 2024.05.17
마이크로소프트 엑스박스(Xbox)가 4번째 ‘투명성 보고서(Transparency Report)’를 14일(현지시각) 발표했다. 엑스박스는 이번 보고서를 통해 안전하고 포용적인 게임 환경을 구축하고 플레이어를 보호해 긍정적인 게임 플레이를 장려하겠다고 밝혔다. 
 
ⓒ Microsoft Xbox

이번 투명성 보고서에는 건전한 게임 환경을 만들기 위해 유해 콘텐츠를 식별하는 최신 AI 기능 도입 사례와 플레이어를 보호하기 위해 엑스박스가 전개하고 있는 다양한 프로그램의 성과가 소개됐다. 

엑스박스는 잠재적인 유해 요소를 판단하는 인간의 전문성을 확대하기 위해 책임감 있는 방식의 AI 활용을 추구하고 있다. 엑스박스는 다변화하는 게임 환경에서 플레이어를 보호하기 위해서는 생성형 AI와 같은 최신 기술을 도입하고 책임감 있는 방향으로 유해 콘텐츠를 선별하고, 보고하고, 예방해야 한다고 판단했다. 

현재 활용되고 있는 기능으로는 ▲잠재적으로 유해한 콘텐츠의 단어 및 구문을 감지해 대화 텍스트를 구분하는 ‘자동 라벨링(Auto Labeling)’ ▲유해한 콘텐츠를 신속하게 제거하고 불건전한 이미지를 식별할 수 있는 ‘이미지 패턴 매칭(Image Pattern Matching)’가 대표적이다. 이들 기능은 마이크로소프트의 초기 AI 기반 기능 투자 사례에 해당한다.

엑스박스는 마이크로소프트의 책임감 있는 AI 활용 표준에 따라 AI 기능을 활용해 유해 콘텐츠를 분류 및 식별하고, 이로 도출된 정확하고 일관된 기준을 기반으로 조치를 취해 공정하게 게임 커뮤니티를 보호하고 있다고 설명했다. 

이외에도 엑스박스가 플레이어 보호 차원에서 운영하는 다양한 시스템이 2023년 하반기 데이터에서 유의미한 성과를 냈다. 먼저, 새로운 ‘음성 신고 기능(Voice Reporting Feature)’을 선보인 이후 엑스박스 음성 채팅 내 플레이어의 행동이 개선된 것으로 나타났다. 해당 기능 도입 이후, 부적절한 음성 대화를 기록하고 사후에 신고하는 ‘지금 기록하고 다음에 신고하기’ 시스템을 이용해 포착된 음성 기록은 13만 8,000건에 이른다. 실제 이런 신고가 규정 집행 경고로 이어졌을 때, 98%의 플레이어가 행동을 개선하고 추가적인 규정 집행을 받지 않은 것으로 확인됐다.

‘규정 집행 경고 시스템(Enforcement Strike System)’을 통한 제재 효과도 입증됐다. 해당 경고 시스템은 플레이어가 규정 위반의 심각성을 이해할 수 있도록 돕고 건전한 플레이를 장려하기 위해 2023년 처음 도입됐다. 도입 이후, 경고를 받은 플레이어의 88%가 추가 제재로 이어질 수 있는 커뮤니티 기준 위반 행동을 하지 않은 것으로 나타났다. 해당 시스템은 플레이어가 커뮤니티 규정을 위반했을 때 경고를 주고, 경고 횟수가 늘어나는 만큼 이용 정지 기간이 길어지는 방식으로 운영된다. 받은 경고는 6개월 동안 기록이 유지되며, 플레이어에게는 최대 8번의 경고 조치가 누적될 수 있다.

또한 엑스박스는 경미한 규제 위반에 대한 게임 이용 정지 기한을 단축했는데, 정지 기한이 단축됐음에도 대부분 플레이어는 한번의 이용 정지 조치만으로 스스로 행동을 개선한 것으로 파악됐다.

아울러 엑스박스의 선제적 관리 조치도 활발하게 이뤄졌다. 엑스박스는 가짜 계정을 발견하기 위한 투자를 지속하며, 가짜 계정 생성과 동시에 이를 신속하게 차단하고 가짜 계정이 초래할 피해에서 플레이어를 선제적으로 보호하고 있다. 이에 지난 보고서에서 1,630만여 개로 집계됐던 가짜 계정 차단 집행 건수는 730만 개로 대폭 줄어들었으며, 가짜 계정 차단 집행 건수는 2년 만에 처음으로 감소하는 추세를 보인 것으로 나타났다. 
editor@itworld.co.kr
 Tags 엑스박스 투명성보고서

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.