AIㆍML / 게임

게임 중 욕설 감시하는 AI 관리자, 콜 오브 듀티에서 베타 적용 중

Michael Crider  | PC Advisor 2023.09.01
온라인 슈팅 게임을 플레이하면서 음성 채팅을 하는 사용자는 아주 용감하거나 유해한 환경을 오히려 즐기는 바보, 둘 중의 하나일 것이다. 콜 오브 듀티 시리즈는 특히 불쾌감을 주는 저속한 공개 음성 채팅으로 악명이 높다.

액티비전은 다른 게이머의 경험을 망치는 최악의 행동을 방지하기 위해, 욕설이나 불쾌한 단어를 발견하도록 설계된 AI 음성 채팅 모니터링 업체인 모듈레이트(Modulate)에 지원을 요청했다.
 
ⓒ Activision

콜오브듀티닷컴의 블로그에 따르면, 모듈레이트의 톡스모드는 단순한 단어 필터 그 이상이다. 혐오 발언, 차별적인 단어, 괴롭힘 등을 플래그로 표시하는 것 외에도 톡스모드는 목소리의 어조와 의도, 인간 대화의 맥락을 구분한다. 제일 대표적인 욕설이나 일반적인 폭언뿐 아니라, 온라인 극단주의자 모집 공고나 미성년자와의 접촉 시도 등 게임 내 음성 채팅의 미묘한 내용을 감지할 수 있다. 톡스모드는 현재 소규모 VR 게임, 특히 어몽어스 VR에서 주로 사용되며 가장 큰 기업 고객은 역시 콜 오브 듀티다. 

그러나 톡스모드의 권한에는 제한이 있다. 톡스모드가 자동으로 녹음하고 플래그로 지정한 대화는 액티비전의 인간 모더레이터가 검토한다(매우 힘든 업무일 것으로 추측된다). 인종, 성 정체성, 신념, 신체 또는 정신적 특성, 출신 국가를 비하하는 발언을 금지하는 콜 오브 듀티의 공식 정책을 위반한 것이 확인되면 게이머는 적절한 제재를 받는다. 제재 종류는 이틀간 플레이 정지부터 시작해 극단적인 경우 영구 정지까지 다양하다.

톡스모드는 현대 콜 오브 듀티 : 모던 워페어 II와 워존 멀티플레이어 매치에서 베타 버전으로 사용되며,  모던 워페어 III가 11월 출시되면 정식으로 도입될 예정이다. 현재는 영어 채팅만 모니터링되고 있지만, 액티비전은 향후 더 많은 언어로 대상을 확대할 계획이다.
editor@itworld.co.kr 
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.