AIㆍML

딥브레인AI, SaaS형 딥페이크 탐지 솔루션 출시…음성 합성 여부도 판별

편집부 | ITWorld 2024.01.12
딥브레인AI가 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 기반 ‘딥페이크 탐지 솔루션’을 출시했다고 12일 밝혔다.
 

딥브레인AI는 최근 가짜 뉴스와 불법 음란물, 금융 범죄 등 각종 신종 범죄의 수단으로 딥페이크가 악용되는 사례가 늘어남에 따라, 이에 대응하는 탐지 기술에 대한 접근성을 높이고자 이번 SaaS형 딥페이크 탐지 솔루션을 공개했다. SaaS 도입 이전에는 제한된 접근성으로 국내 일부 관공서 등에서 한정적으로 활용됐으나, 이제 누구나 손쉽게 장소에 구애받지 않고 딥페이크 영상, 이미지, 음성 등의 탐지가 가능해질 것으로 업체 측은 전망했다. 

딥브레인AI는 글로벌 탑티어 수준의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 토대로 딥페이크 탐지 솔루션을 제작해 완성도를 높였다. ▲종합탐지 ▲음성탐지 2가지 서비스를 제공하며, 한국어를 비롯해 영어, 중국어, 일본어 등 4개 언어를 지원한다.

종합탐지 서비스는 조작된 이미지와 동영상을 탐지한다. 우선 가상 얼굴 생성 기능인 ‘페이스 제너레이션(Face Generation)’과 특정인의 얼굴로 교체하는 ‘페이스 스왑(Face Swap)’, ‘립싱크’ 등의 기술 적용 여부를 확인한다. 음성탐지 서비스를 통해 조작된 음성 탐지도 가능하다. 음성의 주파수와 시간 등을 고려해 종합 분석하는 방식으로 음성 합성 여부를 판별한다. 아울러 AI를 활용해 자연스러운 목소리를 만드는 ‘보코더(Vocoder)’ 등의 사용 여부도 확인할 수 있다.

SaaS형 딥페이크 탐지 솔루션은 현재 딥브레인AI 홈페이지에서 ‘문의하기’를 통해 구입 후 사용할 수 있다. 추후에는 별도 문의 없이도 홈페이지서 간편 결제를 통해 솔루션을 사용할 수 있도록 접근 편의성 개선 작업을 진행할 방침이다.

딥브레인AI 측은 오는 4월 제22대 총선, 11월 미국 대통령 선거 등을 앞두고 국내외 정부기관, 언론사, 관계자로부터 딥페이크 탐지 솔루션에 대한 문의가 잇따르고 있는 상황이라고 설명했다. 이번 SaaS형 딥페이크 탐지 솔루션을 바탕으로 누구나 쉽고 간편하게 허위사실 유포를 예방하고 혼란을 최소화할 수 있도록 적극 지원할 방침이다.

딥브레인AI 장세영 대표는 “사람을 돕는 기술로 활용돼야 할 AI 기술이 신종 범죄 수단으로 악용되고 있어 매우 안타깝게 생각한다”라며, “딥브레인AI는 생성형 AI 대표 기업의 강점을 살린 완성도 높은 딥페이크 탐지 솔루션을 SaaS 형태로 전 세계에 적극 지원하며 글로벌 딥페이크 범죄 근절에 앞장설 것”이라고 말했다.  
editor@itworld.co.kr
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.