2021.02.01

머니브레인, 딥페이크 영상 검증 위한 AI 출시

편집부 | ITWorld
머니브레인(www.moneybrain.ai)은 딥페이크 영상을 검증할 수 있는 딥러닝 모델 ‘디텍트딥페이크(Detectdeepfake).ai’를 출시했다고 밝혔다.
 

딥페이크(Deepfake)란 인공지능을 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 영상물을 일컫는다. 지난 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위 정보가 사실인 것처럼 가장한 사건들로 인해 큰 논란이 됐다.

더 큰 문제는 딥페이크를 포함한 각종 위·변조 영상이 사회문제로 대두하고 있으나 위·변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없었다는 점이다.

이런 문제 해결을 위해 머니브레인은 서울대 인공지능 연구실(DSAIL)과 함께 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’를 개최했으며, 과학기술정보통신부가 추진하는 ‘딥페이크 변조 영상 AI 데이터’ 분야 수행 기업으로 선정됐다. 

머니브레인 딥러닝 연구팀은 딥페이크 검증 신뢰도 향상을 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터와 아마존(AWS), 페이스북, 마이크로소프트 등이 모여 만든 DFDC(DeepFake detection challenge) 데이터 그리고 머니브레인이 자체 수집한 KoDF(Korean deepFake detection dataset)까지 광범위한 데이터를 딥러닝 AI에 분석 학습시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸다.

여기서 더 발전해 학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증을 진행했으며, 진위 여부 판단은 약 90%의 높은 검증률을 보였다. 이는 해외에서 인정받고 있는 검증 모델보다 월등히 높은 수준의 검증률이다.

머니브레인 장세영 대표는 “이번 AI 영상 조작 검출 기술인 디텍트딥페이크.ai 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바란다”고 말했다.

AI 영상 조작 검출 기술은 홈페이지(www.detectdeepfake.ai)에서 무료로 이용할 수 있다. editor@itworld.co.kr


2021.02.01

머니브레인, 딥페이크 영상 검증 위한 AI 출시

편집부 | ITWorld
머니브레인(www.moneybrain.ai)은 딥페이크 영상을 검증할 수 있는 딥러닝 모델 ‘디텍트딥페이크(Detectdeepfake).ai’를 출시했다고 밝혔다.
 

딥페이크(Deepfake)란 인공지능을 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 영상물을 일컫는다. 지난 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위 정보가 사실인 것처럼 가장한 사건들로 인해 큰 논란이 됐다.

더 큰 문제는 딥페이크를 포함한 각종 위·변조 영상이 사회문제로 대두하고 있으나 위·변조 여부를 직접 확인할 수 있는 객관적인 분석 도구가 없었다는 점이다.

이런 문제 해결을 위해 머니브레인은 서울대 인공지능 연구실(DSAIL)과 함께 딥페이크 기술 발전을 위한 ‘AI 딥페이크 탐지 AI 경진대회’를 개최했으며, 과학기술정보통신부가 추진하는 ‘딥페이크 변조 영상 AI 데이터’ 분야 수행 기업으로 선정됐다. 

머니브레인 딥러닝 연구팀은 딥페이크 검증 신뢰도 향상을 위해 독일 뮌헨공대와 이탈리아 나폴리 페데리코 2세 대학 연구진이 개발한 ‘페이스포렌식++(FaceForensics)’ 데이터와 아마존(AWS), 페이스북, 마이크로소프트 등이 모여 만든 DFDC(DeepFake detection challenge) 데이터 그리고 머니브레인이 자체 수집한 KoDF(Korean deepFake detection dataset)까지 광범위한 데이터를 딥러닝 AI에 분석 학습시켜 해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸다.

여기서 더 발전해 학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증을 진행했으며, 진위 여부 판단은 약 90%의 높은 검증률을 보였다. 이는 해외에서 인정받고 있는 검증 모델보다 월등히 높은 수준의 검증률이다.

머니브레인 장세영 대표는 “이번 AI 영상 조작 검출 기술인 디텍트딥페이크.ai 출시로 딥페이크 영상으로 인한 피해를 최소화하고 딥페이크 기술이 긍정적인 방향으로 발전할 수 있는 계기가 되길 바란다”고 말했다.

AI 영상 조작 검출 기술은 홈페이지(www.detectdeepfake.ai)에서 무료로 이용할 수 있다. editor@itworld.co.kr


X