AIㆍML / 미래기술

“클릭 몇 번이면 완성” AI가 만드는 위험한 딥페이크

editors of Computerwoche | COMPUTERWOCHE 2022.12.13
아스테크니카(ArsTechnica)는 AI 이미지 생성기인 스테이블 디퓨전(Stable Diffusion)드림부스(Dreambooth)란 기술을 사용해 딥페이크 이미지를 제작한 과정을 소개했다. AI는 초등학교 교사 존이라는 가상 인물의 소셜 웹 사진 7장으로 어떤 스타일, 어떤 상황에도 맞는 이미지를 생성하도록 학습했다. 아스테크니카는 처음에 실제 인물의 사진을 사용하는 것을 고려했지만, 결과가 너무 사실적으로 나올 것으로 우려해 방향을 바꿨다. 실제 인물의 경우 평판에 미칠 위험성이 너무 크다는 것이다.
 
ⓒ Getty Images Bank

AI가 존의 이미지를 재생산하는 방법을 배우는 학습 과정은 1시간 정도가 걸렸고, 구글 클라우드의 체험용 서비스를 이용해 무료로 진행했다. 학습이 끝나고 새로운 이미지를 생성하는 데는 여러 시간이 걸렸는데, 완벽하지 않은 결과물 중에서 최상의 이미지를 고르는 데 오래 걸렸다. 하지만 아스테니카는 실제 작업은 포토샵으로 사실적인 이미지를 재창작하는 것보다 훨씬 더 쉽다고 밝혔다.

테스트에서 가상 인물 존은 불법적이고 부도덕한 짓을 벌이는 것으로 묘사됐다. 남의 집에 무단으로 침입하거나 불법적인 약물을 사용하고 학생 한 명과 벌거벗고 샤워를 하기도 했다. 포르노 영상에 최적화된 AI 모델을 사용하면, 존을 포르노 스타로 만드는 것도 어렵지 않은 일이다.

아스테크니카는 이런 식으로 만들 수 있는 많은 상황이 심각한 법적 파급 효과를 가져올 수 있다고 경고했다. 직업적인 이유로 맨정신을 유지해야 할 사람이 바에서 술을 마시고 있는 사진을 만들거나 범죄자가 실제로 있지도 않은 장소에 있었던 것처럼 알리바이를 만드는 것을 예로 들 수 있다.

가상 인물 존은 좀 더 젊거나 늙어 보이게 만들 수 있고, 살이 찌거나 날씬하게, 정장을 입거나 거지 차림을 하도록 만들 수 있다. 웃기는 장소나 위험한 장소는 물론, 중세 배경이나 달에 착륙한 우주인으로 만드는 것도 어렵지 않다.
 
아스테크니카는 아무런 의심없이 사진을 소셜 미디어에 올리는 사람들에게 주의할 것을 당부했다. 오늘날 딥페이크는 너무나 만들기 쉬워졌다. AI 모델이 사진을 렌더링하는 방법만 배우면 이미지는 바로 청사진이 되어 수많은 상황에 대입할 수 있다. 범죄자 역시 AI 모델을 쉽게 이용할 수 있기 때문에 이제 누구라도 문제의 ‘오바마 딥페이크 비디오’를 만들 수 있게 된 것이다.
editor@itworld.co.kr
 Tags 딥페이크
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.