AIㆍML / 애플리케이션

“오남용 절대 안 돼” MS, 생성형 AI 아트 도구에 암호화 워터마크 삽입

Mark Hachman | PCWorld 2023.05.24
AI가 생성한 콘텐츠의 오남용 우려가 한층 줄어들 것으로 보인다. 마이크로소프트는 24일 개최한 연례 개발자 컨퍼런스 빌드 2023(Build 2023)에서 빙 이미지 크리에이터(Bing Image Creator)마이크로소프트 디자이너(Microsoft Designer)에서 생성한 AI 이미지를 암호화해 서명할 것이라고 발표했다.
 
ⓒ Foundry

마이크로소프트는 C2PA(The Coalition for Content Provenance and Authority)의 설립 멤버다. C2PA는 2021년부터 디지털 이미지의 출처와 진품 또는 생성형 AI 사용 여부를 표시하는 개방형 표준을 개발하고 있다. AI 아트의 출처 표기 문제는 지난 3월 프란치스코 교황이 흰색 롱패딩을 입고 래퍼 분위기를 풍기는 사진이 입소문을 타면서 논란이 됐다. 해당 이미지 생성에 사용된 AI 아트 생성기 개발사 미드저니는 사용을 일시적으로 중단했다.

현재 빙 이미지 크리에이터로 만든 이미지에는 오른쪽 하단에 작은 ‘B’ 로고가 이미 포함되지만, 마이크로소프트 디자이너로 생성한 이미지에는 워터마크가 표시되지 않는다. 이제 마이크로소프트는 2가지 도구에서 생성된 이미지에 C2PA 표준에 따라 서명하고 이미지의 메타데이터에 출처를 명확하게 공개한다. 

어도비의 AI 아트 생성기인 어도비 파이어플라이(Adobe Firefly)는 이미 콘텐츠 크리덴셜(Content Credential)이라는 기능을 통해 이런 작업을 수행하는데, 이 기능은 어도비 앱에서만 지원되고 윈도우 11 사진과 같은 다른 앱에서 볼 수 있는 메타데이터에는 적용되지 않는다. 
 
어도비 파이어플라이의 AI 아트 생성기로 만든 이미지는 왼쪽 하단에 작은 워터마크가 삽입된다. 이미지를 저장했을 때 워터마크는 남아있지만, 메타데이터는 보존되지 않는다. ⓒ Foundry

C2PA 사양에 따르면, 소비자는 AI 아트의 메타데이터와 생성된 이미지 위나 옆에 작은 표식을 볼 수 있다. 흥미롭게도 마이크로소프트는 2가지 도구에서 모두 “주요 이미지 및 비디오 형식”을 지원할 것이라고 말했다. 런웨이 같은 업체는 최근 짧은 클립으로 AI 비디오를 생성하는 기능을 출시했지만, 이미지 크리에이터와 디자이너는 모두 이미지 생성만 지원하기 때문이다. 
 
C2PA 사양은 아이콘이나 팝업을 통해 어떤 이미지가 AI로 생성한 것인지 알려주는 규칙을 제공한다. ⓒ C2PA


AI 아트의 디지털 소유권 확립

AI 아트는 정확히 누가 만들고 누가 소유하는 것이며, 누가 AI 아트로 수익을 창출할 수 있는지는 예술 업계의 주요 관심사다. 스톡 이미지 제공 기업 게티는 AI 아트 알고리즘은 저작권이 있는 이미지를 학습할 권리가 없다고 주장하며 미국과 영국에서 스테이블 디퓨전을 상대로 소송을 제기했다. 미국 저작권청은 AI 아트를 사람이 수정하지 않는 한 저작권 대상이 아니라고 주장하며 중간 입장을 취하고 있다. 

마이크로소프트는 이런 문제를 다른 각도에서도 접근하고 있다. 허위 정보로서의 AI 아트다. 마이크로소프트는 빌드 2023에서 콘텐츠 검토자를 보조하거나 대체하는 AI 서비스인 애저 AI 콘텐츠 세이프티(Azure AI Contents Safety)를 발표했다. AI가 스캔한 이미지에 콘텐츠 점수를 부여하고 인간 중재자에게 플래그를 지정하는 것이다. 이용 요금은 스캔한 이미지 1,000장당 1.5달러이며, 오는 6월 출시된다. 

어도비에 따르면, AI 콘텐츠에 대한 우려가 커지면서 카메라 제조업체인 라이카와 니콘도 실제로 촬영한 사진임을 인증하기 위해 카메라에 C2PA 표준을 구현하고 있다.
editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.