마이크로소프트는 C2PA(The Coalition for Content Provenance and Authority)의 설립 멤버다. C2PA는 2021년부터 디지털 이미지의 출처와 진품 또는 생성형 AI 사용 여부를 표시하는 개방형 표준을 개발하고 있다. AI 아트의 출처 표기 문제는 지난 3월 프란치스코 교황이 흰색 롱패딩을 입고 래퍼 분위기를 풍기는 사진이 입소문을 타면서 논란이 됐다. 해당 이미지 생성에 사용된 AI 아트 생성기 개발사 미드저니는 사용을 일시적으로 중단했다.
현재 빙 이미지 크리에이터로 만든 이미지에는 오른쪽 하단에 작은 ‘B’ 로고가 이미 포함되지만, 마이크로소프트 디자이너로 생성한 이미지에는 워터마크가 표시되지 않는다. 이제 마이크로소프트는 2가지 도구에서 생성된 이미지에 C2PA 표준에 따라 서명하고 이미지의 메타데이터에 출처를 명확하게 공개한다.
어도비의 AI 아트 생성기인 어도비 파이어플라이(Adobe Firefly)는 이미 콘텐츠 크리덴셜(Content Credential)이라는 기능을 통해 이런 작업을 수행하는데, 이 기능은 어도비 앱에서만 지원되고 윈도우 11 사진과 같은 다른 앱에서 볼 수 있는 메타데이터에는 적용되지 않는다.
C2PA 사양에 따르면, 소비자는 AI 아트의 메타데이터와 생성된 이미지 위나 옆에 작은 표식을 볼 수 있다. 흥미롭게도 마이크로소프트는 2가지 도구에서 모두 “주요 이미지 및 비디오 형식”을 지원할 것이라고 말했다. 런웨이 같은 업체는 최근 짧은 클립으로 AI 비디오를 생성하는 기능을 출시했지만, 이미지 크리에이터와 디자이너는 모두 이미지 생성만 지원하기 때문이다.
AI 아트의 디지털 소유권 확립
AI 아트는 정확히 누가 만들고 누가 소유하는 것이며, 누가 AI 아트로 수익을 창출할 수 있는지는 예술 업계의 주요 관심사다. 스톡 이미지 제공 기업 게티는 AI 아트 알고리즘은 저작권이 있는 이미지를 학습할 권리가 없다고 주장하며 미국과 영국에서 스테이블 디퓨전을 상대로 소송을 제기했다. 미국 저작권청은 AI 아트를 사람이 수정하지 않는 한 저작권 대상이 아니라고 주장하며 중간 입장을 취하고 있다. 마이크로소프트는 이런 문제를 다른 각도에서도 접근하고 있다. 허위 정보로서의 AI 아트다. 마이크로소프트는 빌드 2023에서 콘텐츠 검토자를 보조하거나 대체하는 AI 서비스인 애저 AI 콘텐츠 세이프티(Azure AI Contents Safety)를 발표했다. AI가 스캔한 이미지에 콘텐츠 점수를 부여하고 인간 중재자에게 플래그를 지정하는 것이다. 이용 요금은 스캔한 이미지 1,000장당 1.5달러이며, 오는 6월 출시된다.
어도비에 따르면, AI 콘텐츠에 대한 우려가 커지면서 카메라 제조업체인 라이카와 니콘도 실제로 촬영한 사진임을 인증하기 위해 카메라에 C2PA 표준을 구현하고 있다.
editor@itworld.co.kr