Offcanvas
Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
Offcanvas
1111Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
AIㆍML

"톰 행크스부터 빌 클린턴까지" 음성 AI 모델링의 한계는 어디까지?

Mark Hachman | PCWorld 2023.01.18
AI 아트 등 다양한 AI 활용처가 부상한다는 기사를 쓴 이후로 필자는 깃허브 코드 저장소와 레딧 내의 여러 링크를 뒤적거리면서 사람들이 저마다 수정해 게시하는 AI 모델을 구경하고 있다.
 
이러한 모델 중에는 자체 알고리즘을 실행하거나 다른 사람들이 오픈소스로 게시한 것을 수정하는 상용 사이트까지 진출하는 것도 있다. 기존 AI 음성 사이트의 좋은 예로 수백 개의 사전 프로그램된 모델을 제공하는 Uberduck.ai가 있다. 텍스트 필드에 텍스트를 입력하면 가상의 일론 머스크, 빌 게이츠, 페기 힐, 대피 덕, 알렉스 트레벡, 비비스, 조커, 시리 등이 사전 프로그램된 대사를 소리 내 읽어준다.
 
ⓒ Mark Hachman / IDG via Dreamstudio.ai

PCWorld는 작년에 가짜 빌 클린턴이 PCWorld를 칭찬하는 모델을 업로드했다. 그때도 이미 정확도는 꽤 높은 수준이었다.
  
음성을 재현하도록 AI를 학습시키려면 선명한 목소리 샘플을 업로드해야 한다. AI는 말하는 사람이 소리를 조합하는 방법을 관찰하고 소리 간의 관계를 학습하고 다듬고 그 결과를 모조한다. 1992년의 명작 스릴러 영화 스니커즈(Sneakers. 로버트 레드포드, 시드니 포이티어, 벤 킹슬리 등 캐스팅도 화려했음)를 봤다면 그 영화에서 등장 인물들이 생체 음성 암호를 크랙하기 위해 표적의 음성 샘플을 녹음하는 장면을 기억할 것이다. 거의 똑같다고 보면 된다.
 
우수한 음성 모델을 만들려면, 특정인이 말하는 방식이 잘 표현된 긴 샘플을 사용한 많은 양의 학습이 필요하다. 그런데 지난 며칠 사이 새로운 것이 등장했다. 라이브 예제가 포함된 마이크로소프트의 합성 음성 연구 논문 발리(Vall-E)다. 발리는 몇 초 정도의 소스 오디오만으로 완전히 프로그램 가능한 음성을 생성한다.
 
AI 연구자와 애호가의 궁금증에 답하자면 발리는 공개 릴리즈되지는 않았다. 그 대신 토터스(Tortoise)라는 다른 모델을 사용해볼 수 있다. (제작자는 토터스라는 이름을 붙인 이유가 속도가 느려서라고 설명했다. 실제로 느리지만 어쨌든 작동은 한다.) 
 

토터스를 사용해 AI 음성 학습시키기

토터스의 흥미로운 점은 몇 개의 오디오 클립을 업로드하는 것만으로 원하는 음성을 모델에 학습시킬 수 있다는 것이다. 토터스 깃허브 페이지에 따르면 10여 초 길이의 클립이 몇 개 정도는 있어야 한다. 클립을 특정 품질의 .WAV 파일로 저장해야 한다.
 
이 모든 일이 어떻게 가능할까? 구글 코랩(Colab)이라는 공개 유틸리티를 통해서다. 코랩은 구글이 제공하고 파이썬 서버에 액세스하는 클라우드 서비스다. 본인이나 타인이 작성한 코드를 노트북으로 저장해서 일반 구글 계정이 있는 다른 사용자와 공유할 수 있다. 토터스는 여기에 리소스를 공유했다.
 
 
토터스 코랩. ‘연결’ 버튼을 클릭해서 시작한 다음 각 코드 블록 옆의 작은 재생 아이콘을 차례로 클릭한다. ⓒ PCWorld
 
각 코드 블록에 마우스 커서를 올리면 작은 재생 아이콘이 표시된다. 이 아이콘을 클릭해서 각 코드 블록을 실행한다. 실행이 완료될 때까지 기다린 후 다음 블록을 실행해야 한다.
 
여기서 모든 기능을 세부적으로 살펴보지는 않겠지만 빨간 텍스트는 사용자가 수정할 수 있는 부분(예를 들어 모델이 말하도록 할 텍스트)이다. 7개 블록 아래에는 모델 학습 옵션이 있다. 모델 이름을 정한 다음 오디오 파일을 업로드한다. 완료되면 네 번째 블록에서 새 오디오 모델을 선택하고 코드를 실행하고 세 번째 블록에서 텍스트를 구성한다. 이 코드 블록을 실행한다.
 
모든 과정이 정상적으로 진행된다면 샘플 음성으로 만들어진 작은 오디오 출력 파일을 얻게 된다. 잘 완성됐는가? 필자는 동료인 고든 마 웅의 음성 모델을 간단히 만들어봤다. PCWorld의 더 풀 너드(The Full Nerd) 팟캐스트에 마 웅이 출연한 적이 많았으므로 음성 모델 소스는 많다. 필자는 실험을 위해 여러 개의 짧은 클립 말고 몇 분 길이의 샘플 하나를 업로드했다.
 
결과는? 진짜 사람 목소리처럼 들리긴 하지만 실제 인물 고든과는 전혀 비슷하지 않다. 현재로서는 고든은 디지털 사칭을 당할 위험이 전혀 없어 보인다.
   

그러나 토터스 제작자가 배우 톰 행크스 음성을 학습시킨 모델은 상당히 비슷하다. 이 말은 톰 행크스가 직접 한 것이 아니고 톰 행크스가 정말 캐스팅을 제의한 것도 아니지만, 너무나 진짜 같아서 필자의 친구 중 한 명이 속아넘어갔을 정도다.
 
결론은 약간 두렵다는 것이다. 들리는 그대로를 믿을 수 있는 시대는 끝나간다. 아니, 이미 끝났을지도 모른다.
editor@itworld.co.kr 
 Tags AI아트 토터스 발리 Vall-E AI학습 음성모델링

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2023 International Data Group. All rights reserved.