AIㆍML

글로벌 칼럼 | “눈치 없는 솔직함이 더 위험” 생성형 AI에 대한 10가지 단상

Peter Wayner | InfoWorld 2024.01.05
겨우 1년이다. 공상과학(SF) 영화에서나 봤던 모습이 챗GPT라는 충격적인 기술적 진보를 통해 전 세계에서 현실화했다. AI가 진정으로 사람들을 고된 업무에서 해방하고, <우주가족 젯슨(The Jetsons)>처럼 여유로운 삶을 살게 해줄 것이라고 믿음이 확산하고 있다. 동시에 AI가 나의 일자리, 배우자와 자녀의 일자리 그리고 오픈AI의 CEO를 제외한 모든 사람의 일자리를 빼앗아갈까 걱정하기 시작한 지도 불과 1년밖에 지나지 않았다. 잠깐, 오픈AI CEO의 일자리마저도 안전하지 않은 것으로 정정한다. 이런 변화 속에 2024년 새해를 맞았다. 지금이야말로 잠시 숨을 고르고 지난 2023년 한 해 동안 ‘핫’했던 AI가 무엇을 남겼는지 되새길 때다.
 
ⓒ editor@itworld.co.kr
 

한 치 앞도 못 본 AI 반대론자 

AI의 시대는 절대 오지 않을 것이라고 강경하게 주장해 왔던 전문가들은 챗GPT의 부상으로 큰 타격을 입었다. 교수였던 어떤 이는 AI라는 용어를 비웃곤 했다. 그는 기계가 실제로 생각한다는 것에 콧방귀를 뀌었다. 영화 <스타트렉>에서 나오는 똑똑한 기계가 현실에 등장하기까지 수십 년 또는 수백 년이 걸릴 것이라고 공언했다. AI에는 전혀 승산이 없다고 지적하기도 했다. 그나마 그가 챗GPT가 등장하기 전 은퇴한 것이 다행이다. 컴퓨터는 낸드(NAND) 게이트를 이어 붙이는 것 이상의 일을 할 수 없다고 계속 주장하며 망신당하는 일을 피했기 때문이다.
 

우려스러운 전력 소비량

AI 열풍의 가장 큰 피해자는 어쩌면 지구일 수 있다. CPU와 TPU에 전력을 공급하기 위해 태워야 하는 탄화수소의 비축량을 생각하면 더 명확해진다. AI는 악의나 분노가 아니라 계속 작동하기 위해 끊임없이 탄소를 태워야 하고, 결국 이 때문에 탄소 기반 생명체를 끝내버릴  지도 모른다. 현재 AI 세계의 가장 시급한 과제는 막대한 전기 요금을 부담하지 않으면서 엄청난 기회를 실현할 수 있는 방법을 찾는 것이다. 새로운 칩, 개선된 알고리즘, 네트워크 계층을 더 현명하게 활용하면 초대형 유조선 몇 척 분량의 석유를 절약할 수 있을 것이다.
 

공급을 아득히 넘어선 AI 하드웨어 수요

새로운 AI 프로젝트의 가장 큰 과제는 학습에 충분한 컴퓨팅 성능을 확보하는 것이다. 수요가 너무 많아 엔비디아 같은 GPU 제조업체가 물건을 대지 못할 정도다. GPU 인스턴스를 보유한 클라우드 업체는 가격을 더 인상할 가능성도 있다. 올해 이후에도 이런 상황이 계속될까? 기본적으로 시장 경제는 희소성을 해결하는 방향으로 작동한다. 그러나 실리콘밸리의 끊임없는 성장과 야망은 시장이 제공할 수 있는 능력을 넘어서고 있다. 특히 지정학적 문제는 상황을 더 어렵게 만들고 있다.
 

두머 vs. 부머

중동 정치 등 해결해야 할 난제 목록이 점점 더 길어지는 가운데, AI가 인류에 어떤 영향을 미칠지에 관한 논쟁까지 더해졌다. 한쪽에는 AI가 일자리, 사회적 관계, 더 나아가 인류 전체를 파괴할 것이라고 보는 두머(Doomer, 지나친 비관론자)가 있고, 다른 한쪽에는 AI 덕분에 가상의 라나이섬에서 휴식을 취하는 동안 놀라운 선물이 쏟아져 나올 것이라고 보는 부머(Boomer, 지나친 낙관론자)가 있다. 그렇다면 더 정확하게 미래를 바라 본 것은 어느 쪽일까? 수많은 전문가가 이 연구에 뛰어 들겠지만, 답이 나올 때쯤이면 모두가 이미 알고 있을 것이다. "그냥 AI에게 물어볼까" 농담처럼 생각했는데, 실제로 기업은 이미 이 방향으로 가고 있다. 하지만 안타깝게도 생성형 AI는 '뜨거운 감자'인 주제에 대해 제대로 된 답변을 내놓지 못한다.
 

AI 환각의 위험성 

AI가 생각을 하는 걸까? 아니면 가상의 주사위를 굴려 다음 토큰을 선택하는 거대한 통계 메커니즘을 실행하는 걸까? 물론 알고리즘이 단지 통계에 불과하다는 사실을 알고 있지만, 그래도 이 정도면 사고한다고 할 수 있을까? 그럴 가능성은 얼마나 될까? 알고리즘의 작동 방식을 설명하는 여러 가지 비유가 있다. 어떤 사람은 '확률적 앵무새 (stochastic parrots)'라고 하고, 또 어떤 이는 허프만 코딩(Huffman coding) 같은 통계적 압축 알고리즘의 한 버전이라고 이야기한다. 어쨌든 지금 전 세계는 천재성과 환각이 뒤섞인 생성형 AI의 모습을 설명할 방법을 찾기 위해 고군분투 중이다.
 

AI 정확성의 위험 

AI는 어린아이처럼 행동하는 경향이 있다. 그래서 무언가 지어내 말하는 것만큼이나 위험한 것이 바로, 여과되지 않은 진실을 말하는 것이다. 한쪽에서는 진실을 말하는 AI가 세상에 더 많은 지식과 이해를 가져다 줄 것이라고 기대한다. 다른 한쪽에서는 “당신은 진실을 감당할 수 없다(You can’t handle the truth)”라는 영화 <어 퓨 굿 맨(A Few Good Men)>의 명대사가 옳다고 생각한다. 필자는 구글 바드(Bard)에 특정 인물에 대한 명예훼손이 될 수 있는 주제로 질문을 던져봤다. 바드는 “저는 대규모 언어 모델로서 다양한 프롬프트와 질문에 대한 응답으로 의사소통하고 사람과 같은 텍스트를 생성할 수 있지만, 이 사람에 관한 지식은 제한적입니다”라고 답했다. 아직은 그럭저럭 틀어 막고 있는 것으로 보인다. 하지만 과연 앞으로도 계속해서 가능할까? 어쩌면 지금 가장 긴장하고 있는 이들은 AI 기업의 변호사일지도 모른다.
 

저작권 침해 

어떤 이가 “모든 것을 밥에게 배웠습니다”라고 하면 겸손과 인정의 표현처럼 들린다. 하지만 AI가 비슷한 말을 한다면 어떨까? 당장 밥이 학습의 대가를 내놓으라고 보상 소송을 할 수 있을지 궁금해하기 시작한다. 필자도 정답은 알지 못한다. 단지 필자는 필자가 쓴 책 <암호의 종말(Disappearing Cryptography)'이 세상에서 가장 똑똑한 AI 중 일부를 학습시킨 북3(Books3) 말뭉치에 포함됐다는 사실을 어느 정도 자랑스럽게 생각한다. 때로는 AI가 자식이나 마찬가지인 것처럼 느껴지기도 한다. 하지만 이런 느낌과 무관하게 AI가 책 시장을 파괴하고 있는 것은 분명하다. 설상가상으로 그 파괴의 규모도 엄청나다. 저자는 왜 보상을 받지 못하는 것일까? AI 업계에서 흔히 언급하는 '공정 이용(fair use)'이 시장을 파괴한다면 이는 더 이상 공정한 것이 아니다.
 

인터넷은 계속 열려 있을까

AI가 기존 지식을 대량으로 학습하는 것은 철 지난 책을 불법 복제하는 것과 전혀 다른 문제다. 이 문제의 가장 심각한 부분은 결과적으로 책이나 잡지 기사, 블로그 게시물을 작성하는 데 신경을 쓸 사람이 사라질 수 있다는 것이다. AI가 미친 듯이 지식을 흡수한다면 굳이 신경써서 글을 작성해야 할 필요가 있을까. 그동안 저작권은 출판사, 작가, 대학을 중심으로 새로운 사상과 개념이 만들어지는 데 일조했다. 하지만 이 오래된 비즈니스 모델은 AI라는 파도가 밀려오면서 모래성처럼 쓸려 내려 가고 있다. 적어도 인터넷과 검색엔진이 등장했을 때만 해도 사람들은 손을 흔들며 광고 지원이나 후원을 이야기했다. 하지만 AI가 인간의 새로운 지식 합성(knowledge synthesis)을 어떻게 지원할지는 아무도 모르는 듯하다.
 

선순환인가, 악순환인가

초기 생성형 AI는 인간이 만든 정보를 학습했다. 이후 생성형 AI 모델이 연구실을 벗어나면서, AI가 생성한 콘텐츠가 인터넷과 다음 세대의 학습용 말뭉치로 흘러들어가기 시작했다. 어떤 사람은 이 흐름이 놀라운 인사이트의 도약으로 이어지리라 기대한다. 하지만 필자는 마이크를 앰프에 너무 가까이 뒀을 때 발생하는 일을 먼저 떠올리는 편이다. 
 

AI가 얼마나 높이 날 수 있을까

일부에서는 AI가 폭락하기 전의 팻츠닷컴(Pets.com)처럼 과대 포장돼 있다고 주장한다. 초창기 아마존 같다는 분석도 있다. 모든 초기 단계는 항상 추측으로 가득 차 있으며, AI도 예외는 아니다. 마이크로소프트가 막대한 생성형 AI 기술 투자를 바탕으로 애플을 앞지를 것이라는 기대와 허황된 꿈이라는 비판이 공존하고 있다. 아직은 차분하게 더 지켜봐야할 시점이다. 
editor@itworld.co.kr
 Tags 생성형 AI
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.