AIㆍML

AI로 가는 여정을 떠나기 전에 생각해 볼 선결 과제 7가지

Peter Wayner | InfoWorld 2023.05.04
모든 사람이 고치를 깨고 태어난 AI라는 나비에 감탄하고 있다. 대규모 언어 모델은 세련되고 학습되었으며 다양한 언어와 방식으로 능숙하게 의사소통한다. 인간이 꿈꾸고 언어로 표현하던 거의 모든 것을 더 사악하고 나은 방식으로 생산해낸다. 과학자는 AI에게 음악을 작곡하고 우주를 탐험하며 (우려스럽게도) 유급 노동자가 전통적으로 수행하던 반복적 작업까지 가르치고 있다.

반면, 표면 아래에서는 심각한 문제가 빛을 발하고 있다. 인간은 아직 경외하는 단계에 있어 미처 알아채지 못한 것일지도 모른다. 머지 않아 이제 AI 때문에 생긴 문제와 윤리적 딜레마를 붙잡고 고심하게 될 것이다. 지금 느끼고 있는 놀라움이 사라지기 시작하면 더는 무시할 수 없을, 7가지 AI 문제를 정리했다.
 
ⓒ Getty Images Bank
 

자원 부족

대부분의 대규모 AI 모델은 GPU나 TPU로 알려진 특화된 칩의 도움을 받아 거대한 평행 연산을 수행한다. 암호화폐 채굴자나 화상 회의 참가자, 게이머도 이런 연산을 사용한다. 모두가 고성능 하드웨어를 원하기 때문에 최근 몇 년 동안은 수요가 공급을 초과해 하드웨어 가격이 천정부지로 치솟았다. 더 문제인 것은 많은 사용자가 클라우드를 이용하고 있어서 클라우드가 확장 속도를 따라가지 못할 때도 있다는 것이다. 가능한 모든 역량을 총동원해 AI 모델을 구축하려면 엄청난 수의 하드웨어가 필요하고 그 비용은 결코 저렴하지 않을 것이다.

성공적인 AI 배포에 필요하지만 희소한 자원은 하드웨어 외에도 더 있다. 거대한 AI 관련 직업에도 많은 전기가 필요한데 모든 국가가 충분하게 전력을 공급하고 있지는 않다. 지리적 분쟁과 가용 재활용 자원이라는 여러 가지 조건 사이에서 그저 예측 가능한 가격으로 충분한 전력을 얻는 것만도 어려운 문제다. 일부 클라우드 공급업체는 지리적 분쟁 덕에 더 많은 수익을 얻기 위해 특정 지역에서의 요금을 인상하고 있다.
 

AI 윤리

명절 저녁 식사, 직장 등 특정한 때와 장소의 맥락에서 사람이 피해야 하는 주제나 논쟁은 많다. 그러나 AI는 모든 맥락에서 특정 문제를 세심히 다루는 법을 배워야만 한다. 어떤 대규모 언어 모델은 입력된 질문을 우회하거나 답변을 거부하도록 프로그래밍되어 있다. 그러나 잠자는 사자의 코털을 계속 건드리려는 사용자도 많다. 그런 사용자가 AI가 교묘한 의도가 있는 질문, 즉 인종이나 성별 편견을 자극하는 질문을 피하는 것을 알아차린다면 바로 안전대를 피해 파고들 방법을 찾으려고 할 것이다.

편견이 있는 데이터, 불충분한 데이터는 시간을 두고 교정되어야 할 문제다. 그러나 최종적으로는 오남용 가능성이 매우 크다. AI가 혐오 발언을 쏟아내게 만드는 것은 분명 나쁜 일이지만 AI를 활용해 실제 인생의 중요한 결정의 도덕적 함축을 탐험할수록 시나리오는 점차 복잡해질 것이다.
 

전 세계적 노동 불평등

많은 AI 프로젝트가 학습을 유도하기 위해 사람의 피드백에 의존한다. 때로 방대한 규모의 프로젝트는 그만큼 많은 사람이 훈련 세트를 구축하고 모델이 성장함에 따라 행동을 적응시켜야 하는 경우도 있다. 많은 프로젝트에서 요구되는 양을 보면 훈련자가 저개발 국가에서 낮은 임금을 받아야만 경제적으로 실현 가능하다. 무엇이 공정이고 정의인지에 대한 논쟁이 많지만, 아무도 대규모 프로젝트를 위한 경제적으로 실현 가능한 해법을 찾지는 못했다. 보석 채굴 산업이 고강도의 위험한 채굴 작업을 외면하는 것처럼 AI 산업도 노동 비용에 대한 단순한 해법을 가지고 있지 않다.
 

나쁜 피드백의 악순환

가짜 뉴스와 가짜 후기라는 형태로 나타나는 허위 정보는 정치적인 이유부터 영리적 목적이라는 여러 가지 이유로 만들어지고 계속 문제로 제기되어 왔다. 후기 같은 경우는 업체가 제품을 호평하는 가짜 후기를 만들고 경쟁 제품을 깎아내리는 가짜 후기를 남긴다. 악의 행위자를 차단하는 알고리즘은 사실 놀랄 만큼 복잡하고 상당한 유지보수를 필요로 한다. 공짜 밥은 어디에나 없는 모양이다.

그러나 AI가 허위 정보 생성에 악용되면 무슨 일이 생길지 상상해보자. 우선 허위 정보 양이 엄청나게 증가할 것이다. 다른 예로는 다른 인공지능이 허위 정보를 학습해 훈련용 말뭉치에 재입력할 가능성도 늘어난다. 허위 정보 입소문은 이미 소셜 네트워크를 오염시키고 있다. 나쁜 피드백의 악순환은 어떻게 지식을 증폭시키고 또 붕괴시킬 것인가? 특이점이 오기 전에 과거의 텍스트로 섬세하게 조율된 훈련 세트가 있을 수 있을까?
 

법적 제도

AI는 방대한 말뭉치와 이미지를 복사하면서 알고 있는 모든 것을 학습한다. 데이터를 만든 사람은 대부분 자신의 작업이 언젠가 수십억 달라의 가치로 나타날 AI 모델에 입력될 것이라는 점을 모르고 있다. 사람이 AI에 일자리를 내주게 되면 무슨 일이 일어날까? 갑자기 라이선스와 저작권, 표절 논란을 제기하면서 변호사를 선임할 시간이 늘어날 것이다. AI에게 관련 판례를 학습시키자는 농담을 할 수도 있지만, 수 밀리초만에 판결을 내릴 수 있는 AI 판사는 몇 년에 걸쳐 사건을 검토하는 인간 판사보다 훨씬 두려운 존재다. 인간성과 법적 제도에 의존한다면 판결이 나오기까지 수십년이 걸리기도 한다.

맥락이 비슷한 또 다른 시나리오를 들어 보자. AI가 역사적 사건이나 과거의 대중 문화를 설명하면서 실수를 저지르는 것은 불쾌하기는 해도 무해하다. 그러나 같은 AI가 실존 생존 인물을 헐뜯는 말을 하면 실제로 명예 훼손에 해당할 수 있다. 따라서 생존 인물에 대해 여러 가지 문장을 짜깁기해서 잘못된 정보를 지어내는 것도 충분히 상상할 수 있는 일이다. 비방을 당한 사람이 변호사를 고용해 복수할 수 있는 수단을 가진 인물이라고 생각해 보자. AI 자체에 책임이 있을까? 아니면 AI를 소유한 기업이 책임을 져야 할까? 아마도 이익을 보는 것은 변호사와 로펌뿐일 것이다.
 

사망 사고와 사건

필자가 아는 한 공상 과학 영화에 나오는 악당처럼 악한 AI의 분명한 예시는 없다. 자율주행 자동차나 공장의 기계들도 실수를 저지르는 것으로 알려져 있지만 현재로서는 어떤 악한 AI의 소행은 아니다. 스스로 사고를 일으키는 자율주행 자동차보다는 운전하면서 아침을 먹고 문자를 보내는 어리석은 사람이 실수를 저지른다는 것이 훨씬 더 그럴 듯한 설명이다(물론 매우 비극적인 일이다). 아직까지는 인간은 AI로 유발된 심각한 사상이나 사망 사건을 가려내는 방법을 알지 못한다.

영리한 사용자들은 이미 AI가 실수하는 경향을 이해하기 시작했다. AI는 모호한 정보를 올바르게 이해하는 데는 뛰어나지만 1부터 5까지 세는 간단한 작업에서조차 삐끗할 수 있다. 그러나 단순한 계산 오류보다 더 심각한 문제가 일어나면 어떻게 해야 할까? 아무리 많은 수익을 원하더라도 최소한 일부 특정 업무만큼은 AI가 할 수 없는 일이라는 결론을 내릴 수 있다.
 

위대한 유산

인간은 동물이나 AI가 인간과 똑 같은 방식으로 생각할 것이라고 상상하는 경향이 있다. 인간은 종종 실망스러운 행동을 하기도 하고 완전히 위험하기도 하기 때문에 이런 생각은 자칫 두렵게 느껴진다. 진짜 문제는 AI가 아직 인간이 완전히 이해하지 못하는 다른 형태의 지능을 가지고 있다는 것이다. 하나의 종으로서 인간은 AI의 독특한 강점과 약점에 대해 더 많이 배워야만 한다.

그동안 인공지능 분야는 인간의 낙관주의에 의해 이상에 부응할 수 없을 정도로 너무 많이 부풀려지고 과대포장되어 왔다. 과학자들이 인간의 기대를 충족하지 못하는 것은 그들의 잘못이 아니다. 기업에게도 AI의 자본화에 기여한 책임을 묻기는 어렵다. 희망이 현실보다 더 앞서 나간 것은 전적으로 인간의 잘못이다. 인간이 지나치게 많은 것을 기대한다면 AI 분야는 실망스러운 결과를 낼 수밖에 없는 운명이다.
editor@itworld.co.kr
 Tags

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.