인간 대체 AI 우려 확대…"인간은 구성자˙조련자 역할 맡을 것"

AI 임팩트(AI Impacts) 연구 프로젝트와 본 대학, 옥스포드 대학이 공동으로 실시한 새로운 설문조사 결과 AI 전문가 사이에서는 최근 AI 기술의 빠른 발전에 대한 우려가 확대되고 있는 것으로 나타났다.
 
설문에는 업계 미디어 및 포럼 관계자 2,778명이 참여했다. 핵심적인 설문 결과는 응답자의 10%가 향후 3년 이내에 모든 업무에서 기계가 인간의 능력을 넘어설 수 있음을 우려하고 있다는 점이다. 50%는 2047년을 그 시점으로 보고 있다.
 

설문 보고서에서 연구진은 "낙관적인 시나리오는 일과 삶의 다양한 측면에 혁명을 불러올 AI의 잠재력을 조명하는 반면, 비관적인 전망, 특히 멸종 수준의 위험에 대한 전망은 AI 개발과 배포에 따르는 높은 위험을 냉철하게 상기시켜 준다”라고 썼다.
 

더 많은 일을 맡을 AI

설문에서는 참가자에게 39개 AI 과제를 제시하고, 과제가 "현실화될" 시점, 즉 유수의 AI 연구소에서 1년 이하의 시간을 투자해 구현하는 시기가 언제일지를 질문했다. 과제의 범위는 처음 접하는 언어를 번역하는 것부터 결제 처리 사이트 신규 구축까지 다양했다. 응답자는 이 중에서 4가지를 제외한 나머지 모든 작업은 10년 이내에 현실화될 가능성이 50% 이상이라고 답했다.
 
또한 설문에서는 고수준 머신 인텔리전스(HLMI)와 완전한 노동 자동화(FAOL)가 달성되는 시점에 대해서도 물었다. HLMI는 기계가 인간의 도움 없이 인간보다 더 낮은 가격으로, 더 일을 잘 하게 되는 지점을 나타내며, FAOL은 기계가 인간 노동력보다 더 효율적, 경제적으로 직업을 완전히 자동화할 수 있는 시점이다. 응답자는 2047년에 HLMI에 도달할 가능성을 50%로 봤다. 2022년 설문 결과에 비해 13년이나 앞당겨진 수치다. 완전한 노동 자동화에 이를 가능성이 50%인 시점은 2116년으로, 이전 전망에 비해 48년 줄었다.
 
카네기 멜론 대학의 인간+AI 디자인 이니셔티브(Human+AI Design Initiative) 책임자 크리스 맥콤은 인터뷰에서 2037년까지 인간의 모든 직업이 완전히 자동화될 가능성은 "극히" 낮다고 말했다.
 
맥콤은 "여기에는 두 가지 힘이 경쟁적으로 작용한다. 하나는 보통 사람의 적응, 다른 하나는 AI가 새로운 상황에서 어려움을 겪는 경우가 많다는 점이다. 다행히 세상은 새로운 상황으로 가득 차 있다! AI가 문제 해결에 능숙해지는 동안 인간은 더 중요한 문제 구성자(framer)가 되어 새로운 상황을 익숙한 빌딩 블록으로 변환하는 방법을 찾게 될 것"이라고 말했다.
 
맥콤은 "연구에서 그러한 추세가 명확히 나타나기 시작했다. 인간과 AI로 팀을 구성하면 인간 팀원은 AI 에이전트가 단독으로는 처리할 수 없는 새로운 시나리오에 적응하도록 돕는 중요한 역할을 맡게 된다. 이들을 'AI 조련사(handler)'로 지칭한다”라고 말했다.
 
렌셀러 폴리테크닉 대학교의 AI 및 추론 연구소 책임자 셀머 브링서드는 설문 결과의 시점에 대해 회의적이지만, 한 인터뷰에서 현재의 기술화된 경제에서 인간이 맡고 있는 대부분의 직업은 2050년이면 AI가 완전히 수행할 역량을 갖출 것이라고 말했다.
 
브링서드는 "그 이유를 간단히 알아보기 위해 운송 및 그 주변의 직업을 기준으로 살펴보자. 어느 물건을 인도 방갈로르에서 애디론댁 공원의 먼 호수까지 운송해야 한다. 물건의 현재 위치는 예를 들어 인도의 한 집이다. 이 과정의 모든 작업을 AI가 수행하게 된다. 상차 인력, 운전자, 항공기 조종사 등이 모두 필요 없어지고 그 자리를 각각 로봇, 자율주행차, 자율비행 항공기 및 드론이 차지한다. 인간의 개입 없이 이 상자는 호수 오두막집 현관문 앞에 안전하게, 손상 없이 배송된다”라고 말했다.
 
브링서드는 "이 시나리오가 2050년까지 가능하다는 데는 의심할 여지가 없다”라고 말했다.
 

 

전문가 의견 “AI가 사람들을 놀라게 할 것”

설문에서는 참가자에게 2043년까지 몇 가지 AI 특성이 실현될 가능성을 평가하도록 요청했다. 대다수는 20년 내에 AI 기반 툴이 지금까지 예상치 못한 방식으로 목표를 달성하고(82%), 대부분의 주제에 대해 인간 전문가처럼 대화하고(81%) AI가 인간이 놀라움을 느낄 정도의 행동을 하는 경우가 빈번하게 나타날 것(69%)이라고 답했다. 또한 많은 응답자가 이르면 2028년까지 시스템이 어떤 결과를 내놓을 때 인간이 그 결과가 도출된 이유를 이해하지 못하는 경우가 많아질 것으로 예상했다.
 
AI의 오용 가능성에 대한 우려도 크다. 우려 사항에는 AI가 딥페이크를 통해 허위 정보를 생성 및 유포하고, 대규모로 여론을 조작하고, 위험한 집단이 바이러스와 같은 강력한 툴을 개발할 수 있게 해주고, 독재적인 정권이 사람들을 억압하는 데 도움을 줄 수 있다는 점 등이 포함된다.
 
설문에 참여한 전문가들은 AI안전을 연구해야 한다는 점에 대해서는 통일된 의견을 도출했지만, AI의 영향에 대한 의견은 엇갈렸다. 응답자의 3분의 2 이상(68%)은 AI의 이점이 단점보다 크다고 답했으나, 약 58%는 상당한 수준의 해로운 결과가 발생할 가능성이 있다고 답했다. 위험에 대한 인식은 질문에 따라 다르게 나타났다. 약 절반은 AI로 인해 인류가 멸종하거나 심각한 통제력 손실에 직면할 가능성이 10% 이상이라고 답했다. 참가자 10명 중 1명은 인류 멸종을 포함한 재앙적 결과가 발생할 가능성을 25% 이상으로 봤다.
 
맥콤은 낙관적인 편에 속한다.
 
맥콤은 "인류는 불에서 원자 분열에 이르기까지 오랫동안 강력한 힘을 활용해왔다. 중요한 것은 이러한 힘을 효과적으로, 안전하게 활용하기 위한 엔지니어링 및 설계 원칙을 사용하여 파괴적인 잠재력이 아닌 생산적인 선의 방향으로 '설계'하는 것이다. AI는 두려워할 위협이 아니라 활용해야 할 설계 재료"라고 말했다.
 
반면, 브링서드는 비관론자에 속한다. 브링서드는 자신이 정립한 이론인 PAID 문제를 언급했다. 이 이론에서는 힘(Power), 자율성(Autonomy), 지능(Intelligence)의 수준을 확인하는 방법으로 특정 AI 또는 AI 그룹의 위험성 또는 잠재적 파괴력을 측정한다. 브링서드는 챗봇이 매우 높은 수준의 자율성을 갖고 있다면서 머지않아 챗봇이 지구상의 모든 가용 데이터에 접근할 정도가 되면서 이 자율성은 더 커질 것이라고 강조했다.
 
브링서드는 "여기서 말하는 자율성은 인간 수준의 '자유 의지'가 아니다. 진정한 창의성(최대한의 자율성이 필요)은 없지만, 자율성 수준은 앞으로 극단적으로 높아질 것이다. 다행히 힘은 전혀 다른 문제"라고 말했다.
 
이어 브링서드는 "모든 첨단 기술, 개방 시장 민주주의 국가가 특정 과학과 공학을 추구하고 적용하지 않는 한, 강력하고 자율적이고 지능적인 미래 AI는 결국 극심한 위험을 초래하고 궁극적으로 인류를 파괴할 수도 있다”라고 덧붙였다.
editor@itworld.co.kr