[ITWorld 넘버스] 우리가 미처 몰랐던 ‘생성형 AI’의 또 다른 면모

2022년 11월 혜성처럼 등장한 ‘챗GPT’는 그야말로 생성형 AI 열풍을 일으켰다. 자고 일어나면 이 기술의 놀라운 잠재력, 다양한 활용도를 전하는 보도가 연일 쏟아졌고, 생성형 AI를 통합한 제품과 서비스 출시 소식이 여기저기서 들려왔다. 하지만 생성형 AI가 보여주는 장밋빛 전망 이면에는 많은 부작용도 존재한다. 오늘날 생성형 AI를 모르는 사람은 없지만, 모든 면모를 다 아는 사람도 없다고 이야기할 수 있는 이유다. 여기서는 그동안 주목하지 않았던 생성형 AI의 또 다른 면모를 살펴본다. 
 

 

“아직 생성형 AI를 준비하지 못한 기업이 많다”

생성형 AI 기술이 삶의 방식뿐만 아니라 업무 방식을 바꾸고, 생산성을 향상시킬 것이라는 전망이 지배적이다. 이런 트렌드를 반영하듯 언스트 앤 영에 따르면 대부분의 비즈니스 리더가 향후 3년 이내에 직원 생산성 및 고객 서비스 향상을 위해 생성형 AI를 도입할 계획이다. 하지만 장밋빛 미래에만 주목한 나머지 이를 실현하기 위해 해결해야 할 과제는 간과하고 있다. 

AMD의 ‘AI 전망(AI Outlook)’ 보고서에서 많은 IT 리더는 AI의 잠재적인 이점을 긍정적으로 평가하고 있지만, 급속하게 발전하고 있는 생성형 AI를 구현할 준비는 되지 않은 것으로 나타났다. 

IT 리더들은 자동화된 사이버 보안 탐지 기능, 업무 효율성 향상, 직원 생산성 향상 등을 AI가 주는 대표적인 이점으로 꼽았다. 또 전체 응답자의 78%는 AI를 통해 더 많은 업무를 할 수 있을 것이라고 밝혔으며, 70%는 일과 삶의 균형을 개선하는 데 도움이 될 것이라고 말했다.

하지만 이와 동시에 AI의 발전이 기업의 준비 속도를 앞지르고 있으며, 이에 따라 전반적인 준비 상태를 우려하는 IT 리더도 많았다. 전체 응답자의 46%는 아직 생성형 AI를 구현할 준비가 되지 않았다고 말했다. 19%만이 앞으로 1년 안에 AI를 우선순위에 둘 계획이라고 답했다. 한국의 IT 리더도 마찬가지였다. 에퀴닉스의 ‘2023 글로벌 기술 트렌드 설문조사’에 의하면 한국의 IT 리더 10명 중 7명 이상은 현재 보유하고 있는 IT 인프라가 AI 기술에서 요구하는 수준에 미치지 못한다고 답했다. 
 

“생성형 AI 쓰는 직원 늘어나는데 가이드라인은 전무”

준비되지 못한 것은 구현 로드맵이나 기술 인프라뿐만 아니다. 기업 내 생성형 AI 활용 지침도 없는 상황이다. 실제로 이런 정책의 부재는 문제를 야기하기도 했다. 2023년 4월 삼성 반도체 사업부가 사업장 내 챗GPT 사용을 허용하자마자 기업 기밀 정보가 유출되는 사고가 발생한 것. 한 엔지니어가 오류를 확인한다는 목적으로 챗GPT에 기밀 소스 코드를 붙여 넣었고, 다른 엔지니어는 챗GPT와 코드를 공유했으며, 코드 최적화를 요청하기도 했다. 

아사나의 ‘기업 내 AI 활용 현황(The State of AI at Work)’ 보고서에 따르면 AI 기술이 직장에서 일상적으로 사용되고 있지만, 직원에게 AI 활용 지침을 정확하게 알려주는 기업은 4분의 1에 그쳤다. 직원의 48%는 기업이 상세한 AI 사용 지침을 제공하기를 원하고 있었다. 하지만 직원 가운데 직장에서 AI 사용 지침을 받았다고 답한 비율은 24%에 불과했다.

한편 AI 사용 지침이나 관련 교육은 인재 확보에도 영향을 미치고 있는 것으로 나타났다. 전체 응답자의 39%는 AI 교육 부족이 입사 결정에 영향을 미치는 요소라고 언급했다. 59%는 새 회사로 이직할 때 AI 사용의 투명성을 고려한다고 답했다. 
 

“생성형 AI로 인한 보안 위협은 이제 현실”

챗GPT가 출시된 지 1년이 채 안 됐지만, 생성형 AI발 보안 위험을 우려하는 목소리가 점점 더 커지고 있다. 맬웨어바이츠의 보고서에 따르면 전체 설문조사 응답자의 81%가 챗GPT 및 생성형 AI로 인한 보안 위험을 우려하고 있다. IBM의 사이버 보안 관련 설문조사에서도 전체 응답자의 거의 절반은 생성형 AI 도입이 새로운 유형의 공격으로 이어질 것이라고 내다봤으며, 무려 96%는 도입 3년 이내에 보안 침해가 발생할 가능성이 있다고 답했다.

실제로 생성형 AI를 악용한 공격도 늘고 있다. 보안 업체 딥 인스팅트의 ‘섹옵스의 목소리(Voice of SecOps)’ 보고서에 의하면 전체 응답자의 3/4은 지난 12개월 동안 사이버 공격이 증가했다고 말했으며, 이 가운데 85%는 증가한 사이버 공격의 원인으로 위협 행위자의 생성형 AI 악용을 지목했다. 

또 전체 응답자의 거의 절반은 생성형 AI가 기업의 취약점을 증가시킨다고 지적했다. 개인정보 보호 문제 증가, 탐지 불가능한 피싱 공격, 공격 규모 및 속도 증가가 가장 큰 3가지 위협으로 꼽혔다.
 

“대중의 환호는 아직 이르다”

챗GPT 출시 당시만 해도 신기한 기술 또는 장난감처럼 간주됐던 생성형 AI가 일상으로 확산되면서 환각 현상, 차별 및 편향성, 데이터 무단 사용 및 저작권 침해, 개인정보 유출 등의 문제가 수면 위로 떠올랐다. 

퓨 리서치 센터가 미국 성인 1만 1,201명을 대상으로 실시한 설문조사 결과에 따르면 AI에 관한 신뢰도가 2년 사이 급격하게 낮아졌다. 2021년 조사에서는 “AI에 대한 기대보다 우려가 더 크다”라고 밝힌 응답자가 37%에 불과했다. 2022년에도 결과(38%)는 비슷했다. 하지만 올해에는 그 수치가 52%로 크게 뛰었다. 반면 기대감을 표한 응답자 비율은 2021년 18%에서 2023년 10%로 감소했다.

생성형 AI를 바라보는 대중의 시각에 관한 또 다른 흥미로운 결과도 있었다. AI가 많은 이점을 가져올 것이라는 믿음이 많은 직원 사이에서 공유되고 있지만, 한편으로 직원들은 생성형 AI 기술을 사용했을 때 부정적 평가를 받을 것을 우려한다고 답했다. 아사나의 ‘기업 내 AI 활용 현황’ 보고서에서 26%의 직원은 생성형 AI 기술을 사용했을 때 게으른 사람으로 비춰질까 걱정했고, 20%는 직장에서 AI를 사용하는 스스로를 사기꾼처럼 느낀다고도 답했다.

생성형 AI에 대한 인식을 둘러싼 세대 간 차이도 포착됐다. 비영리단체 MITRE 코퍼레이션의 설문조사 결과 다수의 Z세대와 밀레니얼 세대는 AI 사용에 개의치 않았지만, 같은 응답을 한 베이비부머는 20~30%에 지나지 않았다. 아울러 Z세대와 밀레니얼 세대의 절반 이상은 일상적인 업무에 AI를 사용할 의향이 있었지만, X세대와 베이비부머 세대는 꺼리는 모습을 보였다.
 

• 세상의 모든 IT 리서치 자료, '넘버스'
  여기서 소개한 모든 자료는 넘버스(Numbers) 서비스에 등록돼 있다. 넘버스는 IT 전문 미디어 ITWorld가 제공하는 IT 리서치 자료 메타 검색 서비스다. IDC, 가트너, 포레스터 등 주요 시장조사 업체의 자료는 물론 국내외 정부와 IT 기업, 민간 연구소 등이 발표한 기술 관련 최신 자료를 총망라했다. 2023년 10월 현재 1,200여 건의 자료가 등록돼 있으며, 매달 50여 건이 새롭게 올라온다. 등록된 자료는 출처와 토픽, 키워드 등을 기준으로 검색할 수 있고, 관련 기사를 통해 해당 자료의 문맥을 이해할 수 있다. 자료의 원문 제목과 내용을 볼 수 있는 링크, 자료를 발행한 주체와 발행 일자도 함께 확인할 수 있다.

editor@itworld.co.kr