AIㆍML

"실수 없는 AI는 없다"…딥페이크·실수·편견은 불가피하지만 통제 가능

Lucas Mearian | Computerworld 2023.05.09
챗GPT, 달리2(Dall-E2), 알파코드(AlphaCode) 같은 생성형 AI 개발사가 맹렬한 속도로 성장, 발전하고 있다. 그러나 AI 기술의 착각, 오류 또는 공격적인 응답을 방지하는 것은 거의 불가능에 가깝다.
 
특히 자연어를 모방하는 AI 도구의 능력이 하루가 다르게 발전하고 있으므로 가짜 결과와 진짜 결과를 구분하는 것이 곧 불가능해질 것이고, 따라서 기업은 우발적이든 공격자의 의도적인 행위에 의한 것이든 최악의 결과에 대비한 '가드레일'을 마련해야 한다.
 

이번주 MIT 테크놀로지 리뷰의 엠테크 디지털(EmTech Digital) 컨퍼런스에 참석한 AI 업계 전문가는 생성형 AI 기업이 차세대 기술 개발에 박차를 가하면서 다양한 윤리적, 현실적 장애물에 어떻게 대처하고 있는지에 대해 비중 있게 논의했다.
 
머신러닝 앱 벤더 허깅 페이스(Hugging Face)의 최고 윤리 과학자인 마가렛 미첼은 “기술의 전반적인 문제다. 긍정적인 용도를 위해 개발된 기술이라 해도 이후 부정적이고 악의적인 용도로 사용될 수 있다. 이것을 양면적 사용이라고 한다. 어떤 기술이든 양면적 용도로 사용되지 않도록 보장할 방법은 없다"라고 말했다.
 
 
미첼은 “다만 부정적인 사용을 최소화하기 위해 노력하는 것이 중요하다"라고 덧붙였다.
 
생성형 AI는 알고리즘을 사용해서 사용자 프롬프트 또는 질의에 대한 응답을 생성하는 머신러닝 기술의 한 유형인 대규모 언어 모델(LLM)에 의존한다. LLM은 데이터베이스 또는 인터넷의 방대한 정보에 직접 액세스하며, 정보에서 응답을 도출하는 방식을 정하는 수백만 또는 수천억 개의 매개변수를 통해 제어된다.
 
책임감 있는 연구를 보장할 때 가장 중요한 것은 LLM, 데이터 집합 개발, 만들어진 이유 등에 대한 철저한 문서화, 그리고 컴퓨터 모델에 의해 생성된 콘텐츠를 식별하는 워터마크다. 그렇게 해도 문제가 완전히 해결되는 것은 아니다.
 
메타 AI(Meta AI)의 AI 연구 부사장 조엘 피노는 “많은 면에서 이러한 모델이 독성 발언을 생산하지 않는다고 보장할 수 없고, 경우에 따라서는 수집한 데이터의 편향성이 심화되기도 한다. 이러한 모델에 대해서는 더 많은 연구가 필요하다"라고 말했다.
 
피노에 따르면 생성형 AI 개발자는 합당한 안전상의 우려와 크라우드소싱 개발의 투명성 간에 타협을 해야 하는 부분이 있다. 메타 플랫폼(구 페이스북)의 연구 사업부인 메타 AI는 자체적으로 개발한 LLM 중 일부를 상업용으로 출시하지 않는다. 내재된 편향성, 독성 발언 또는 틀린 콘텐츠가 없다고 보장할 수 없기 때문이다. 그러나 신뢰를 구축하면서 다른 연구자와 애플리케이션 개발자가 LLM의 '내부 구조'를 살펴보고 혁신을 가속화하는 데 도움이 되도록 연구 목적의 사용은 허용한다.
 
이미 드러난 바와 같이 생성형 AI에는 '내재된 편향성'이 있다. 즉, 기업에서 채용 후보자를 발굴, 심사, 면접, 채용하는 데 사용될 경우 특정 인종이나 성별을 선호할 수 있다. 그 결과 주, 지방자치단체, 심지어 국가 차원에서도 구직자 검색과 면접, 채용에 AI 기반 봇을 사용하는 것을 제한하는 방안이 논의되고 있다. 
 
메타는 AI 개발자가 경험하는 것과 동일한 문제, 즉 민감한 데이터를 기밀로 유지하고, LLM이 명백하게 악용될 수 있는지 여부를 판단하고, 기술이 편향성을 갖지 않도록 보장해야 하는 문제에 직면해 있다.
 
피노는 “간혹 프로젝트가 끝나면 오픈소스로 공개할 의도를 갖고 프로젝트를 시작하지만 특정 데이터 집합을 사용한 후 프로세스가 끝나는 시점에서야 사용하면 안 되는 데이터 집합임을 알게 되는 경우가 있다. 저작권 문제나 다른 문제 등 어떤 이유로든 책임성 있는 데이터 집합이 아닌 것”이라고 말했다.
 
LLM은 특정 데이터 집합을 사용한 미세 조정과 학습을 통해 고객 지원 챗봇 또는 의료 연구와 같은 특정 기업 용도를 위해 작업에 대한 설명을 입력하거나 AI 툴에 질문과 최선의 대답을 제시함으로써 더 맞춤화된 응답을 제공할 수 있다.
 
예를 들어 전자 건강 기록 정보와 임상 약물 시험 정보를 LLM에 포함하면 의사는 챗GPT와 같은 챗봇에 환자 진료를 위해 증거에 기반한 권장 사항을 제시하도록 요청할 수 있다.
 
그러나 생성 AI 모델이 내놓는 응답의 품질은 기반 소프트웨어와 데이터에 의해 결정된다. 또한 딥 페이크 이미지와 비디오를 제작하는 데도 이 툴을 사용할 수 있다. 즉, 악의적 행위자가 실제 사진과 이미지를 조작해 진짜처럼 보이는 가짜 영상을 만들 수 있다. 
 

마이크로소프트 코파일럿의 움직임

마이크로소프트는 지난 3월 챗GPT 기반의 챗봇으로 오피스 365 비즈니스 애플리케이션에 비서로 내장되는 코파일럿(Copilot)을 출시했다. 마이크로소프트의 비즈니스 애플리케이션 부문 부사장인 재러드 스파타로는 코파일럿이라는 이름이 붙은 이유에 대해 사람의 감시나 검토를 받지 않고 독단적으로 작업을 수행하도록 만들어지지 않았으며 작업을 위한 참조를 제시하기 때문이라고 말했다. 
 
스파타로는 “특히 숫자와 같은 구체적인 항목에서 코파일럿은 ‘이 범주가 지난해 대비 77% 성장했다’와 같은 응답을 출력할 때 ‘그 수치는 이 보고서에서 가져왔다’는 식으로 참조를 표시한다. 참조가 표시되지 않는다면 코파일럿이 만들어낸 것이라고 봐도 된다"라고 설명했다.
 
스파타로는 “코파일럿은 좋은 기능이다. 그러나 사람이 실수를 하듯, 지금의 코파일럿은 매우 유능하지만 완전히 신뢰하기는 어려운 신참 직원 정도로 생각해야 한다. 흥미로운 작업을 할 수 있지만 신뢰하기 전에 반드시 검증해야 한다"라고 말했다.
 
스파타로는 원격 비디오 형태로 진행된 컨퍼런스 연설에서 생성형 AI는 완벽하지 않지만 창의성과 연구, 일상적인 작업의 자동화에 실제 도움이 된다고 말했다. 한 청중이 스파타로를 향해 AI가 생성한 딥페이크가 아닌 진짜 스파타로임을 어떻게 증명할 수 있는지 묻자 스파타로는 증명할 수 없다고 인정했다.
 

워터마크가 해결책?

가짜 뉴스와 이미지, 동영상에 대처하는 한 가지 방법은 메타데이터에 데이터의 출처를 가리키는 일종의 워터마크를 포함하는 것이다. 생성형 AI 스타트업인 스태빌리티 AI(Stability AI)의 수석 제품 관리자 빌 마리노는 스태빌리티 AI가 곧 콘텐츠 출처 및 진위성을 위한 연합(C2PA)이 제공하는 기술을 생성형 AI 모델에 통합할 것이라고 말했다.
 
C2PA는 생성형 AI 콘텐츠에 식별 메타데이터를 제공하는 것을 목표로 어도비가 2021년 2월 설립한 협회다.
 
스태빌리티 AI는 지난달 챗GPT의 오픈소스 대안인 스테이블LM(StableLM)을 출시했다. 스태빌리티의 API에서 출력되는 모든 이미지에는 C2PA의 메타데이터 표준이 포함된다. 마리노는 “메타데이터의 출처 데이터는 사용자가 온라인에서 접하는 콘텐츠를 안심하고 신뢰할 수 있는지를 판별하는 데 도움이 될 것”이라고 말했다.
 
마리노는 “예를 들어 악명 높은 ‘발렌시아가를 입은 교황 사진’에 메타데이터가 포함된다면 AI를 통해 생성된 이미지임을 알 수 있다"라고 말했다.
 
스태빌리티 AI는 다양한 사용 사례를 위해 LLM을 학습시킨 다음 오픈소스 소프트웨어로 무료로 제공한다(향후 API는 수익화할 수도 있음). 이 LLM을 프롬프트 엔지니어링을 통해 더 세밀하게 조정해서 더욱 구체적인 용도로 사용할 수 있다.
 
마리노는 딥 페이크, 맬웨어, 악성 콘텐츠와 관련된 위험은 “절대 용납할 수 없다. 이러한 위험을 해소하는 것은 스태빌리티에 합류한 이유 중 하나다. 특히 스태빌리티는 이 같은 위험을 용납할 수 없는 기업 고객으로 초점을 옮기는 중이므로 그렇게 할 책임이 있다"라고 말했다.
 
마리노는 MIT 컨퍼런스에 참석한 다른 사람들과 마찬가지로 생성형 AI의 미래는 더 민첩하고 응답 속도도 더 빠르고 특정 비즈니스 또는 산업 용도에 따라 맞춤화되는, 비교적 작은 LLM에 있다고 믿는다. 매개변수의 수가 수천억 개에 이르는 거대 LLM의 시대는 오래 지속되지 않을 것이란 전망이다.
 
스태빌리티 AI 외에도, LLM을 사용해서 많은 작업에 도움이 되는 산업별 챗봇과 기타 기술을 만드는 생성형 AI 스타트업은 수없이 많다. 생성형 AI는 이메일을 정리하거나 온라인 채팅 회의 내용 또는 대용량 문서를 요약하는 등의 수작업 또는 반복적인 작업을 처리함으로써 마케팅 자료와 광고 캠페인을 더 효율적으로 생산하기 위한 용도로 이미 사용되고 있다.
 
모든 강력한 기술이 그렇듯이 생성형 AI는 좋은 목적과 나쁜 목적을 불문하고 수많은 용도에 맞는 소프트웨어를 생성할 수 있다. 예를 들어 기술적 지식이 없는 사람을 애플리케이션 개발자로 만들어 주거나, 조직의 네트워크 방어를 테스트한 다음 민감한 정보에 대한 액세스 권한을 얻도록 학습될 수 있다. 또는 API 취약점을 악용하거나 시스템에 맬웨어를 업로드하기 위한 워크로드 기반 공격에도 사용될 수 있다.
 
허깅 페이스의 미첼은 메타가 지난 2월 LLaMA(대용량 언어 모델 메타 AI)를 출시하면서 이 기술을 사용하려는 모든 사람이 검증 가능한 자격 증명을 사용해 온라인 양식을 작성하도록 강제하는 조치를 취한 것은 잘 한 일이라고 평가했다. (LLaMA는 650억 개의 매개변수가 있는 방대한 기반 LLM이다.)
 
미첼은 “책임 소재를 가릴 수 있게 된 것"이라며 “익명이 아니면 악의적인 용도로 사용할 가능성이 낮으므로 선한 행동을 장려하는 효과가 있다. 허깅 페이스도 이와 같은 조치를 준비하고 있다"라고 말했다.
 
미첼은 “기술을 누가, 어떻게 사용할 수 있는지에 대해 어느 정도의 제한을 두는 가드레일 또는 메커니즘을 마련하는 것은 중요한 방향”이라고 덧붙였다.

또한 생성형 AI 모델이 민주화되면 마이크로소프트, 구글과 같은 한 두 개의 기업에 힘이 집중되어 모델을 만든 사람의 우선순위나 실수가 소프트웨어에 내재되는 문제를 방지하는 효과도 있다.
 
미첼은 “이러한 모델이 전 세계적으로 배포되면 하나의 오류나 편견이 국제적이고 전 세계적인 오류가 된다. 다양성은 한 시스템의 약점이 모든 사람에게 영향을 미치지 않도록 한다. 다양한 종류의 시스템에 다양한 약점과 강점이 존재하기 때문”이라고 말했다.
editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.