챗GPT 사용한다고 밝힌 맥 개발자
39
%
자료 제목 :
2023 맥 개발자 설문조사
Mac Developer Survey 2023
자료 출처 :
SetApp
원본자료 다운로드
발행 날짜 :
2023년 04월 13일
AIㆍML / 보안

블로그ㅣ애플이 챗GPT 사용 금지령 내린 이유

Jonny Evans | Computerworld 2023.05.22
기밀 데이터를 보호하기 위해 오픈AI의 챗GPT 및 기타 유사한 클라우드 기반 생성형 AI 서비스 사용을 금지하는 기업이 증가하는 가운데, 애플도 그 대열에 합류했다. 아울러 월스트리트저널에 따르면 애플은 개발자가 소프트웨어 작성에 사용하는 깃허브의 코파일럿 도구도 사용하지 못하도록 했다. 최근 셋앱(SetApp)의 설문조사 결과에 의하면 맥 개발자의 39%가 챗GPT를 사용하고 있다. 

→ 블로그ㅣ챗GPT로 기밀 샌다?! ‘생성형 AI’ 애플식 접근법이 필요한 이유
 
ⓒGetty Images Bank
 

전면 금지가 타당한 이유 

전면 사용 금지는 극단적인 조치로 보일 수 있다. 하지만 동시에 애플이 이런 서비스 사용과 관련해 쏟아지고 있는 많은 보안 전문가의 우려에 주의를 기울이고 있다는 점을 보여준다. 바로 민감 또는 기밀 데이터가 유출될 수 있다는 우려다. 실제로 삼성은 올해 초 직원들이 기밀 소스 코드를 챗GPT에 업로드한 사실을 발견하고 해당 도구를 금지했다. 

오렌지 사이버디펜스(Orange Cyberdefense)의 수석 보안 연구원 위커스 로스는 다음과 같이 경고했다. “개발자가 AI 챗봇을 학습시키고 개선하는 과정에서 직원들이 챗봇에 입력하는 데이터에도 액세스할 수 있다. 기업의 보안 태세에서 ‘사람’이 가장 취약한 요소라는 점을 고려할 때 다양한 위협에 정보가 노출될 수 있다.”

오픈AI가 기밀 유지를 보장하는(따라서 운영 비용이 많이 드는) 자체 호스팅 버전을 제공하긴 하지만, 공공 사용 계약(public use agreement)에 따라 데이터 기밀성을 준수해야 할 의무가 거의 없다는 위험이 있다. 이미 챗GPT 쿼리가 관련 없는 사용자에게 유출되는 사건이 발생하기도 했다. 
 

사용자의 질문이 곧 데이터가 된다 

애플의 결정이 과잉 반응처럼 느껴질 수도 있지만, 직원들이 어떤 데이터를 공유하고 있는지 주의를 기울이도록 하는 것은 기업 차원에서 매우 중요하다. 문제는 직원들이 클라우드 서비스를 사용할 때 해당 정보가 (채점, 평가 또는 이후 사용을 위해) 서비스에 보관될 가능성이 매우 높다는 점이다. 

기본적으로 이런 종류의 서비스에 묻는 질문은 (그 자체로) 데이터 포인트가 된다. 클라우드 서비스에 제공된 정보는 서비스 업체 내부 또는 외부 공격에 의해 액세스될 수 있다. 이미 이런 일이 발생하기도 했다. 오픈AI는 올해 초 데이터 유출 사고로 챗GPT를 오프라인으로 전환해야 했다. 

영국 국립 사이버보안 연구소(NCSC)는 “서비스 제공업체가 쿼리를 볼 수 있으며, 아울러 쿼리는 저장되고, 언젠가는 서비스 개발에 거의 확실하게 사용될 수 있다”라고 지적했다. “온라인에 저장된 쿼리가 해킹, 유출되거나 실수로 공개될 수 있다는 점이다. 여기에는 잠재적으로 사용자 식별 가능한 정보가 포함될 수 있다”라고 NCSC는 덧붙였다. 

AI 업계의 통합에 따른 위험 계층도 있다. 사용자가 기업 보안 프로토콜의 모든 요건을 충족하는 한 LLM 서비스에 민감한 질문을 했다고 해보자. 하지만 다음 주 그보다는 약한 정책을 가진 서드파티가 해당 LLM 서비스를 구매할 수 있다. 해당 서드파티는 이전 서비스에 제공된 민감한 기업 데이터를 소유하게 되지만, 데이터를 효과적으로 보호하진 못한다. 

이런 우려가 괜히 제기된 것은 아니다. 한 보고서에 따르면 지난해 1,000만 개가 넘는 기밀 항목(예: API 키 및 자격증명 등)이 깃허브 같은 공개 리포지토리에 노출된 것으로 드러났다. 기밀 데이터는 대부분 서비스를 사용하는 개인 계정을 통해 공유되며, 이미 도요타와 삼성에서 일어난 일이며, 챗GPT 사용을 금지한 애플이 우려하고 있는 일이다.

따라서 많은 보안 전문가가 챗GPT 같은 공개 서비스의 쿼리에 민감한 기밀 정보를 포함시키지 말라고 한목소리로 경고하고 있다. 사용자는 문제가 될 수 있는 질문은 절대 하지 말아야 한다. 

데이터 보안을 강화하려는 대기업의 입장에서 전면 사용 금지는 현시점에서 가장 쉬운 해결책이라고 할 수 있다. 물론 언제까지고 전면 사용 금지를 고수할 순 없다. 가장 타당한 방향은 엣지 기기에서 호스팅할 수 있는 소형 LLM 시스템으로 향하는 것이다. 따라서 언젠가는 아이폰에서 챗GPT 앱을 사용하는 사람이 없으리라 예상된다. 휴대전화 자체에서 제공되는 유사한 기술을 사용할 것이기 때문이다. 

하지만 현재로서는 클라우드 기반 LLM 서비스를 쓰는 사람이라면 (이 서비스가) 보안이 보장되지 않으며, 기밀 또는 민감 데이터를 절대 공유해서는 안 된다는 점을 명심해야 한다. 
editor@itworld.co.kr
 

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.