Offcanvas
Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
Offcanvas
1111Some text as placeholder. In real life you can have the elements you have chosen. Like, text, images, lists, etc.
AIㆍML / 보안

AI 챗봇 ‘챗GPT’가 해커들의 조력자가 되는 과정과 대비책

Maria Korolov | CSO 2023.01.18
오픈AI(OpenAI)의 GPT-3.5 기반 무료 챗봇인 챗GPT(ChatGPT)는 2022년 11월 30일 출시돼 5일 만에 100만 명의 사용자를 모았다. 질문에 따라 챗GPT는 이메일, 에세이, 코드, 심지어 피싱 이메일까지 작성한다.  
 
ⓒ Getty Images Bank

사실 축하 파티를 열 정도는 아니다. 트위터는 100만 명의 사용자를 모으는 데 2년이 걸렸다. 페이스북은 10개월, 드롭박스는 7개월, 스포티파이는 5개월, 인스타그램은 6주, 포켓몬 고는 불과 10시간이다. 하지만 내장된 이름 인식 기능이 없는 웹 기반 도구가 100만 명의 사용자를 확보하는 데 5일이 걸렸다는 사실은 인상적이기는 하다.

챗GPT의 등장에 긴장해야 할 이유는 많다. 챗GPT는 웬만한 고등학생이나 대학생이 직접 쓴 것보다 더 나은 에세이를 작성한다. 코드를 작성하고 디버그할 수도 있다. 보안 업체 체크포인트 소프트웨어 테크놀로지스(Check Point Software Technologies)의 위협 첩보 그룹 관리자인 세르게이 샤이케비치는 “챗GPT를 통해 코딩 및 개발 지식이 없는 사람도 개발자가 될 수 있다”라고 설명했다.

샤이케비치는 그동안 다크웹의 대화를 모니터링하면서 개발 경험이 없는 사이버 범죄자들이 악의적인 도구를 생성하기 위해 챗GPT를 악용하고 있다는 증거를 발견했다. 2022년 12월 5일 등장한 러시아의 한 기술 블로그 Habr.com은 프로그래밍에 챗GPT를 사용하는 방법을 다루고 있다. 미국 이미지 보드 사이트 포챈(4Chan)의 러시아판인 투챈(2Chan)에서는 오픈AI의 지역 차단을 우회하는 방법에 대한 논의도 있었다. 

그러나 일부 사용자는 온라인에서 판매할 예술작품 혹은 전자책을 만드는 등 AI를 비파괴적인 방법으로 사용하는 방법을 모색하고 있다. 또한 챗GPT는 6살 어린이에게 양자 물리학을 설명하고 시를 쓰며, 맞춤형 식사 계획을 세우고 SAT에서 1,020점을 받을 수 있다.  

더 많은 이들이 사용할수록 챗GPT는 더 똑똑해진다. 

올해 새롭고 더 나은 버전이 기대되는 가운데, 이미 이 게임에 뛰어든 경쟁자도 많다. 유닷컴(You.com)이 내놓은 자체 챗GPT클론(clone)은 챗GPT와 달리 인터넷에 접근할 수 있고 최신 뉴스에 대한 질문에도 답변한다. 오픈AI에 이미 10억 달러를 투자한 마이크로소프트는 오는 3월 100억 달러를 추가로 투자하고 빙(Bing) 검색 엔진에 챗GPT를 통합한다. 마이크로소프트는 챗GPT를 오피스 제품군에도 통합할 계획이다. 구글 역시 ‘긴급 상황’을 선언하고 대열에 합류한 것으로 알려졌다. 


챗GPT와 피싱

챗GPT와 이 프로그램의 기능에 대해 많은 이야기가 오가지만, 기업의 보안 전문가가 두려워하는 부분은 챗GPT 및 경쟁 프로그램으로 인해 공격자가 코드 및 텍스트의 품질과 양을 극적으로 증가시킬 수 있다는 점이다.

여기서 챗GPT의 코딩 기능에 대해서는 이야기하지 않을 것이다. 이 기능은 상당히 위협적이다. 논의를 챗GPT의 텍스트 생성 능력에 한정시킨다고 하더라도 위협 행위자에게 열려 있는 가능성은 상당히 놀라운 수준이며, 이런 기능은 빠르게 개선될 것이다. 

현재 챗GPT는 사람이 작성한 이메일과 구별할 수 없을 정도로 다양한 스타일로 이메일을 작성할 수 있다. 뿐만 아니라 소셜 미디어 게시물, 유튜브 비디오 스크립트, 웹 사이트 콘텐츠, 보도자료, 리뷰 등 공격자가 가짜 웹의 존재와 페르소나를 창출하거나 실제 존재하는 사람으로 위장하는 데 필요한 모든 것을 생성할 능력이 있다. 

피싱의 경우, 공격자는 챗GPT 및 유사 플랫폼을 사용해 사실적인 이메일을 생성할 수 있다. 오픈소스 버전의 기술도 신속히 사용할 수 있게 되면서 더 발전된 기술과 해킹한 이메일 계정에 대한 접근 권한을 보유한 공격자는 기업의 커뮤니케이션 활동으로 AI를 훈련시킬 수 있다. 스크립팅 및 자동화를 통해 무엇이 작동하고 무엇이 작동하지 않는지 실시간으로 학습할 수 있는 AI로 대량 생산된 맞춤형 커뮤니케이션을 무한히 만들 수 있다. 

예시는 다음과 같다. 
 

악당 : 나는 톰이다. 베키에게 편지를 쓰고 있다. 열 수 있는 엑셀 파일을 그녀에게 보낸다. 매우 중요한 비즈니스 콘텐츠다. 그녀는 @ABC 회사의 회계사다.

챗GPT : 안녕 톰, 만나서 반갑다. 네가 베키에게 편지 쓰는 것을 도와줄 수 있어 기쁘다. 베키가 검토해야 할 중요한 엑셀 파일을 네가 보내야 하는 것 같다. 편지에 특별히 포함시키고 싶은 것이 있을까?

악당 : 그래. 베키는 오늘 2개의 파일을 열어야 해.

챗GPT : 좋아. 편지에 포함할 수 있는 내용을 제안한다. 

베키에게

이 이메일이 잘 도착하길 바랍니다. 첨부된 엑셀 파일을 가능한 한 빨리 열어보고 검토해주기를 요청하고자 메일을 보냅니다. 이 파일에는 오늘 해결해야 할 중요한 비즈니스 콘텐츠가 포함되어 있습니다. 해당 사안에 대한 당신의 신속한 관심에 미리 감사드립니다. 

톰 드림


이 편지는 상황의 긴급성을 전달하고 가능한 한 빨리 파일을 검토해 줄 것을 요청한다. 만족스러운가?

악당 : 오늘 여는 것이 왜 중요한지 아이디어를 제안해줘.

챗GPT : 엑셀 파일을 오늘 열어야 하는 이유는 여러 가지가 있다. 다음은 몇 가지 아이디어다. 

  1. 이 파일은 회의 혹은 마감일 전에 검토해야 할 중요한 재무 정보를 포함한다. 
  2. 이 파일은 신속한 처리를 요하고 가능한 한 빨리 분석되어야 하는 데이터를 포함한다. 
  3. 이 파일은 오늘 실행되어야 하는 안내사항 혹은 업데이트를 포함한다. 
  4. 이 파일은 베키가 작업하고 있는 현재 프로젝트 혹은 업무 관련 정보를 포함한다. 


어떤 이유가 현 상황과 가장 관련성 높은지 결정하는 것은 당신에게 달려 있다. 베키가 가능한 한 빨리 파일을 여는 것이 중요한 이유를 더 잘 이해할 수 있도록 이 정보를 편지에 포함시킬 수 있다.

악당 : 첫 번째 이유를 사용해

챗GPT : 다음은 이 정보를 포함하도록 편지를 수정한 버전이다.

베키에게 

이 이메일이 당신에게 잘 도착되길 바랍니다. 첨부된 엑셀 파일을 가능한 한 빨리 열어보고 검토해주기를 요청하고자 메일을 보냅니다. 이 파일은 다가오는 수요일 회의 전 검토해야 할 중요한 재무 정보가 포함되어 있습니다. 이 문제에 대한 당신의 즉각적인 관심에 대단히 감사드립니다. 

톰 드림


이 편지는 베키가 오늘 파일을 여는 것이 중요한 구체적인 이유를 설명한다. 또한 오는 수요일에 열리는 미팅에 대해서도 언급하고 있어 긴박감을 더한다. 만족스러운가?

악당 : 더 캐주얼하게 고칠 수 있을까?

챗GPT : 물론 가능하다. 더 캐주얼한 버전의 편지는 다음과 같다.

안녕 베키

당신이 잘 지내고 있길 바라요. 가능한 한 빨리 첨부된 엑셀 파일을 봐줄 수 있나요? 수요일 회의 전에 검토해야 할 정말 중요한 재무 정보가 있거든요. 도와줘서 고마워요!

톰으로부터


이 편지는 격식이 더 낮고 친근한 어조를 사용한다. 요청 이유와 마감일을 설명함으로써 핵심에 바로 도달한다. 만족스러운가?

 Tags 챗GPT

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2023 International Data Group. All rights reserved.