AIㆍML / 보안

“챗GPT를 탈취하라” 다크웹에 부는 생성형 AI 열풍

Jürgen Hill | COMPUTERWOCHE 2023.04.10
다크웹에서는 범죄자들이 챗GPT를 장악하기 위한 경쟁이 뜨겁다. 노드VPN의 연구에 따르면, 2월에 관련 포럼 게시물의 수가 7배 증가했다.

현재 다크웹에서 가장 높은 관심을 얻고 있는 주제는 챗GPT 같은 AI 봇을 악용하는 방법이다. 보안 전문업체 NordVPN은 1월 13일부터 2월 13일까지 일반 검색 엔진에 숨겨져 있는 다크웹 포럼에서 AI 도구에 대한 새로운 게시물의 수를 분석했다. 1월에는 120개였던 관련 게시물이 2월에는 870개로 625% 증가했다.

1월 초에는 챗GPT를 이용해 간단한 악성코드를 제작하는 방법에 대한 질문이 많았다. 하지만 이런 취약점은 현재 수정된 상태이다.
 
ⓒ Getty Images Bank
 

더 공격적으로 나서는 해커 커뮤니티

노드VPN에 따르면, 해커 커뮤니티의 트렌드는 이제 더 공격적인 방법으로 바뀌고 있다. 챗봇을 장악하고 이를 이용해 혼란을 야기하려는 계획이 담긴 게시물이 올라오고 있는 것이다. 

해커가 챗봇을 가로채면, 보안 제한을 무시하고 악성코드와 피싱 이메일을 생성하고 혐오 발언이나 선전을 퍼뜨리는 데 사용할 수 있다. 현재 다크웹 포럼은 "챗GPT 탈옥 방법", "챗GPT 탈옥 2.0", "챗GPT - 멀웨어의 진보" 또는 "피싱 도구로서의 챗GPT" 등의 제목이 차지하고 있다.

노드VPN의 연구 결과는 범죄 목적으로 AI 도구가 오용되는 것에 대한 유로폴의 예상과 일치한다. 예를 들어, 범죄자들은 챗GPT의 AI를 사용해 연애 사기와 같은 사기를 산업적 규모로 수행해 여러 피해자를 동시에 공격할 수 있다.

노드VPN의 사이버 보안 전문가 마빈 페졸트는 위험성이 절대 작지 않다며, 범죄자가 악의적인 목적으로 AI 지원 취약점 탐지 기능을 사용할 수도 있다고 경고했다.

페졸트가 지적한 위험성에는 더 표적화된 방식으로 기업과 사람을 공격하기 위해 개인 정보를 빠르게 찾고 취합하는 것을 악용하는 것도 포함된다. 또 “더 위험한 것은 챗GPT 및 기타 AI 제공업체의 보안 검사 및 필터를 우회해 인종 차별적이거나 선동적인 발언을 하도록 유도하는 것”이라고 덧붙였다.
 

AI 공격에 대비하는 3가지 팁

사이버 범죄자가 자신의 목적을 위해 AI를 사용할 위험이 커지고 있다는 것은 사용자가 인터넷에서 더욱 신중하고 조심스럽게 행동해야 한다는 것을 의미한다. AI 챗봇의 위험을 막기 위해 노드VPN의 전문가는 다음과 같은 주의 사항을 제시했다.

개인정보 공유 제한
AI 챗봇은 모든 대화를 학습해 "인간"과의 상호 작용 기술을 향상시키도록 만들어졌다. 이 과정에서 사용자에 대한 보다 정확한 프로필을 생성해 저장할 수 있다. 따라서 챗봇과 개인 정보를 공유하는 것은 피해야 한다. 또한, 인공지능은 일반적으로 인터넷에서 공개적으로 사용 가능한 정보로 학습하므로 온라인에 개인 정보를 거의 또는 전혀 공개하지 않아야 한다.

피싱 공격 증가 주의
AI가 온라인 사기꾼에게 더 많은 기회를 제공함에 따라 피싱 공격이 증가할 것으로 예상된다. 예를 들어, 해커는 봇을 사용해 더 현실적인 사기 방법을 개발할 것으로 예상할 수 있다. 범죄자는 AI 챗봇으로 더 사실적인 채팅을 만들 수 있다. 결과적으로 사용자는 사기꾼이 아닌 AI와 채팅을 하게 될 것이다. 이는 이미 온라인 데이트 사기에 적용되고 있으며, 앞으로 더 발전할 가능성이 크다.

맞춤법과 문법으로는 판별 불가
잘못된 맞춤법이나 문법으로 피싱 이메일을 찾아내는 고전적인 방법은 앞으로는 더 이상 통하지 않을 것이다. 사기꾼은 AI의 도움으로 부족한 외국어 능력을 보완할 것이다. 따라서 앞으로는 발신자의 주소를 더욱 면밀히 확인해야 한다. 피싱 시도를 인식할 수 있도록 링크나 도메인 이름에 불일치가 있는지 살펴보는 것도 중요하다.
editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.