AIㆍML / 글로벌 트렌드 / 보안

"하와이 산불이 기상 무기 실험 때문?" AI로 새로운 수준에 도달한 가짜 뉴스

Computerwoche editorial team | COMPUTERWOCHE 2023.09.13
일부 기관에 따르면, AI를 이용한 가짜 뉴스 문제가 심각해지고 있다. 예를 들어, 최근 하와이에서 발생한 화재는 새로운 유형의 '날씨 무기'를 테스트한 결과라는 뉴스가 퍼지고 있다.

하와이에서 발생한 화재 참사는 자연적인 원인이 아니라는 가짜 뉴스가 인터넷에 퍼졌다. 화재는 미국이 테스트한 비밀 기상 무기의 결과라는 주장이다. 이런 가짜 뉴스에는 AI를 이용해 인위적으로 만들어진 것으로 보이는 사진이 가득하다.
 
자연재해는 감정을 자극한다. 사람들은 범인을 찾고, 가짜 뉴스 캠페인은 정부를 비난의 대상으로 만든다.ⓒ Getty Images Bank

마이크로소프트, 레코디드 퓨처, 랜드 코퍼레이션, 뉴스가드, 메릴랜드 대학교 및 기타 아시아 지역의 연구팀은 중국 해커가 이런 가짜 뉴스 캠페인의 배후라고 주장한다. 실제 영향력을 측정하기는 어렵지만, 초기 징후에 따르면 소셜 미디어 사용자 중 이 엉뚱한 음모론에 참여한 사람은 그리 많지 않은 것으로 보인다.

하지만 미국은 중국과 여러 모로 불편한 관계에 있으며, 이 때문에 이런 가짜 뉴스에 대한 우려는 작지 않다. 2016년 미국 대선에 러시아가 개입했다는 의혹이 제기된 것처럼, 중국이 다가오는 미국 대선에 영향을 미치려는 의도라는 분석도 있다. 한편으로는 기존에는 대만에 대한 음모론 등 중국과 직접적인 이해관계가 있는 가짜 뉴스가 대부분이었다면, 지금은 더 광범위하고 공격적인 가짜 뉴스 캠페인이 진행되고 있다는 분석도 있다. 

RAND의 연구원이자 이번 보고서의 저자인 윌리엄 마르첼리노는 AI 덕분에 공격자가 새로운 도구를 손쉽게 사용할 수 있게 됐으며, 되었으며, 이는 공격자들에게 이른바 "대약진"의 효과를 가져다준다고 경고했다.

중국이나 러시아 등의 국가가 이들 공격자를 뒤에서 조종하고 있는지는 장담할 수 없다. 구체적인 증거가 없기 때문이다. 하지만 마르첼리노는 "분명 조율과 일종의 동기화가 보인다"라고 밝혔다. 하와이 산불에 관해서는 처음부터 소문과 오보, 음모론이 많았는데, 이는 다른 자연 재해에서도 볼 수 있는 현상이다.

하와이의 '기상 무기'에 대한 은밀한 캠페인이 중국에서 시작됐다고 처음 밝힌 곳은 미국의 위협 정보 분석 전문 보안업체 레코디드 퓨처(Recorded Future)였다. 영국 해외정보국 MI6가 산불의 숨은 진실을 밝혀냈다고 주장하는 게시물이 여럿 발견됐는데, 핀터레스트, 텀블러, 미디엄, 예술가들이 사용하는 일본 웹사이트 픽시브 등 인터넷의 소셜 미디어 사이트에도 똑같은 문구의 게시물이 등장했다.

다른 가짜 계정들도 유사한 콘텐츠를 유포했으며, 종종 공개 동영상을 잘못된 맥락에 넣기도 했다. 레코디드 퓨처에 따르면, 이들 콘텐츠는 미국의 음모론자 및 극단주의자의 게시물을 찾아 포착하고 지지하기도 했습니다. 여기에는 여러 언어로 사용되는 주요 소셜 미디어 플랫폼을 이용했는데, 목표는 분명 전 세계 사용자에게 접근하는 것이었다. 마이크로소프트 위협 분석 센터는 31개 언어로 작성된 가짜 뉴스를 확인했는데, 독일어, 프랑스어, 이탈리아어는 물론, 이그보어, 오디아어, 과라니어와 같이 잘 알려지지 않은 언어로도 작성됐다.

자연 재해는 허위 정보 캠페인의 표적이 되는 경우가 많은데, 감정이 격앙된 청중에게 다가가기 쉽기 때문이다. 이런 공격은 재난 대비나 대응에 실패한 것으로 추정되는 정부에 대한 비난으로 이어진다. 쉽게 정부에 대한 신뢰를 떨어뜨리고 불화를 조장하는 방법으로, 미국이 우크라이나 전쟁에 수십억 달러를 쏟아붓고 있으며 오랫동안 고통을 겪고 있는 하와이를 가장 어려운 시기에 내버려 두고 있다는 식의 내용이 이런 가짜 뉴스에 해당한다.

마이크로소프트 부회장 브래드 스미스는 마이크로소프트의 조사 결과 중 일부를 미국 의회에 발표했다. 스미스는 "이 상황은 매우 불안하다. 국제 사회가 반드시 선을 긋고 이를 금지해야 한다"고 강조했다.
editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.