AIㆍML / 퍼스널 컴퓨팅

코파일럿+ PC와 윈도우 리콜 "기업엔 재난, 개인도 신중해야"

Preston Gralla | Computerworld 2024.06.13
마이크로소프트가 새로 발표한 리콜 기능은 PC 사용자의 모든 활동을 기록한다. 그러나 해커의 공격 대상이 될 위험이 커 논란이 일고 있다.

개인 데이터, 신용카드 및 기타 금융 정보, 비밀번호, 웹 로그인, 이메일, 다른 사람에게 알리고 싶지 않은 웹사이트 목록, 비즈니스 정보 등 사용자가 윈도우 PC에서 수행하는 모든 작업의 스크린샷을 찍는다고 상상해 보라. PC가 이 모든 정보를 검색 가능한 데이터베이스로 만들고, 다른 사람이 이 정보에 액세스할 경우 그 가치가 얼마나 커질지 생각해 보라.
 
ⓒ Getty Images Bank

6월 18일부터 출시되는 코파일럿+ 윈도우 PC는 스크린샷을 찍어 데이터베이스에 저장하고 AI로 사용자가 원하는 것을 찾아주는 리콜 기능을 지원한다.

보안이나 개인 정보 보호 문제가 없다면 뭐가 문제일까?

답은 많다. 윈도우는 수십 년 동안 해킹 대상이 되었고 지금도 계속 해킹을 당하고 있으며, 윈도우에서 마이크로소프트 같은 최고 기술 기업과 고위 정부 관료는 물론 수많은 개인 사용자의 정보가 꾸준히 도난 당하는 상황에서 개인의 활동을 스크린샷으로 찍는 시나리오는 악몽처럼 느껴진다.

많은 보안 전문가는 리콜을 가리켜 마이크로소프트가 새로운 AI 기반 코파일럿+ 윈도우 PC 제품군으로 열려고 하는 판도라의 상자라고 말한다. 

마이크로소프트는 새로운 기능에 강력한 보안이 직접 내장되어 있어 걱정할 필요가 없다고 주장한다. 지난주에는 이 기능이 당사자 동의를 거쳐 활성화되고 데이터 보안이 강화될 것이라고 추가로 반박했다.

어떤 주장을 믿어야 할까? 리콜의 작동 원리를 살펴보자.
 

AI 기반 메모리 머신, 리콜

마이크로소프트의 수석 부사장 겸 소비자 최고 마케팅 책임자 유수프 메흐디는 블로그 게시물에서 HP, 델, 삼성, 에이수스, 에이서, 레노버, 마이크로소프트 자체 등의 제조업체가 출시할 코파일럿+ PC가 "수십 년 만에 윈도우 플랫폼의 가장 중요한 변화"이자 "지금까지 만들어진 가장 빠르고, 가장 지능적인 윈도우 PC"라고 주장한다. 

이 PC는 CPU, GPU, 새로운 고성능 신경 처리 장치(NPU)를 마이크로소프트의 애저 클라우드에서 실행되는 AI 대형 언어 모델(LLM)과 PC 자체에서 실행되는 AI 소형 언어 모델(SLM)에 연결하는 시스템 아키텍처로 구동한다.

마이크로소프트는 획기적으로 빨라진 속도, 향상된 배터리 수명, 전반적인 성능 향상 등 새로운 제품군이 제공하는 다양한 이점을 선전하고 있다. 그러나 이 혜택의 핵심은 AI와 관련된 것으로 터보 기반 AI 처리, AI 이미지 생성 및 사진 및 이미지 편집 속도 향상, 어도비 포토샵, 라이트룸, 익스프레스와 같은 애플리케이션의 AI 가속화, 마이크로소프트의 AI 코파일럿 소프트웨어의 성능 향상 등이다. 

메흐디가 블로그 게시물에서 가장 먼저 언급한 이점은 바로 리콜 기능이다. 리콜이 “우리가 매일 마주치는 가장 답답한 문제인 전에 본 파일을 찾는 문제"를 해결해 준다고 말하며, 리콜을 통해 "사진 기억력과 같은 방식으로 PC에서 보거나 수행한 작업에 가상으로 액세스할 수 있다"라고 주장했다.

리콜은 5초마다 PC의 스크린샷을 찍어 검색 가능한 데이터베이스에 모두 저장한다. 스크린샷을 분석하고, 스크린샷에서 정보를 추출하고, 데이터베이스를 만들고, 검색하는 무거운 작업은 AI가 수행한다. 마이크로소프트는 이 처리가 클라우드가 아닌 컴퓨터 자체에서 이루어지며 스크린샷과 데이터베이스는 암호화되어 있기 때문에 안전하므로 사용자는 개인 정보 보호나 보안 문제에 대해 걱정할 필요가 없다고 주장한다.
 

개인 정보 보호 문제

많은 보안 전문가의 의견은 다르다. 포레스터 부사장 겸 수석 애널리스트 제프 폴라드는 리콜 발표 직후 Computerworld에 “특정 시간 내에 컴퓨터에서 수행하는 모든 작업을 완벽하게 캡처하는 내장 키로거와 스크린샷은 사용자에게 엄청난 악몽이라고 생각한다”라고 말했다.

또 다른 위험도 있다. 데이터베이스와 데이터가 암호화되어 있더라도 컴퓨터에 액세스할 수 있는 해커가 여전히 피해를 입힐 수 있다는 점이다. 보안 업체 소닉월의 위협 연구 담당 전무이사 더글러스 맥키는 “비밀번호나 회사 영업 비밀과 같은 민감한 정보를 훔치는 데는 초기 액세스만으로도 충분하다”라고 말했다.

2020년 마이크로소프트에 잠시 근무했던 보안 전문가 케빈 보몬트도 블로그를 통해 해커가 "매일 가정용 PC와 기업 시스템에 액세스한다. 키로거는 본질적으로 윈도우 기본 기능으로 탑재되고 있다"라고 지적하며 이 주장에 무게를 실었다. 

보몬트는 연구에서 더 큰 문제를 발견했다. 보몬트는 새로운 코파일럿+ 소프트웨어를 살펴보고 리콜 데이터가 “사용자의 폴더에 있는 SQLite 데이터베이스에 기록된다는 사실을 발견했다. 이 데이터베이스 파일에는 사용자가 PC에서 본 모든 내용이 일반 텍스트로 기록되어 있다”라고 밝혔다.

즉, 해커가 리콜 데이터를 얻기 위해 사용자의 PC를 제어할 필요조차 없다는 뜻이다. 해커는 데이터베이스 파일에 접근하기만 하면 되는데, 이것은 원격으로 간단하고 쉽게 할 수 있는 일이다. 보몬트는 마이크로소프트 직원이 이 작업을 수행하는 동영상까지 게시했다.

유럽에서도 비판이 거셌다. 유럽 입법자에 AI 거버넌스에 대한 자문을 제공하는 크리스 슈리샤크는 폴라드와 마찬가지로 리콜이 ‘프라이버시를 위협하는 악몽’이 될 수 있다고 경고했다. 영국 정보 위원회도 이미 리콜을 우려하고 있으며 개인 정보 보호에 미치는 영향을 확인하기 위해 마이크로소프트에 연락을 취한 상태로 알려졌다.

대중의 우려에 직면한 마이크로소프트는 지난 주에 보안에 대한 우려를 완화하기 위해 조치를 취했다. 리콜 기능을 사용자를 위한 옵트인 기능으로 만드는 것 외에도, 이제 리콜에서 검색하거나 타임라인을 보려면 "존재 증명"이 필요한 윈도우 헬로 생체 인증이 필요하다. 더 나아가 마이크로소프트는 윈도우 헬로 ESS(Windows Hello Enhanced Sign-in Security)으로 보호되는 ‘적시’ 암호 해독 기능을 추가할 예정이다. 

윈도우 및 디바이스 부문 부사장인 파반 다불루리는 블로그 게시물에서 "사용자가 인증할 때만 리콜 스냅샷이 해독되고 액세스할 수 있게 될 것"이라고 말했다. 보몬트는 온라인 게시물에서 회의적인 태도를 유지하며 "마이크로소프트는 리콜을 구체적으로 사용자 동의를 얻도록 하고, 윈도우 헬로 얼굴 스캔을 활성화하며, 데이터베이스를 실제로 암호화하는 등 상당한 변경을 예고했다. 세부 사항에는 분명히 함정이 있을 것이고, 말하지 않은 것이 있을 가능성도 있다. 마이크로소프트는 앞으로 사용자 몰래 이 기능을 사용하도록 하지 않겠다는 약속을 해야 하며, 기업은 그룹 정책과 인튠에서 리콜을 기본 비활성화해야 한다"라고 밝혔다.

보몬트는 “마이크로소프트의 거버넌스 및 보안 실패가 심각한 상황에서 더 면밀한 조사가 필요하다. 마이크로소프트가 AI 안전에 진지하지 않다는 것을 시사한다”라고 경고했다.
 

리콜, 어떤 시각으로 바라봐야 할까?

개인 정보 보호에 관심이 있다면 리콜의 이점이 위험을 감수할 만한 가치가 있는지 진지하게 생각해 보아야 한다. 새로운 코파일럿+ PC는 리콜 기능이 기본적으로 꺼져 있으므로 이 기능을 활성화할지를 신중하게 생각해 보자. 개인 정보에 위험을 미칠지 걱정된다면 꺼 두자.

기업의 경우 리콜은 그 자체로 문제가 될 수 있다. 개별 사용자의 파일과 데이터뿐만 아니라 기업의 데이터와 기밀을 노출할 위험이 크다. 기업은 코파일럿+ PC를 구매할 경우 모든 기기에서 리콜 기능이 꺼져 있는지, 꺼진 상태로 유지되는지 확인하는 등 기업 자산을 보호할 방법을 신중하게 고려해야 한다.
editor@itworld.co.kr 
Sponsored
IDG 설문조사

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.