컴퓨터 반란 막을 비상수단...구글 딥마인드, AI 킬 스위치 연구 중
Credit: Getty Images Bank
많은 이가 각종 영화를 통해 인공지능(AI)이 고도화된 미래 세상을 상상한다. 그리고 그 가운데 일부는 분명 로봇이 강해져 인간을 지배하는 세상이 오는 것은 아닌지 두려워하고 있다. 이러한 문제를 예방하기 위해 구글 딥마인드가 앞장서고 있다.
지난 2014년 구글이 인수한 영국계 AI기업 구글 딥마인드는, 로봇이나 기타 AI시스템에 적용할 수 있는 킬 스위치(kill switch)를 개발하고 있다.
킬 스위치는 스마트 머신이 스스로 통제하는 날이 올 수도 있다는 걱정에서 개발되기 시작됐다. 그럴 경우를 대비해 인간에게 이를 통제할 다른 방법이 필요하다는 개념이다.
킬 스위치 개발 연구진은 MIRI 홈페이지에 게시한 논문에서 "로봇이 인간의 감시를 실시간으로 받으면서 작동하는 상황이더라도, 관리자인 인간에게는 로봇을 중지할 수 있는 커다란 빨간 버튼이 필요할 수 있다"라고 기술했다. 이와 함께 "하지만 로봇이 학습 능력을 발휘해...빨간 버튼을 고장내는 등 끝끝내 인간의 조치를 피할 수 있게 된다면, 바라지 않는 결과가 나타날 것"이라는 문구도 덧붙였다.
해당 논문은 구글 딥마인드의 연구 과학자인 로랑 오르소와 영국 옥스포드 대학교 산하 인류미래연구소(Future of Humanity Institute) 연구원인 스튜어트 암스트롱이 공동으로 저술했다.
해당 연구진은 기계가 인간의 조치 방식을 알아내지 못 하고, 설령 알아냈더라도 인간을 위협할 수 없도록 하는 킬 스위치를 연구하고 있다. AI를 둘러싼 두려움을 고려하면 연구진들에게 흥미로우면서도 막중한 임무가 부여됐다고 할 수 있다.
많은 이가 '2001 스페이스 오딧세이', '터미네이터', '아이, 로봇'과 같은 영화와 '배틀스타 갤럭티카'와 같은 TV프로그램을 보면서 로봇이 발달한 미래를 상상하지만, 일각에서는 로봇이 힘을 갖추고 인간을 노예로 삼는 미래를 우려하고 있다.
수많은 사람들, 심지어 테슬라 CEO인 엘론 머스크와 유명한 물리학자 스티븐 호킹까지도 스마트 머신이 인간의 삶에 더 깊이 관여하게 되는 미래에 어떤 일이 인류에게 일어날지 염려하고 있다. 스티븐 호킹은 "AI가 극도로 발달하면 인류에게 종말이 올 수 있다"라고 말했다.
이런 점에서 구글의 이번 킬 스위치 연구는 적절한 시기에 이뤄지고 있다는 평가를 받고 있다.
무어 인사이츠&스트래티지 애널리스트인 패트릭 무어헤드는 "AI 및 자동화 기계를 현재 활용하고 있다는 점에서 AI의 위험성에 대해 논의할 때가 왔다"라고 말했다.
"마치 자동차를 설계한 직후 ABS와 브레이크 시스템을 만드는 것과 같다. 킬 스위치는 전체적인 시스템 안에서 설계돼야 한다. 그렇지 않다면 보안 문제가 발생할 수 있으며, 심지어 기계가 킬 스위치를 피해가려고 시도할 수도 있다"라고 덧붙였다.
무어헤드는 AI 기반 기계가 대세로 떠오르고 있는 상황을 걱정하는지 여부는 밝히지 않았으나, 킬 스위치 개발이 추진되고 있어서 기쁘다고 전했다. 그는 "킬 스위치가 없다면 AI시스템을 걱정해야 할 것"이라면서 "브레이크 없는 초고속 열차를 만드는 것이나 다름없다"라고 말했다.
산업 애널리스트인 제프 카간은 산업이 그간 부작용을 예상하지 않고 기술을 개발해 왔다는 점에서 이번 연구는 시의적절한 노력이라고 평가했다.
카간은 "인간을 따라잡고 있는 AI에 아직은 걱정하지 않아도 된다"라면서도 "늘 우리가 생각하는 것보다 더 빠르게 개발이 이뤄진다...똑똑한 과학자들이 발견에만 몰두해 결국 인간을 위협하기보다는 지성을 다해 우리를 지켜줬으면 좋겠다"라고 말했다.
구글은 검색 엔진에 활용한 기술을 바탕으로 AI에 야심차게 뛰어들어 채팅 앱과 동영상 앱을 개발하고 있다. 얼마 전 구글 I/O에서는 구글 어시스턴트와 구글 홈 기기를 공개하기도 했다.
가브리엘 컨설팅 그룹의 애널리스트인 댄 올즈는 이번 연구를 통해 구글이 보안 기능에 신경을 쓰고 있다는 사실이 드러났다고 평가했다.
올즈는 "로보틱스와 AI 분야를 깊게 파고들었다는 점에서 구글은 이 연구를 이끌어 갈 적임자"라고 말했다. 그러면서 "현재의 기술력을 고려하면, AI나 로봇이 (인류를) '따라잡으려고' 시도할 것이라는 예측은 아직은 먼 미래의 일이다. 하지만 얼마나 먼 미래일까? 앞으로 5년 안에 자산 포트폴리오 관리를 AI에 맡기는 금융 서비스 기업을 보게 될 것이다. 오로지 AI로만 통제하는 기계화된 장비도 보게 될 것이다. 이게 바로 우리에게 킬 스위치가 필요한 이유다. 이러한 기계들이 제 역할에서 벗어나 피해를 입히며 위협할 수 있는 상황에 대비해야 하는 것이다"고 말했다. ciokr@idg.co.kr
함께 보면 좋은 콘텐츠
Sponsored
Surfshark
“유료 VPN, 분명한 가치 있다” VPN 선택 가이드
ⓒ Surfshark VPN(가상 사설 네트워크, Virtual Private Network)은 인터넷 사용자에게 개인 정보 보호와 보안을 제공하는 중요한 도구로 널리 인정받고 있다. VPN은 공공 와이파이 환경에서도 데이터를 안전하게 전송할 수 있고, 개인 정보를 보호하는 데 도움을 준다. VPN 서비스의 수요가 증가하는 것도 같은 이유에서다. 동시에 유료와 무료 중 어떤 VPN을 선택해야 할지 많은 관심을 가지고 살펴보는 사용자가 많다. 가장 먼저 사용자의 관심을 끄는 것은 별도의 예산 부담이 없는 무료 VPN이지만, 그만큼의 한계도 있다. 무료 VPN, 정말 괜찮을까? 무료 VPN 서비스는 편리하고 경제적 부담도 없지만 고려할 점이 아예 없는 것은 아니다. 보안 우려 대부분의 무료 VPN 서비스는 유료 서비스에 비해 보안 수준이 낮을 수 있다. 일부 무료 VPN은 사용자 데이터를 수집해 광고주나 서드파티 업체에 판매하는 경우도 있다. 이러한 상황에서 개인 정보가 유출될 우려가 있다. 속도와 대역폭 제한 무료 VPN 서비스는 종종 속도와 대역폭에 제한을 생긴다. 따라서 사용자는 느린 인터넷 속도를 경험할 수 있으며, 높은 대역폭이 필요한 작업을 수행하는 데 제약을 받을 수 있다. 서비스 제한 무료 VPN 서비스는 종종 서버 위치가 적거나 특정 서비스 또는 웹사이트에 액세스하지 못하는 경우가 생긴다. 또한 사용자 수가 늘어나 서버 부하가 증가하면 서비스의 안정성이 저하될 수 있다. 광고 및 추적 위험 일부 무료 VPN은 광고를 삽입하거나 사용자의 온라인 활동을 추적하여 광고주에게 판매할 수 있다. 이 경우 사용자가 광고를 보아야 하거나 개인 정보를 노출해야 할 수도 있다. 제한된 기능 무료 VPN은 유료 버전에 비해 기능이 제한될 수 있다. 예를 들어, 특정 프로토콜이나 고급 보안 기능을 지원하지 않는 경우가 그렇다. 유료 VPN의 필요성 최근 유행하는 로맨스 스캠은 인터넷 사기의 일종으로, 온라인 데이트나 소셜 미디어를 통해 가짜 프로필을 만들어 상대를 속이는 행위다. 이러한 상황에서 VPN은 사용자가 안전한 연결을 유지하고 사기 행위를 방지하는 데 도움이 된다. VPN을 통해 사용자는 상대방의 신원을 확인하고 의심스러운 활동을 감지할 수 있다. 서프샤크 VPN은 구독 요금제 가입 후 7일간의 무료 체험을 제공하고 있다. ⓒ Surfshark 그 외에도 유료 VPN만의 강점을 적극 이용해야 하는 이유는 다음 3가지로 요약할 수 있다. 보안 강화 해외 여행객이 증가함에 따라 공공 와이파이를 사용하는 경우가 늘어나고 있다. 그러나 공공 와이파이는 보안이 취약해 개인 정보를 노출할 위험이 있다. 따라서 VPN을 사용하여 데이터를 암호화하고 개인 정보를 보호하는 것이 중요하다. 서프샤크 VPN은 사용자의 개인 정보를 안전하게 유지하고 해킹을 방지하는 데 유용하다. 개인정보 보호 인터넷 사용자의 검색 기록과 콘텐츠 소비 패턴은 플랫폼에 의해 추적될 수 있다. VPN을 사용하면 사용자의 IP 주소와 로그를 숨길 수 있으며, 개인 정보를 보호할 수 있다. 또한 VPN은 사용자의 위치를 숨기고 인터넷 활동을 익명으로 유지하는 데 도움이 된다. 지역 제한 해제 해외 여행 중에도 한국에서 송금이 필요한 경우가 생길 수 있다. 그러나 IP가 해외 주소이므로 은행 앱에 접근하는 것이 제한될 수 있다. VPN을 사용하면 지역 제한을 해제해 해외에서도 한국 인터넷 서비스를 이용할 수 있다. 따라서 해외에서도 안전하고 편리하게 인터넷을 이용할 수 있다. 빠르고 안전한 유료 VPN, 서프샤크 VPN ⓒ Surfshark 뛰어난 보안 서프샤크 VPN은 강력한 암호화 기술을 사용하여 사용자의 인터넷 연결을 안전하게 보호한다. 이는 사용자의 개인 정보와 데이터를 보호하고 외부 공격으로부터 사용자를 보호하는 데 도움이 된다. 다양한 서버 위치 서프샤크 VPN은 전 세계 곳곳에 여러 서버가 위치하고 있어, 사용자가 지역 제한된 콘텐츠에 액세스할 수 있다. 해외에서도 로컬 콘텐츠에 손쉽게 접근할 수 있음은 물론이다. 속도와 대역폭 서프샤크 VPN은 빠른 속도와 무제한 대역폭을 제공하여 사용자가 원활한 인터넷 경험을 누릴 수 있도록 지원한다. 온라인 게임, 스트리밍, 다운로드 등 대역폭이 필요한 활동에 이상적이다. 다양한 플랫폼 지원 서프샤크 VPN은 다양한 플랫폼 및 디바이스에서 사용할 수 있다. 윈도우, 맥OS, iOS, 안드로이드 등 다양한 운영체제 및 디바이스에서 호환되어 사용자가 어디서나 안전한 인터넷을 즐길 수 있다. 디바이스 무제한 연결 서프샤크 VPN은 무제한 연결을 제공하여 사용자가 필요할 때 언제든지 디바이스의 갯수에 상관없이 VPN을 사용할 수 있다.