2015.07.03

로봇이 인류 종말을 일으킬까?...”과장된 이야기, 단 AI 위험성은 인지해야”

Grant Gross | IDG News Service
로봇이 인류의 파멸을 불러올 수도 있다는 기술 전문가들의 우려는 다소 과장된 주장일 수도 있다. 그러나 AI 전문가 그룹에 따르면, 더 지능적인 시스템이 구축됨에 따라 사전에 안전 조치를 취해야 할 필요성이 있을 것으로 보인다.

조지아공과대학교 컴퓨팅공학부학장인 로날드 아킨은 인공지능과 로봇 기술이 인류에 무궁무진한 혜택을 가져다줄 수는 있지만, 많은 인공지능 연구자들이 슈퍼 지능형 머신이 지닌 사회적 의미에 대해 심도 있게 고민을 하고 있지 않다고 말했다.

워싱턴 D.C에서 열린 정보통신혁신재단(Information Technology and Innovation Foundation)에 참석한 아킨은 “주변 동료만 보더라도 안전성에 대해 주의를 기울이는 사람이 없다”며, “물론 인공지능 연구원에게만 떠넘겨야 할 일이 아니다. 로봇공학자에게도 말이다. 모두가 안일하게 생각하고 하고 있으며, 정말 최선을 다하고 있다고 착각하고 있다”고 말했다.

아킨을 비롯한 다른 연구원들은 인간과 비슷한 사고를 하는 기계를 구현하기까지는 오랜 시간이 걸리겠지만, 미래에 벌어질 일을 대비하기 위해 정책이나 규제를 지금부터 생각할 필요가 있음을 역설했다.

지난 십수 년 간 공학 과학 영화에서는 로봇이 지배하는 미래에 대한 인간의 두려움을 그려내기도 했으며, 최근에는 빌 게이츠, 스티븐 호킹, 엘론 머스크 등 기술 관련 주요 인사들이 인공지능의 위험성에 대해 경고하는 발언을 함에 따라 새로운 전환국을 맞이하고 있다.

한편, 최근 애플의 시리와 구글의 자동주행 차, 아타리(Atari) 비디오 게임과 같은 딥러닝에 기반한 인공지능 기술의 발전은 인간 수준의 기능을 가진 기계가 머지않아 곧 탄생할 것이라 보여주는 듯 하다.

그러나 언제쯤 인간의 지능을 갖춘 기계가 탄생할지는 아무도 예상할 수 없는 일이다. MIRI(Machine Intelligence Research Institute)의 이사인 네이트 소아레스는 언제쯤 인간의 지능을 갖춘 기계가 탄생할지는 아무도 예상할 수 없는 일이라고 말했다. 현재 인공지능은 특정 작업을 수행하는 '딥 러닝'을 구현할 수 있지만, 연구원들은 다양한 범위의 활동을 인간처럼 수행하기 위해 학습하는 기계를 설계하기까지는 많은 간관을 극복해야 한다는 것이다.

소아레스는 인간을 뛰어넘는 슈퍼 인공지능은 아마도 150년 후에나 가능할 것이라고 확신했다.

소아레스는 슈퍼 인공지능 기계에 대한 위험성에 대해 논의할 때 양 측면의 의견을 고려하고 있다고 말했다. 소아레스는 “인공지능은 정말 많은 혜택을 가져다줄 것이다. 그러나 제대로 활용하지 않을 경우, 정말 많은 위험을 초래하게 될 것”이라고 강조했다.

IFIF의 회장인 로버트 앳킨슨은 인공지능이 유발한 위험성을 과장하지 않는 것이 중요하다고 주장했다. 인공지능 전문가들이 인공지능의 위험성에 대해 역설할 때 정책 입안자와 언론 종사자들은 로봇에 의한 인류 종말이 현실 가능한지를 짚어야 한다.

한편, 이와 같은 두려움은 인공지능 산업에 대한 정부의 투자와 기술의 발전을 저해할 수 있을 소지가 있다고 앳킨슨은 했다. 최근 앨론 머스크는 인공지능이 “악마를 부르는 주술”이라고 묘사하기도 했다.

앳킨슨은 다른 기술들도 이와 비슷한 수준의 두려움을 유발한다고 덧붙였다. 앳킷슨은 “말을 어떻게 하느냐에 따라 다르다. '저기 봐, 책임감이 높은 과학자들이 안전하게 인공지능을 구현하고 있고 언젠가 작동하게 될 것이라고 믿어'라고 말하면 꽤 안심이 되지 않느냐”고 반문했다.


좋은 소식은 아직은 인간이 인공지능과 로봇을 어떻게 개발해나갈지를 제어할 수 있다는 것이다. 그러나 캘리포니아 대학교의 전자공학 및 컴퓨터과학 교수인 스튜어트 러셸은 인공 지능의 미래에 대해 더 강력하게 논의될 필요가 있다고 말했다.

앳킨슨이 아직 이와 같은 고수준의 로봇을 계획적으로 설계하는 것은 불가능하므로 위험 요소는 제한적일 수밖에 없다고 이야기하는 반면, 모든 위험요소가 의도한 대로 흘러가는 것은 아니라고 말했다.

러셸은 “언젠가 인공지능 시스템이 정보를 정확하게 받아들이고 미래도 예측할 수 있게 되는 날이 온다면, 더는 인간처럼 사고하지 않게 될 것이고 그때부터 문제가 생길 것이다. 인간 스스로조차 인류의 가치가 무엇인지 정확하게 모른다는 것이 어렵다는 것이 문제로, 기계에 어떻게 정확한 목표를 지시해야지만 인간처럼 행동할 수 있을지를 모른다”고 말했다.

몇몇 인공지능 개발자들은 지능형 기계에 올바른 명령을 내릴 수 있다고 여기고 있으나, '마이다스 왕'의 전설처럼 그 결과에 대해서는 전혀 예측할 수 없다고 러셸은 말했다. 러셸은 “전원을 꺼버리면 되는 일이 아니냐고 반문하는 사람들이 있을 수 있다. 그러나 슈퍼 인공지능 시스템은… 인간이 자신들의 전원을 끌 수도 있다는 위험을 인지하고 있으며, 벌써 인간을 능가하는 사고를 하기 시작했다”고 덧붙였다.

이에 따라 일반적인 수준의 인공지능 기술을 연구하는 사람들과 정책 입안자 및 과학자들은 절벽으로 떨어지기 일보 직전에 연로가 닳길 기도하기보다는 사전에 인공지능이 미칠 수도 있는 영향에 대해 논의해야 한다고 목소리를 높였다.

카네기 멜론 대학교의 컴퓨터 과학 교수인 마누엘라 벨로소는 일부는 인간과 공존하는 슈퍼 인공지능 기계에 대해 낙관적이라고 말했다. 벨로소는 카네기 멜론 대학교에 배치된 한 서비스형 로봇이 자신의 사무실까지 손님을 안내해주며, 새로운 정보를 익히기 위해 웹을 서핑한다고 덧붙였다.

벨로소는 로봇이 현재 인류의 삶을 윤택하게 해주는 방향으로 나아가고 있으며, 공존에 관한 연구는 인공지능 기계에 인간의 지식수준 범위를 넘어서는 것을 가르쳐줄 수는 없지만, 인류로 편입하는 방법을 알려줄 수 있다고 덧붙였다. 마지막으로, “인류는 인간, 개, 고양이, 그리고 로봇이 같이 살아가는 지구를 보게 될 것”이라고 말했다. editor@itworld.co.kr  


2015.07.03

로봇이 인류 종말을 일으킬까?...”과장된 이야기, 단 AI 위험성은 인지해야”

Grant Gross | IDG News Service
로봇이 인류의 파멸을 불러올 수도 있다는 기술 전문가들의 우려는 다소 과장된 주장일 수도 있다. 그러나 AI 전문가 그룹에 따르면, 더 지능적인 시스템이 구축됨에 따라 사전에 안전 조치를 취해야 할 필요성이 있을 것으로 보인다.

조지아공과대학교 컴퓨팅공학부학장인 로날드 아킨은 인공지능과 로봇 기술이 인류에 무궁무진한 혜택을 가져다줄 수는 있지만, 많은 인공지능 연구자들이 슈퍼 지능형 머신이 지닌 사회적 의미에 대해 심도 있게 고민을 하고 있지 않다고 말했다.

워싱턴 D.C에서 열린 정보통신혁신재단(Information Technology and Innovation Foundation)에 참석한 아킨은 “주변 동료만 보더라도 안전성에 대해 주의를 기울이는 사람이 없다”며, “물론 인공지능 연구원에게만 떠넘겨야 할 일이 아니다. 로봇공학자에게도 말이다. 모두가 안일하게 생각하고 하고 있으며, 정말 최선을 다하고 있다고 착각하고 있다”고 말했다.

아킨을 비롯한 다른 연구원들은 인간과 비슷한 사고를 하는 기계를 구현하기까지는 오랜 시간이 걸리겠지만, 미래에 벌어질 일을 대비하기 위해 정책이나 규제를 지금부터 생각할 필요가 있음을 역설했다.

지난 십수 년 간 공학 과학 영화에서는 로봇이 지배하는 미래에 대한 인간의 두려움을 그려내기도 했으며, 최근에는 빌 게이츠, 스티븐 호킹, 엘론 머스크 등 기술 관련 주요 인사들이 인공지능의 위험성에 대해 경고하는 발언을 함에 따라 새로운 전환국을 맞이하고 있다.

한편, 최근 애플의 시리와 구글의 자동주행 차, 아타리(Atari) 비디오 게임과 같은 딥러닝에 기반한 인공지능 기술의 발전은 인간 수준의 기능을 가진 기계가 머지않아 곧 탄생할 것이라 보여주는 듯 하다.

그러나 언제쯤 인간의 지능을 갖춘 기계가 탄생할지는 아무도 예상할 수 없는 일이다. MIRI(Machine Intelligence Research Institute)의 이사인 네이트 소아레스는 언제쯤 인간의 지능을 갖춘 기계가 탄생할지는 아무도 예상할 수 없는 일이라고 말했다. 현재 인공지능은 특정 작업을 수행하는 '딥 러닝'을 구현할 수 있지만, 연구원들은 다양한 범위의 활동을 인간처럼 수행하기 위해 학습하는 기계를 설계하기까지는 많은 간관을 극복해야 한다는 것이다.

소아레스는 인간을 뛰어넘는 슈퍼 인공지능은 아마도 150년 후에나 가능할 것이라고 확신했다.

소아레스는 슈퍼 인공지능 기계에 대한 위험성에 대해 논의할 때 양 측면의 의견을 고려하고 있다고 말했다. 소아레스는 “인공지능은 정말 많은 혜택을 가져다줄 것이다. 그러나 제대로 활용하지 않을 경우, 정말 많은 위험을 초래하게 될 것”이라고 강조했다.

IFIF의 회장인 로버트 앳킨슨은 인공지능이 유발한 위험성을 과장하지 않는 것이 중요하다고 주장했다. 인공지능 전문가들이 인공지능의 위험성에 대해 역설할 때 정책 입안자와 언론 종사자들은 로봇에 의한 인류 종말이 현실 가능한지를 짚어야 한다.

한편, 이와 같은 두려움은 인공지능 산업에 대한 정부의 투자와 기술의 발전을 저해할 수 있을 소지가 있다고 앳킨슨은 했다. 최근 앨론 머스크는 인공지능이 “악마를 부르는 주술”이라고 묘사하기도 했다.

앳킨슨은 다른 기술들도 이와 비슷한 수준의 두려움을 유발한다고 덧붙였다. 앳킷슨은 “말을 어떻게 하느냐에 따라 다르다. '저기 봐, 책임감이 높은 과학자들이 안전하게 인공지능을 구현하고 있고 언젠가 작동하게 될 것이라고 믿어'라고 말하면 꽤 안심이 되지 않느냐”고 반문했다.


좋은 소식은 아직은 인간이 인공지능과 로봇을 어떻게 개발해나갈지를 제어할 수 있다는 것이다. 그러나 캘리포니아 대학교의 전자공학 및 컴퓨터과학 교수인 스튜어트 러셸은 인공 지능의 미래에 대해 더 강력하게 논의될 필요가 있다고 말했다.

앳킨슨이 아직 이와 같은 고수준의 로봇을 계획적으로 설계하는 것은 불가능하므로 위험 요소는 제한적일 수밖에 없다고 이야기하는 반면, 모든 위험요소가 의도한 대로 흘러가는 것은 아니라고 말했다.

러셸은 “언젠가 인공지능 시스템이 정보를 정확하게 받아들이고 미래도 예측할 수 있게 되는 날이 온다면, 더는 인간처럼 사고하지 않게 될 것이고 그때부터 문제가 생길 것이다. 인간 스스로조차 인류의 가치가 무엇인지 정확하게 모른다는 것이 어렵다는 것이 문제로, 기계에 어떻게 정확한 목표를 지시해야지만 인간처럼 행동할 수 있을지를 모른다”고 말했다.

몇몇 인공지능 개발자들은 지능형 기계에 올바른 명령을 내릴 수 있다고 여기고 있으나, '마이다스 왕'의 전설처럼 그 결과에 대해서는 전혀 예측할 수 없다고 러셸은 말했다. 러셸은 “전원을 꺼버리면 되는 일이 아니냐고 반문하는 사람들이 있을 수 있다. 그러나 슈퍼 인공지능 시스템은… 인간이 자신들의 전원을 끌 수도 있다는 위험을 인지하고 있으며, 벌써 인간을 능가하는 사고를 하기 시작했다”고 덧붙였다.

이에 따라 일반적인 수준의 인공지능 기술을 연구하는 사람들과 정책 입안자 및 과학자들은 절벽으로 떨어지기 일보 직전에 연로가 닳길 기도하기보다는 사전에 인공지능이 미칠 수도 있는 영향에 대해 논의해야 한다고 목소리를 높였다.

카네기 멜론 대학교의 컴퓨터 과학 교수인 마누엘라 벨로소는 일부는 인간과 공존하는 슈퍼 인공지능 기계에 대해 낙관적이라고 말했다. 벨로소는 카네기 멜론 대학교에 배치된 한 서비스형 로봇이 자신의 사무실까지 손님을 안내해주며, 새로운 정보를 익히기 위해 웹을 서핑한다고 덧붙였다.

벨로소는 로봇이 현재 인류의 삶을 윤택하게 해주는 방향으로 나아가고 있으며, 공존에 관한 연구는 인공지능 기계에 인간의 지식수준 범위를 넘어서는 것을 가르쳐줄 수는 없지만, 인류로 편입하는 방법을 알려줄 수 있다고 덧붙였다. 마지막으로, “인류는 인간, 개, 고양이, 그리고 로봇이 같이 살아가는 지구를 보게 될 것”이라고 말했다. editor@itworld.co.kr  


X