AIㆍML

"우리도 우리가 무섭다" 규제 요청하는 AI 업계

Martin Bayer | COMPUTERWOCHE 2023.05.31
AI 개발과 사용에 대한 가드레일의 필요성이 점점 더 커지는 가운데, 다수의 IT 업계 저명 인사가 AI 안전 센터(Center for AI Safety, CAIS) 웹사이트에 게시한 짧은 성명을 통해 AI의 위험성을 경고했다. 성명은 "AI가 인간 사회를 파괴할 위험을 완화하는 것은 전염병이나 핵전쟁과 같은 비슷한 규모의 다른 위험과 함께 전 세계적인 우선순위가 되어야 한다"라고 강조했다.
 
ⓒ Getty Images Bank

위험이 정확히 무엇인지는 명시하지 않았다. 청원을 시작한 사람들은 가능한 한 많은 유명인사가 청원에 동참할 수 있도록 하려는 것으로 보인다. CAIS는 급속한 발전과 가늠하기 어려운 결과를 고려할 때 AI 위험에 대한 우려를 구체적으로 언급하는 것은 쉽지 않다며, 이번에 발표한 짧은 성명서는 논의를 시작하기 위한 것이라고 밝혔다.

청원 서명자에는 최근 구글에서 퇴직한 토론토 대학교 명예 교수 제프리 힌튼을 비롯한 과학자들과 CEO 샘 알트만, 수석 과학자 일리야 수츠케버, CTO 미라 무라티 등 오픈AI의 경영진이 포함되어 눈길을 끌었다. 이외에도 구글의 AI 자회사인 딥마인드의 CEO 데미스 허사비스, AI 스타트업 앤트로픽의 CEO 다리오 아모데이, 마이크로소프트 CTO 케빈 스콧과 최고 과학 책임자 에릭 호르비츠 등 잘 알려진 기업의 고위 임원인지 이름을 올렸다.

올해 3월 말에는 과학계와 산업계 전문가들이 공개 서한을 통해 6개월 동안 AI 개발을 일시 중단할 것을 요구하기도 했다. 테슬라의 CEO 일론 머스크와 애플의 공동 창업자 스티브 워즈니악은 이 기간에 AI 사용에 대한 일련의 규칙을 개발해야 한다고 주장했다. 

이 서한은 점점 더 지능화되는 AI 시스템이 사회와 인류에 큰 위험을 초래할 수 있다고 경고했다. 또한 강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있을 때만 개발해야 하는데, 현실은 이미 개발자가 AI 프로그램을 제어하기는커녕 이해조차 하지 못하고 있다고 지적했다.
editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.