AIㆍML

"매력적인 만큼 위험" 프론티어 AI 개념 제시하는 AI 안전 서밋

Charlotte Trueman  | Computerworld 2023.10.27
다음주 영국에서 개최될 AI 안전 서밋(AI Safety Summit)을 앞두고 새로운 토론 보고서가 발표됐다. 이 보고서는 인공지능 도구가 허위 정보를 생산하고, 노동 시장의 특정 부문을 혼란에 빠뜨리며, 시스템이 학습한 데이터 세트에 존재하는 편견을 확대하는 등 인공지능이 초래할 광범위한 위험을 지적하고 있다.

영국 정부는 성명에서 이번 보고서는 인공지능으로 인한 피해 가능성에 대처하기 위한 전 세계적 합의를 거듭 요청하며, 토론에 유익한 정보를 제공하고 프론티어 AI가 제기하는 위험에 대한 전 세계 공통 이해를 구축하기 위해 서밋 참석자에게 배포될 예정이라고 밝혔다. 프론티어 AI는 위험한 영향을 미칠 수 있는 고도의 기반 모델을 의미하는 단어다. 
 
ⓒ Getty Images Bank

이 보고서는 총 3부로 구성되어 프론티어 AI의 기능과 위험으로 시작해 현존 위험과 향후 개선 방법까지 설명하고 있다. 또한 생성형 AI의 안전성과 보안 위험을 살펴보고, 후반부에서는 2023년 발생 가능성이 있는 시나리오를 고려해 영국 과학부처가 프론티어 AI에서 발견한 주요 불확실성에 집중한다.

영국 정부는 “과학계와 전 세계 전문가 커뮤니티에서는 향후 빠른 속도로 발전할 프론티어 AI의 위험에 대해 다양한 견해를 내고 있다”라며 영국 정보 평가를 포함한 다양한 출처를 바탕으로 작성되었다고 밝혔다.

좀 더 극적인 측면을 보면, 위협 행위자가 AI로 사이버 공격을 수행하고 허위 정보를 퍼뜨리며 생화학 무기를 설계할 가능성까지 고려했다.

KPMG UK의 커넥티드 기술 책임자 폴 헤닝어는 “시간이 흐르고 프론티어 AI가 더 많이 사용되면 새로운 우려와 위험이 필연적으로 나타날 것”이라며, AI가 혁신적으로 활용될수록 더 많은 가치를 창출하지만 그만큼 위험이 현실화될 것이라고 덧붙였다.

헤닝어는 “다가올 변화에 대비할 시간이 있지만, 미래 솔루션에 적용하려면 현재 진행 중인 프론티어 AI 안전을 확보해야 한다. 다음주 개최될 AI 안전 서밋에서 이 활동을 시작하고, 새로운 사용례가 만들어지고 기술이 발전하면서 더욱 정기적인 업데이트가 있을 것”이라고 설명했다.
 

AI 안전 서밋에서 기대할 내용

이번 행사는 각국 정부와 업계 대표가 모여 기술의 위험에 대한 공동 이해를 증진하고, 국가 단위의 프레임워크를 지원하는 최선의 방법을 찾는 국제 협력 프로세스를 제안하는 자리다.

영국 정부는 참석자가 AI 안전 연구와 관련해 협력할 분야를 파악하고, AI의 안전한 개발을 보장해 전 세계적으로 AI를 선한 목적으로 사용하는 방법을 제시할 수 있기를 바라고 있다.

AI 안전 서밋에는 프랑스, 독일, 아일랜드, 이탈리아, 네덜란드 등 각국 정부 관계자와 오픈AI, 구글 딥마인드, 앤트로픽 등 AI 업체 대표 등 약 100여 명의 전문가가 참석한다. 미국에서는 조 바이든 행정부를 대표해 카말라 해리스 부통령이 참석한다.

영국 리시 수낙 총리는 26일 “AI는 새로운 지식, 새로운 경제 성장 기회, 인간 능력의 새로운 발전을 가져올 것이며, 한때 넘어설 수 없다고 생각했던 문제의 해결책을 가져올 것이다. 그러나 새로운 위험과 두려움도 있다”라고 말했다.

수낙 총리는 “이러한 두려움을 정면 돌파해 모든 사용자를 안전하게 보호하고, 미래 세대가 AI가 보장하는 더 나은 미래에 대한 기회를 누릴 수 있어야 한다”라고 강조했다.
editor@itworld.co.kr 
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.