AIㆍML

AI 규제 시도하는 유럽연합…업계와 프라이버시 단체 비난 쏟아져

Martin Bayer | COMPUTERWOCHE 2021.05.06
“AI에서 신뢰는 필수이지 장식이 아니다” 유럽위원회 부의장 마르그레테 베스타게르와 EU 내부 시장 책임 위원 티에리 브레톤이 AI 규제안을 발표하면서 강조한 말이다. 유럽위원회는 향후 몇 년 간 AI 사용이 폭증할 것으로 본다. 하지만 여기에는 위험과 윤리적인 우려 역시 따른다고 지적했다. 이 때문에 명확한 규정으로 신뢰를 생성하는 것이 중요하다는 것. 베스타게르는 “우리의 제안은 AI 자체에 대한 것이 아니라 그 활용에 관한 것이다”라고 강조했다.
 
ⓒ European Union

유럽위원회는 AI 애플리케이션을 4가지 서로 다른 위험 등급으로 분류해 규제하고자 한다. 베스타게르는 “AI를 사용하는 구체적인 위험이 클수록 규제도 엄격해진다”고 설명했다. 지능형 스팸 필터나 챗봇 같은 애플리케이션은 비교적 문제가 없는 기술로 분류되는데, 기본적으로 사용자가 정보를 얻을 뿐 AI가 사람과 커뮤니케이션을 하는 것은 아니기 때문이다.

반면에 사람을 평가는 AI 툴, 예를 들어 채용 과정이나 신용도 평가 등에 사용되는 AI는 위험한 애플리케이션으로 분류된다. 특히 이 분야는 데이터 기반에 대한 요구사항이 엄격하며, 객관적인 기준 없이 사람을 분류해서는 안된다. 또한 AI가 내리는 결정은 추적 가능하고 투명해야 하며, 사람의 감독이 요구된다.

엄격한 기준은 교통과 같은 핵심 인프라나 생체 인식을 사용해 사람을 자동으로 구별하는 영역에 AI를 사용할 때도 적용되어야 한다. 이런 기술은 실종자를 찾거나 테러 활동의 방지하는 등에 공식 인증을 받았을 때만 허용해야 한다. 이런 위험도 높은 AI를 사용할 때 서비스 업체는 유럽위원회가 요구하는 규정을 준수한다는 것을 보장해야만 한다. 개발과 사용 모두 정확하게 문서화해야 하며, 대중 감시나 조작, 어떤 종류의 사회적 점수평가제도 금지된다.
 

각계각층의 비난 이어져

AI를 규제하겠다는 제안은 많은 비난에 직면했다. ZVEI(독일 전기전자산업협회) 회장 볼프강 베버는 초안의 방향에는 동의하지만, “좀 더 차별화된 고려가 필요하다”고 지적했다. AI 소프트웨어와 AI 보안 요소, 기타 보안 관련 AI 제품이 거의 차이 없이 고위험성 애플리케이션 영역으로 분류되어 높은 요구사항을 만족해야 한다는 것이다. 베버는 “위험성을 과대평가하면 혁신을 저해하며, 특히 중소규모 기업에 큰 영향을 미친다”라며, “심지어 전형적인 알고리즘이나 통계 방법론까지 고위험성 AI로 의심받고 있다. 이는 제조업체와 사용자에게는 법적 불확실성을 높이고 국제 경쟁에 불리하다”고 설명했다.

독일 산업 연합의 아이리스 플로거는 고위험 AI 시스템이란 용어가 너무 광범위하며, “산업 현장의 AI 애플리케이션은 규제 대상에서 제외해야 한다”고 요구했다. VDMA(독일 기계공업협회)의 클로스 오터는 특히 중소규모 기업은 규제 준수에 너무 많은 시간과 노력이 들기 때문에 자사의 프로그램에서 AI를 제외하는 것이 낫지 않을지 반문하게 될 것이라고 우려를 표했다. 또 규제는 결국 혁신을 지연시킬 것이라고 덧붙였다.

규제안이 충분하지 않다는 견해도 있다. 유럽의회 부의장 니콜라 비어는 유럽위원회의 초안이 공공 영역에서 AI 기반 안면 인식을 근본적으로 금지하지 않는다는 사실을 비난했다. 해적당의 패트릭 브라이어는 “공공 영역의 생체 인식과 대중 감시, 프로파일링, 행위 탐지 기술은 우리의 자유를 제약하고 개방된 사회를 위협할 것”이라고 경고했다. 또 “유럽연합은 AI의 기술적 가능성과 윤리적 요구사항 및 민주주의적 가치를 조정해야만 한다. 대중 감시에 사용할 수 있는 AI 툴은 완전히 금지해야만 한다”고 주장했다.

사방에서 비판이 쏟아진다는 점에서 유럽위원회의 AI 규제는 아직 갈 길이 먼 상태이다. 유럽의회와 개별 회원국의 논의와 동의가 이루어지기까지는 여러 해가 걸릴 것이다. GDPR만큼 오래 걸릴 것이라는 우려도 제기될 정도인데, 2012년 초에 첫 개념이 제시된 GDPR이 실제 발효된 것은 2018년 5월이었다. editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.