AIㆍML

'통제가능한 AI'를 개발할 때 필요한 핵심 모범 사례

Andrew Clark | InfoWorld 2021.12.16
강력하고 탄탄한 인공지능과 머신러닝 모델 개발과 배포는 복잡하고 어려운 일이다. 최근 필자가 만나 본 데이터 과학 및 머신러닝 임원은 모두 다른 부서와의 시스템 거버넌스에 집중하고 있었다.

이론을 실행하고 모델을 생산에 투입하는 것은 어려운 일이다. 그러니 거버넌스 과정의 핵심 이해관계자인 우리 부서와 우리 회사의 협력 상대방 모두에게 더 쉬운 AI 거버넌스를 만들 수 있도록, 기술 조직으로서 할 수 있는 일을 이야기해보자.
 
ⓒ Getty Images Bank
 

주요 설계 원칙

높은 수준에서 통제가능하며 안심할 수 있는 모델을 확보하기 위해서는 모델에 다음의 3가지 원칙이 드러나야 한다.

• 컨텍스트(Context) : 모델 개발 초기의 설명 단계 이후 비즈니스적 이유, 범위, 위험, 한계, 데이터 모델링 접근방식은 모델이 생산에 투입되기 전에 잘 정의되어 있으며 완벽하게 문서화되어 있다.


• 검증성(Verifiability) : 모델 개발 프로세스의 모든 비즈니스 및 기술 결정과 단계는 검증 및 조사가 가능해야 한다. 머신러닝 모델 파이프라인은 블랙박스 알고리즘이 사용되더라도 완벽한 ‘블랙박스’여서는 안 된다. 데이터의 출처, 처리 방식, 존재하는 규제 고려사항을 파악하는 것이 검증 가능한 모델을 구축하기 위해 무엇보다도 중요하다. 모델 코드는 이전에 코드를 본 적이 없는 사람도 이해할 수 있는 방식으로 구조화하고 문서화해야 한다. 모델은 개별적 트랜잭션 재수행이 가능하도록 컨테이너화된 아키텍처, 직렬화(피클(Pickle) 등으로), 결정적인 전 처리 기법(무작위 시드(Seed)를 통한 사이킷(Scikit) 학습 원-핫(One-hot) 인코딩 및 직렬화 등)을 사용하여 구축해야 한다.

회원 전용 콘텐츠입니다. 이 기사를 더 읽으시려면 로그인 이 필요합니다. 아직 회원이 아니신 분은 '회원가입' 을 해주십시오.

Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.