편견

블로그 | 생성형 AI 시스템이 바보가 되는 이유

생성형 AI에 대한 내부 고발이 이어지고 있지만, 대부분은 우리가 이미 알고 있는 내용이다. 많은 생성형 AI 시스템에서 사용자가 요청한 것과 다르거나 명백히 잘못된 응답이 나온다는 것이다. 공개적으로 문제가 된 것은 마이크로소프트의 소프트웨어 엔지니...

생성형AI 학습 데이터 2024.03.13

글로벌 칼럼 | 법정에 서는 AI와 방어적인 설계의 필요성

생성형 AI를 포함한 모든 AI가 법원의 시험을 치러야 하는 것은 분명하다. 클라우드 및 AI 아키텍트는 법정에서 곤란을 겪지 않으려면 방어적인 설계와 거버넌스를 실천해야 한다. 최근 소액 청구 법원에서 진행된 소송에서 에어캐나다는 AI 기반 챗봇이...

생성형AI 소송 편견 2024.02.26

“인사 의사결정에 알고리즘 쓰면 밝혀야” 뉴욕시, ‘AI 채용 도구’ 규제 시행 

기업이 자동화된 직원 채용 또는 승진 도구를 감사해야 하는 미국 뉴욕시 규제 법안이 7월 5일 발효됐다. ‘편견 감사법(Bias Audit Law)’이라고도 알려진 뉴욕시 지방법 144(NYC 144)에 따라 뉴욕시 거주자를 고용하는 기업은 채용 과정...

생성형 AI IT 일자리 다양성 2023.07.07

"AI가 인재를 찾는 법" 행동 인텔리전스와 HR의 만남

2021년 DIHK 보고서에 따르면, 독일 기업의 절반이 장기적인 결원 보충에 어려움을 겪고 있다. 이 문제는 2030년까지 계속 나빠질 전망이다. 독일 연방고용청(BA)에 따르면, 그때까지 독일의 고용 인구가 360만 명 감소하기 때문이다. 인력 공...

인공지능 채용 HR 2022.11.22

IDG 블로그 | 클라우드 아키텍처에서 기술 편견의 영향

필자는 윤리와 클라우드/IT 아키텍처에 대해 꾸준히 글을 써왔다. 하지만 사람들이 '기술 편견(technology bias)'에 대해 어떻게 생각하는지에 대한 논의는 여전히 지지부진한 것이 사실이다.   그럼에도 필자는 기술 편견이 클라우...

편견 클라우드 2021.12.23

자연어 생성의 편견과 기타 유해성에 대처하기

자연어 생성(Natural Language Generation, 이하 NLG)은 너무 강력해서 탈이다. NLG 기술은 매우 다양한 자연어 텍스트 콘텐츠를 빠른 속도로, 대량으로 생성할 수 있다. “자동 완성” 프로그램에 슈퍼 파워를 더한 기술이라고 ...

머신러닝 자연어생성 NLG 2021.03.15

AI 모델의 3가지 편향성과 대처 방법 

자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의 상당수는 인종과 성별에 대한 뚜렷한 편향성을 보인다. ML 모델이 갈수록 폭넓게 채택되고 있는 만큼 인공지능...

AI 학습 편향성 2021.02.26

"데이터센터는 퇴물, AI는 과대평가" IT를 지배하는 2가지 통념 파헤치기

IT 세계에서 제일 잘 알려진 문제는 두 가지다. 인류가 미래를 향해 너무 열심히 달려간 나머지 아이러니하게도 기술 발전 속도가 예상을 따라오지 못할 때 그 경향을 무시하게 되는 것이다. 예를 들어 오늘날 널리 퍼져 있는 두 가지의 굳건한 신화를 생각...

신화 멀티클라우드마이그레이션 편견 2020.01.23

IDG 블로그 | 현실 왜곡 “스티브 잡스라면 절대로…”

사람들은 예상하지 못한 혹은 이해하지 못하는 상황을 만나면 현실을 부정하는 경향이 있다. “스티브 잡스라면 절대 저렇게 안했을 것이다”라는 말은 이런 경향의 대표적인 예다.     공포, 불안, 부정 필자는 ...

스티브잡스 현실왜곡 편견 2019.04.03

머신러닝을 실패로 이끄는 6가지 방법

일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다. 기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝을 ...

프로젝트 모델링 IT전략 2018.10.15

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.