“2024, 조지 오웰” 직원 감시에 이용되는 AI

인공지능 덕분에 이제 기업도 조지 오웰의 디스토피아적 감시 시나리오를 훨씬 더 효과적으로 구현할 수 있다.

회사가 제공한 디바이스와 소프트웨어, 인터넷 액세스를 통해 새로운 회사 정책 등에 대해 동료들과 자유롭게 험담을 할 수 있다는 것은 잘못된 가정이었다. 물론, 채팅 기록을 확인하는 일은 의심이 가는 경우에만 할 수 있는 시간이 많이 걸리는 현장 검증 방법이었다. 하지만 이제는 인공지능, 특히 머신러닝을 통해 거의 실시간으로 지속적으로 채팅 기록을 확인할 수 있다.
 

CNBC의 보도에 따르면, 월마트, 델타항공, 티모바일 USA, 셰브론, 스타벅스 등 미국 기업이 어웨어(Aware)의 기술을 사용해 직원들의 대화를 모니터링하고 있다. 어웨어의 고객 기업 중에는 네슬레, 아스트라제네카 등 유럽 기업도 있다. 독일의 경우, 이런 분석 툴을 사용하는 것에 법적인 문제가 있다.
 

설문조사 대신 즉각적인 분석 활용

설립 7년차인 스타트업 어웨어의 공동 설립자 겸 CEO 제프 슈먼은 CNBC와의 인터뷰에서 AI는 1~2년에 한 번씩 실시하는 직원 대상 설문조사에 의존하지 않고 실시간으로 직원들의 정서를 파악함으로써 기업이 내부 커뮤니케이션의 위험을 감지하는 데 도움을 준다고 강조했다. 기업은 분석 툴에서 익명화된 데이터를 사용해 특정 연령대 또는 지역의 직원들이 새로운 회사 정책이나 마케팅 캠페인에 어떻게 반응하는지 확인할 수 있다.

슈만은 "개인 정보 보호를 위해 개인의 이름은 언급되지 않는다”라고 강조했다. 기업은 단순히 "미국 내 이 지역의 40세 이상 근로자는 비용 때문에 정책 변경을 매우 부정적으로 볼 수 있다. 하지만 그 연령대와 지역 외의 다른 사람들은 다른 방식으로 영향을 미치기 때문에 긍정적으로 보고 있다" 정도의 인사이트만 얻을 수 있다. 하지만 텍스트를 읽고 이미지를 처리할 수 있는 능력을 갖춘 어웨어의 AI 모델은 따돌림, 괴롭힘, 차별, 규정 위반, 음란물, 노출 및 기타 행동도 감지할 수 있다.
 

긴급 상황에서 원인 파악 가능

슈만에 따르면, 직원의 기분과 유해성을 모니터링하는 분석 툴은 개별 직원의 이름을 태그할 수 없지만, 별도의 이디스커버리(eDiscovery 툴을 이용하면 가능하다. 이는 기업이 사전에 정의한 극단적인 위협이나 기타 위험한 행동의 경우에만 가능한데, 예를 들어, 기업이 어웨어의 기술을 사용해 '폭력적인 위협' 또는 다른 범주에 대한 정책을 정의하면, AI 모델이 슬랙이나 팀즈에서 관련 위반 사항을 검색한다. 특정 문장, 진술 등에 대한 규칙 기반 링크도 가능하다.

AI가 회사 정책을 위반하는 내용을 발견하면 회사에서 지정한 담당자에게 해당 직원의 이름을 전달한다. 슈만은 "모델이 인터랙션에 플래그를 지정하면 어떤 일이 일어났고 어떤 정책과 관련된 사안인지에 대한 전체 맥락 정보를 제공한다. 조사팀이 회사 정책과 법률에 따라 다음 단계를 결정하는 데 필요한 정보이다”라고 설명했다.

이런 유형의 절차는 수년 동안 이메일 커뮤니케이션에 사용되어 온 것이다. 새로운 점은 AI를 이용하고 슬랙이나 팀즈 같은 업무용 메시징 플랫폼으로 확대 적용한 것이다.
 

사상 경찰의 디지털화

하지만 AI 덕분에 팀즈 채팅의 부정적인 댓글뿐만 아니라 영상 통화나 근무 시간의 표정까지도 직원들에게 불리하게 해석될 수 있다. 많은 업체가 무의식적인 얼굴 움직임, 근육 경련 또는 동공의 변화를 이용해 사람의 기분을 인식할 수 있는 감정 AI(Emotional Artificial Intelligence)를 연구하고 있다. 감성 AI는 행복, 혼란, 분노, 심지어 감성의 차이를 인식할 수 있다.

감정 AI가 실제로 효과가 있다는 것이 아직 입증되지 않았더라도 이미 관련 솔루션을 사용하는 기업이 있다. 예를 들어, CBS와 디즈니는 스마트아이즈(SmartEyes)의 감정 AI 어펙티바(Affectiva)를 사용해 시청자가 영화에 어떻게 반응하는지 파악한다.

2021년 FTC가 금지하기 전까지는 이케아, 오라클 등이 이용하는 온라인 채용원 플랫폼 하이어뷰(HireVue)에서도 화상 면접의 일부로 감정 AI를 통한 얼굴 분석을 사용했다. 지원자의 소프트 스킬, 인지능력, 심리적 특성, 감성 지능을 비교적 편견 없이 파악하기 위한 용도였다. 그러나 전자 프라이버시 정보 센터(EPIC)가 하이어뷰를 고발하면서 제시한 연구 결과는 안면 분석이 여성, 유색인종 등을 차별할 수 있으므로 채용 결정에 사용해서는 안 된다는 것을 보여줬다.
 

지원자의 소프트 스킬을 식별하는 AI

그렇다고 해서 HR 부문에서 감정 AI라는 주제가 완전히 사라진 것은 아니다. 예를 들어 레토리오(Retorio)의 행동 지능 플랫폼은 얼굴 분석, 자세 인식, 음성 분석을 결합해 소프트 스킬과 성격을 식별한다. 

독일 기반의 스타트업인 레토리오는 이를 통해 직원이 단기, 중기, 장기적으로 직책을 수행할 수 있는 잠재력이 있는지, 기업 문화 내에서 성장할 수 있는지를 조기에 판단할 수 있다고 설명한다. 레토리오에 따르면, 이 기술은 편향성이 없으며 분석 역시 지원자의 자발적인 참여로 진행된다. 지원자는 언제든지 동영상 녹화를 중단하거나 삭제하고 다른 방식으로 지원할 수 있다.

행동 지능의 또 다른 흥미로운 활용 사례는 영업 직원이나 관리자를 코칭하는 것이다. AI가 지원하는 역할극을 통해 일상적으로 발생할 수 있는 시나리오에서 답변을 신뢰성 있게 전달했는지에 대한 개인화된 피드백을 제공한다.
editor@itworld.co.kr