"보고서 작성부터 직원 삶의 질 개선까지" ㈜한화의 생성형 AI 챗봇이 하는 일

사람과 닮은, 어떤 면에서 사람을 능가하는 인공지능은 오래전부터 많은 대중문화에 영감을 주었을 만큼 인류의 오랜 꿈이다. 2022년 11월 오픈AI가 대화형 인공지능 챗봇인 챗GPT를 공개한 후, 사용자의 반응을 살펴 인간과 같은 수준의 맥락 있는 의사소통이 가능하며, 실시간 업데이트가 가능한 ‘진짜 인공지능’에 많은 이가 놀랐다. 이 서비스가 일반에 공개되면서 형식이 일정한 글쓰기, 번역, 요약은 물론 이미지 설명과 코드 쓰기 등 많은 개인 용도의 사용례가 생겨나기 시작했다.

당연히 기업도 주목했다. 기업 내부에서 블로그나 제품 설명, 마케팅 문서 작성 도구로 챗GPT를 활용하기 시작했고, 자동 응답 시스템이나 가이드 문서를 구축해 기술 지원이나 고객 서비스를 개선하고 있다. 

개념이 빠르게 전파되기는 했지만, 생성형 AI는 아직 한 살짜리 기술이다. 그러니 생성형 AI의 고유한 특성을 이해하고 잠재력을 끌어낼 활용 사례는 많을수록 좋다. 빠르게 가치를 파악하고 활용처를 찾은 기업도 있지만, 우리 회사에 과연 필요한 기술인지, 파급력이 어느 정도일지를 관망하며 추이를 지켜보는 곳도 적지 않기 때문이다. 
 

 

생성형 AI의 가능성 먼저 확인한 ㈜한화 사례 

빠르게 뛰어들어 단시간 안에 결과물을 낸 곳으로는 ㈜한화를 꼽을 수 있다. 3개월간의 개발을 거쳐 지난 9월 말 ㈜한화 내부에 공개된 챗GPT 기반 챗봇 AIDA는 간단한 형태였지만 호응이 컸다. 2022년부터 ㈜한화의 디지털 트랜스포메이션을 지휘하고 있는 정해진 상무는 DT 전략팀과 함께 챗GPT를 활용한 내부 효율성과 생산성 제고 도구를 기획했다. 

맨 처음 선정한 챗봇 소재는 글로벌, 모멘텀, 건설의 3개 사업 부문을 아우르는 ㈜한화 구성원이 가장 많이 찾는 하도급법, 중대재해처벌법, 사내 복지제도로, 자의적 해석 없이 명확한 규정과 법률에 기반한 답을 낼 수 있다. 임직원이 항상 사용하는 내부 플랫폼 안에서 방대한 법령과 제도 중 궁금한 점을 물어보고 빠르게 정확한 답을 얻는 것이 장점이었다.
 

 
그러나 법령이나 사내 복지 제도는 해당 업무 담당 직원만, 1년에 몇 번 질문하고 말거나, 경조사를 치를 때에야 비로소 검색하는 소재일 수 있다.  정해진 상무는 여기서 한발 더 나아가 건설 프로젝트 과정마다 참여 직원이 잘한 점과 개선할 점을 남기는 ‘레슨 런(Lessons Learned)’ 데이터에 손을 댔다.
 

‘레슨 런’은 각 건설 프로젝트마다 성공과 실패의 원인을 찾아 단순 회고가 아니라 전사적으로 전파하는 분석 데이터이지만, 시간이 지나고 담당자가 바뀌면서 다음 프로젝트에 유용한 데이터로 남지 않고 분산되고 있었다.

여러 곳에 분산된 ‘레슨 런’ 데이터를 챗GPT 기반 챗봇과 결합하면, 새로운 공사를 진행하기 전 일일이 문서를 뒤지지 않아도 과거 유사 업무와 관련 팁을 쉽고 효율적으로 찾을 수 있었다.

과거 프로젝트의 ‘레슨 런’을 알려 달라고 요청하면, 답변과 함께 관련 애플리케이션이나 문서로 바로 연결되도록 링크를 함께 보여주는 것도 AIDA의 장점이다.
 

생성형 AI의 밑바탕, LLM 고려 기준은?

이 과정에서 ㈜한화 DT 전략팀은 당시 시중에 공개된 거의 모든 대규모 언어 모델(LLM)을 테스트했다. 그중 챗GPT를 선택한 이유를 두고 정해진 상무는 “챗봇과의 대화 내역이 외부에 저장되는지, 학습에 사용되는지를 검토하고 보안 면에서 강점이 있는 챗GPT를 선택했다. 정확성이 강한 점도 장점이었고, 한국어 앞뒤 문장의 논리 구조를 가장 잘 이해하는 LLM이었다”라고 설명했다.

㈜한화 DT 전략팀의 한기선 부장은 “기업에서 입력한 내용을 LLM 플랫폼이 재학습에 활용하지 않는다고는 하지만 통상 30일 정도의 로그를 보관하는데, 마이크로소프트 애저 오픈AI(Microsoft Azure OpenAI)는 그런 정책이 없다는 것이 이점이다. 향후 ㈜한화 내부 네트워크와의 연동 계획까지 고려해, 보안이 강력하고 유실되는 데이터 등이 없을 거라고 판단해 마이크로소프트 애저 오픈AI를 선택했다”라고 부연했다.
 

한기선 부장은 장기적으로는 sLLM(Smal Large Language Models)을 목표로 한다며, “향후 더 좋은 엔진이 출시되면 교체할 수 있는 형태로 구상한 점이 핵심”이라고 강조했다.

또한 “엔진 자체도 중요하지만, 기존 시스템과의 쉬운 연계에 힘을 쏟았다. 공수가 너무 많이 들어가도 프로젝트가 어렵다. 따라서 내부 빅데이터 플랫폼에서 데이터를 바로 불러오는 과정이나 RDBMS 벡터화를 표준화하는 작업을 진행할 때 현재보다 미래에 대응하면서 진행했다”라고 말했다.

한기선 부장은 완성과 공개를 앞둔 새로운 기능으로 PDF 등 다양한 형식의 문서를 업로드하고 내용과 파생 질문을 요약하는 ‘도큐먼트 애널리시스’를 소개했다.역시 최종 목표는 연관 문서 내 데이터를 읽어 최종 보고서까지 생성하는 단계다.

한기선 부장은 “마이크로소프트 코파일럿이 마이크로소프트 제품 안에서 데이터를 확인하고 문서를 만들어 주는데, AIDA는 DB 안에 있는 정형·비정형 문서까지 범위에 넣어서 최종 문서를 만들어 주는 기능을 지원하므로 함께 보완해서 사용하면 좋을 것 같다”라고 밝혔다.

DT 전략팀의 황찬수 차장은 “내부 질문에 대한 답은 회사 내 기존 자원에 가장 많이 들어 있다. ERP나 DB에 저장된 데이터를 워드나 다른 비정형 문서와 합쳐서 답을 만들어 내는 단계를 목표로 하고 있다. docx, pdf 등 형태와 상관없이 외부에 업로드하기 어려운 문서를 업로드하면 내용을 요약함은 물론, 연관 질문 10개를 제안하는 기능도 자랑할 만하다”라고 말했다.

㈜한화 DT 전략팀이 만든 챗봇 AIDA의 서비스 범위는 중대재해처벌법, 하도급법, 사내 복지 제도, 글로벌 플랜트의 ‘레슨 런’에 이어 연말 정산 가이드까지, 출시 이후 1개월마다 하나씩 늘어나고 있다.
 

뜨거운 내부 반응 "이 업무도 챗봇으로 만들어 주세요"

생성형 AI 프로젝트 이전에 빅데이터 프로젝트를 선행한 것도 도움이 됐다. 정해진 상무는 “㈜한화는 서로 다른 3개 부문을 모두 관장한다. 부문마다 ERP 버전 등 시스템이 다른 문제를 해결하기 위해 모든 데이터를 단일 대시보드에서 한눈에 보는 빅데이터 가시화 작업을 상반기에 선행했다”라고 설명했다. 정해진 상무는 재무 데이터를 먼저 빅데이터 프로젝트에 적용한 결과 수작업 시간이 대폭 줄었다며 전사로 확대할 경우에도 상당한 효용이 있으리라고 내다봤다.
 

AIDA는 7월부터 개발에 착수해 9월 말에 ㈜한화 내부에 공개됐다. 직접 사용해 본 임직원들의 반응도 뜨겁다. 

황찬수 차장은 내부 설문조사를 통해 많은 의견을 들었다며 “여러 시스템에 수천 개의 기록으로 분산된 건설 프로젝트 데이터를 AIDA에서 쉽게 검색할 수 있어 좋은 반응을 얻었다. 맥락을 기억하는 대화를 통해 상세한 후속 질문이 가능하고, 요약과 후속 시스템과의 연결까지 지원한다. 직원들이 개발을 요청한 서비스도 20~30건에 달한다”라고 밝혔다.
 

유사한 프로젝트를 준비하는 다른 기업에 전하는 조언도 있다.

다양한 내부 데이터를 챗봇이 읽기 쉽게 변환하는 작업을 진행한 한기선 부장은 “데이터 전처리 작업이 중요하다. 특히 비정형 데이터를 더 잘 읽을 수 있는 형태로 전환하는 작업에 많은 공수가 든다. 향후 생성형 AI와 데이터 재사용성을 고려해 기업 내부 문서의 기준을 제시하는 것도 고려할 만하다”라고 말했다.

궁극적인 목표는 더 효율적인 인사이트 도출이다. 정해진 상무는 “데이터 기반의 의사결정은 작은 부분에서 시작되는 변화다. 최종적으로는 다양한 데이터로 인사이트를 얻는 것이지만, 데이터의 정확성과 적시성 면에서도 진전이 있었다”라고 자평했다. “인간의 실수를 줄이고 정확한 데이터를 통해 적기에 올바른 판단을 내릴 수 있도록 지원하는 것은 업무 성과와 효율성은 물론, ㈜한화 임직원의 삶의 질에도 긍정적인 영향을 미칠 것”이라고 밝혔다. 
erin.hur@foundryco.com