AIㆍML / 개발자

QA는 생성형 AI 테스트 도구를 어떻게 검증할까?

Isaac Sacolick | InfoWorld 2024.01.17
생성형 AI를 위해 지속적 테스트를 업그레이드하는 3가지 방법이라는 최근 기사에서 필자는 코드 생성 도구, 코파일럿, 다른 생성형 AI 기능이 품질 확보(QA)와 지속적 테스트에 어떤 영향을 미치는지를 다뤘다. 생성형 AI가 코딩과 소프트웨어 개발을 가속하는 지금 코드 테스트와 QA는 빠른 속도를 어떻게 따라잡을까?

기사에서 필자는 데브옵스 팀의 QA 엔지니어가 테스트 커버리지를 확대하고 자동화 테스트를 늘리고, 코드 개발의 속도 증대를 위해 테스트 데이터 생성 규모를 확대해야 한다고 제안했다. 독자에게는 생성형 AI 기능을 추가하는 테스트 플랫폼을 찾으라고도 조언했다.
 
ⓒ Getty Images Bank

유수의 소프트웨어 테스트 자동화 플랫폼 업체는 이제 생성형 AI 기능을 강화한 제품을 속속 출시하고 있다. 카탈론(Katalaon)의 AI 중심의 테스팅, 트리센티스(Tricentis)의 AI 퀄리티 엔지니어링 솔루션, 람다테스트(LambdaTest)의 테스트 인텔리전스(Test Intelligence), 오픈텍스트(OpenText) UFT 원의 AI 테스트 자동화 기능, 스마트베어(SmartBear)의 테스트컴플릿(TestCompelete)과 비주얼테스트(VisualTest) 외에도 많은 AI로 강력해진 소프트웨어 테스트 도구가 있다.

데브옵스 조직과 QA 엔지니어의 임무는 이제 생성형 AI가 테스트 생산성, 커버리지, 위험 완화, 테스트 품질에 미치는 영향을 검증하는 것이다. 생성형 AI가 기업에 미치는 영향을 평가할 때 예상되는 것, 그리고 업계의 권장 사항을 정리했다.
 

코드가 늘어나면 테스트 자동화가 필요하다

맥킨지는 개발자가 생성형 AI로 코드 작업을 2배 더 빨리 완료한다는 연구 결과를 발표했다. 생성되는 코드의 양도 그만큼 늘어날 것이라는 의미다. 즉 QA 엔지니어도 테스트와 코드의 보안 취약점 검증 속도를 높여야 한다는 점을 시사한다.

코파도(Copado)의 제품 관리 수석 부사장 에스코 하눌라는 “생성형 AI의 가장 큰 영향은 테스트 분량이 훨씬 늘어난다는 것이다. 코드가 더 빨리 만들어지고 더 자주 릴리즈되기 때문이다. 다행히도 테스트에도 동일한 영향이 있다. 생성형 AI는 일반 텍스트 사용자 스토리 또는 테스트 시나리오에서 테스트 정의를 생성하고 실행 가능한 테스트 자동화 스크립트로 변환하는 데 도움이 된다”라고 분석했다.

제품 소유자, 기업 애널리스트, 개발자는 생성형 AI가 효율적인 테스트 자동화 스크립트를 만들어내기 때문에 애자일 사용자 스토리의 품질을 개선해야 한다. 충분한 수용 기준과 업데이트된 코드의 링크로 사용자 스토리를 작성하는 애자일 팀은 AI로 생성된 테스트 자동화를 고려해야 한다. 그동안 다른 팀은 요구 사항 수집과 사용자 스토리 작성을 개선해야 할 수도 있다.

하눌라는 테스트 순서, 결점 보고, 깨진 테스트 자동 수정 등 애자일 팀이 고려해야 할 여러 가지 생성형 AI로 인한 기회를 공유했다.
 

생성형 AI가 QA 베스트 프랙티스를 대체하지는 못한다

개발자 팀은 LLM으로 서비스 레벨 목표(SLO)를 만들고 사고의 근본 원인을 제시하고, 문서나 다른 유용한 생산성 도구를 만든다. 그러나 QA 엔지니어가 자동화로 생산성을 개선하고 테스트 커버리지를 늘리는 한편, 생성형 AI가 기업 수준의 의미 있는 테스트 시나리오를 생성하고 위험을 줄일 수 있을지는 아직 모르는 일이다.

일부 전문가는 무게를 두면서 생성형 AI가 베스트 프랙티스를 늘릴 수는 있지만 대체할 수는 없다는 데 합의하고 있다.

카탈론의 전략 부사장 알렉스 마틴은 “QA에 있어서는 테스트의 정확도와 예측가능성이 관건이다. 동일한 프롬프트에도 응답이 변하는 AI가 아직 숙달하지 못한 지점이다. AI는 테스트 생산성 증대라는 매혹적인 제안을 하지만, 현실에서는 테스터가 테스트를 실행하기보다 LLM 결과를 정제하는 데 상당한 시간을 소비하는 상쇄 효과에 직면하고 있다. AI 도구의 가능성과 현실간 이분법은 인간의 전문 지식을 포기하지 않고 AI를 활용하는 균형 잡힌 접근 방식의 필요성을 강조한다”라고 조언했다.
 
ⓒ Getty Images Bank


코파도의 하눌라는 “인간의 창의력은 아직도 시스템을 망가뜨리는 요소를 파악하는 데 있어 AI보다 우수하다. 그러므로 완전 자동화가 가능하더라도 아직은 가장 선호되는 방법은 아니다”라고 말했다.

세마포어 CI/CD(Semaphore CI/CD)의 공동 설립자 마르코 아나스타소프는 “AI가 개발자 생산성을 끌어올리기는 해도 품질을 평가할 대안은 아니다. 강력한 테스트 프랙티스와 자동화를 결합하면 AI가 높은 품질과 프로덕션 레디 코드를 만들어 낼 것이라는 자신감을 얻을 것”이라고 말했다.

생성형 AI와 테스트 자동화가 테스트 스크립트를 만드는 데 도움이 될 수 있지만, 무엇을 테스트할지를 아는 재능과 전문 지식을 갖추는 것은 QA 엔지니어에게 더 중요한 일이 될 것이다. 생성형 AI의 테스트 생성 기능이 발전하면서 QA 엔지니어는 테스트 스크립트 코딩이 아니라 시프트 레프트와 위험 완화 및 테스트 전략에 집중해야 한다. 

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.