AIㆍML / 데이터센터

사피온, 데이터센터용 AI 반도체 ‘X330’ 출시…“추론 성능 4배 빨라져”

편집부 | ITWorld 2023.11.16
사피온은 전작 대비 속도가 4배 향상된 데이터센터용 AI 반도체 ‘X330’을 출시한다고 밝혔다. X330은 TSMC의 7나노공정으로 생산된 제품이다. 사피온은 주요 고객사를 대상으로 X330 시제품 테스트와 신뢰성 검증 작업을 진행하고 2024년 상반기부터 양산을 시작할 예정이다.
 

사피온은 향상된 성능 및 전력 효율을 제공하는 X330을 통해 LLM(Large Language Model) 지원을 추가해, 전반적인 TCO(총소유비용)을 개선함으로써 AI 서비스 모델 개발 기업 및 데이터센터 시장 공략에 적극 나설 계획이다. 사피온은 X330 반도체 HW와 함께 서버 장착 시 성능을 최적화할 수 있는 ONNX(Open Neural Network Exchange) 기반의 SW 스택을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(Software Development Kit)도 함께 제공한다.

X330은 추론용 NPU로, 전작인 X220보다 응용범위가 표준 기술 기반 하에 대폭 확대됐다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU라고 업체 측은 강조했다.

X330은 기존 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력 효율을 확보했다. 2023년 출시된 경쟁업체의 5nm 제품 대비 연산 성능은 약 2배, 전력 효율은 1.3배 이상 우수한 수준이다. 또한 동영상 관련 프로그램의 처리 속도 향상을 위해 비디오 코덱 및 비디오 후처리(video post processing) IP를 내장하고 있다. X330은 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다.

기존 사피온 X220은 국내 첫 고성능 AI 언어 모델인 ‘BERT’ 추론에서 우수한 성능을 증명했으며, 새로운 X330은 대화형 AI 챗GPT의 원천기술인 트랜스포머(Transformer) 기반 LLM 실행을 달성했다. 
 

사피온은 이러한 성능과 혁신적인 AI 반도체 기술력을 기반으로 SK텔레콤과 협력을 강화해 신규 서비스 시장 공략에 적극 나서고 있다고 밝혔다. 특히 사피온은 지난해 12월 SK브로드밴드 가산 IDC 내에 사피온 AI 반도체 X220 장착 서버를 사용해 7.6Peta OPS 처리량에 달하는 대규모 NPU 팜을 구축했고, 이를 통해 실제 데이터센터 환경에서 서비스를 상용화하고 운영하는 프로젝트를 본격적으로 추진한 바 있다.

기존에도 소규모 서버 혹은 카드로 AI 모델을 연산 처리하는 실증과제는 다수 존재했지만, 실제 서비스 상용화를 목표로 대규모 NPU 팜을 구축한 것은 국내 첫 사례라고 업체 측은 설명했다. 무엇보다 사피온은 NPU 팜 프로젝트를 통해 이미지 분석, 자연어 처리, 화질 개선 등 다양한 분야에서의 상용화 테스트를 성공적으로 수행함으로써 비즈니스 모델 확대 가능성을 확인했다는 설명이다.

사피온은 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 엣지 디바이스용 AI NPU도 선보일 계획이다.

사피온 류수정 대표는 “사피온은 지난 2020년 국내 첫 데이터센터용 AI 반도체 X220을 발표한 이후 기반 서비스를 다수 제공해 시장에서의 검증을 완료하였고, 자동차, 보안, 미디어 등 다양한 분야로 상용 서비스 분야들을 지속적으로 확대하고 있다”라며, “X220의 장점을 극대화한 X330으로 AI서비스 모델 개발 기업 및 데이터센터 시장 공략에 박차를 가할 전략”이라고 밝혔다. 
editor@itworld.co.kr
 Tags 사피온
Sponsored

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.