Xe3P 기반 추론용 GPU…파트너 카드 최대 480GB 메모리 지원
(씨넷코리아=윤현종 기자) 인텔이 미국 새너제이에서 열린 OCP 글로벌 서밋에서 AI 추론용 ‘GPU D-시리즈’의 추가 사양과 제온 기반 랙 설계를 공개했다고 13일 밝혔다.
코드명 크레센트 아일랜드인 GPU D-시리즈는 Xe3P 아키텍처를 기반으로 메모리 집약적인 추론 작업을 겨냥했다. 메모리 대역폭은 최대 1.5TB/s이며 350W 전력 범위에서 FP8 기준 1.3페타플롭스 연산 성능을 제공한다.
인텔 브랜드 PCIe 카드는 160GB LPDDR5X 메모리를 탑재한다. 파트너사가 제작하는 ODM 브랜드 카드는 최대 480GB까지 메모리 옵션을 적용할 수 있도록 설계했다.
인텔은 단일 카드에서 최대 3천억 매개변수 모델, GPU 8개 구성에서는 1조 개가 넘는 매개변수 모델을 지원한다고 밝혔다. 주요 활용 분야는 대규모 언어 모델과 긴 컨텍스트 처리, 동시 추론 서비스, 로보틱스 등이다.
표준 PCIe 폼팩터와 공랭 설계를 적용해 기존 데이터센터에 도입할 수 있도록 했으며, 공통 Xe 소프트웨어 기반으로 인텔 GPU 간 애플리케이션 이식성을 지원한다. 현재 고객 대상 샘플 공급을 진행 중이다.
제온 기반 랙은 생태계 파트너와 공동 개발했으며 상당수가 OCP 오픈 랙 v3 표준을 활용한다. 일부 제온 6+ 구성에서는 총 랙 전력 133.45kW를 기준으로 4만6천 개 이상의 코어로 확장하는 설계를 제시했다. CPU는 AI 워크플로 조율과 데이터 처리, 입출력 관리, 도구 실행 등을 맡는다.
개방형 소프트웨어 전략에는 기존 AI 프레임워크·서빙 엔진 지원, 추론 최적화 라이브러리, 신규 개방형 모델의 출시 시점 지원이 포함된다. 인텔 AI 엔터프라이즈 에이전트 툴킷은 제온에 최적화돼 있으며 향후 인텔 GPU로 확장할 수 있도록 설계했다.
인텔은 2011년 이후 OCP에 총 116건을 기여했다. 올해는 표준 서브랙 가속기 카드의 기계·전기·관리 상호운용성을 높이기 위한 오픈 어댑터 카드 워킹그룹 활동도 소개한다. 한국시간 14일 오전 2시 30분 기조연설을 비롯해 30개 이상 기술 세션과 발표에 참여한다.
케보크 케치찬 인텔 데이터센터 그룹 총괄 수석부사장은 “에이전틱 AI는 데이터센터에 대한 고객의 요구를 변화시키고 있다”며 “성공은 단일 구성 요소가 아니라 제온, 목적별 가속 기술 및 상호운용 가능한 소프트웨어를 결합한 개방형 이기종 인프라에 달려 있다. 인텔은 고객이 기존 투자를 활용하는 동시에 새로운 AI 워크로드를 효율적으로 확장할 수 있는 유연한 기반을 구축하도록 지원하고 있다”고 말했다.