인공지능(AI) 인프라 시장에서 ‘가성비’ 경쟁이 확대되고 있다. 이미 학습한 모델로 답변을 생성하는 추론 수요가 급증하면서 장비값과 전력·냉각 비용을 줄이는 것이 중요해진 여파다. 추론용 가속기에 고가의 고대역폭 메모리(HBM) 대신 스마트폰용 저전력 D램(LPDDR)을 탑재하거나, 일부 AI 모델을 그래픽처리장치(GPU) 대신 중앙처리장치(CPU)로 구동하는 방식이 등장했다. 최고 성능뿐 아니라 비용 대비 효율이 새로운 경쟁 기준으로 떠오른 것이다.

먼저 인텔은 지난달 공개한 추론용 ‘GPU D시리즈’에 HBM 대신 LPDDR5X를 채택했다. LPDDR은 데이터 전송 속도는 느리지만 상대적으로 저렴하게 큰 용량을 확보할 수 있다. 아닐 난두리 인텔 부사장은 “기업들은 적절한 비용으로 필요한 성능을 제공하는 인프라를 원하고 있다”며 “고용량 AI 추론을 경제적으로 확대하는 데 초점을 맞췄다”고 설명했다. 퀄컴도 추론용 가속기 ‘AI200’에 LPDDR을 채택했고, 미국 스타트업 포지트론과 디매트릭스도 비슷한 기술을 개발하고 있다.