기존제품 대비 에너지효율 75% ↑
AI용 메모리 양대 축으로 급부상
SK하이닉스가 엔비디아의 최신 인공지능(AI) 가속기 ‘베라 루빈’에 탑재될 차세대 메모리 모듈 ‘소캠(SOCAMM)2’ 192GB(기가바이트·사진) 제품 양산을 시작했다고 20일 밝혔다. SK하이닉스는 소캠2를 설계 단계부터 베라 루빈에 최적화했다고 설명했다.
소캠은 저전력(LP)더블데이터레이트(DDR) D램을 집적한 데이터센터용 메모리 모듈이다. 당초 LPDDR은 스마트폰이나 태블릿PC 등 모바일 제품에 활용되던 D램이었지만 전력을 적게 소모하는 특성이 있어 최근 AI용 메모리로 급부상했다. 반도체 업계에서는 소캠을 고대역폭메모리(HBM)와 더불어 AI용 메모리의 양대 축으로 평가한다.
소캠이 주목받는 이유는 AI 성능 기준이 기존 ‘학습’ 중심에서 최근 ‘추론’까지 확대됐기 때문이다. AI가 실제 사용자에게 제시하는 답을 추리는 추론 과정에서는 과도한 전력 사용에 따른 발열을 줄여 ‘데이터 병목현상’을 없애는 게 핵심이다. HBM은 데이터 입출력 성능이 월등하지만 전력효율과 발열 등의 문제로 추론에 최적화되진 않았다는 게 최근 업계의 판단이다. 이에 엔비디아는 중앙처리장치(CPU) ‘베라’ 옆에 소캠2를 붙여 소비전력을 절감하고, 그래픽처리장치(GPU) ‘루빈’ 옆에 HBM을 붙여 빠른 연산을 담당하도록 베라 루빈을 설계했다.
SK하이닉스의 소캠2에는 회로 선폭이 10nm(나노미터·1nm는 10억분의 1m)급인 6세대(1c) 공정 ‘LPDDR5X’가 사용된다. 1c는 현재 가장 앞선 상용 메모리 공정이다. SK하이닉스는 “소캠2는 기존 서버용 D램 대비 2배 이상의 대역폭, 75% 이상 개선된 에너지 효율로 고성능 AI 연산에 최적화됐다”고 설명했다.
박종민 기자 blick@donga.com
ⓒ dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
인기 뉴스