기자명 채윤정 기자
  • 입력 2024.03.20 14:08

엔비디아 GTC서 선보여…AI 학습·추론 위한 LLM '1초 이내' 로딩

SK하이닉스의 PC OEM용 PCIe 5세대 SSD ‘PCB01’. (사진제공=SK하이닉스)
SK하이닉스의 PC OEM용 PCIe 5세대 SSD ‘PCB01’. (사진제공=SK하이닉스)

[뉴스웍스=채윤정 기자] SK하이닉스는 18일(현지시간)부터 21일까지 미국 캘리포니아주 새너제이에서 열린 엔비디아 주최의 세계 최대 AI 개발자 컨퍼런스인 ‘GTC(GPU Technology Conference) 2024’에서 업계 최고 성능이 구현된 SSD 신제품 ‘PCB01’을 공개했다고 20일 밝혔다.

SK하이닉스는 “PCB01은 온디바이스 AI PC에 탑재되는 PCIe 5세대 SSD로, 최근 글로벌 주요 고객사로부터 이 제품에 대한 성능 및 안정성 검증을 마쳤다”며 “올해 상반기 중 PCB01의 개발을 완료하고, 연내 대형 고객사용 제품과 일반 소비자용 제품을 함께 출시할 계획”이라고 설명했다.

PCB01은 연속 읽기속도 초당 14GB, 연속 쓰기속도는 초당 12GB로 업계 최고 속도가 구현된 제품이다. 이는 이전 세대 대비 두 배 향상된 속도로, AI 학습과 추론에 필요한 거대언어모델(LLM)을 1초 내에 로딩하는 수준이다.

PC 제조업체는 온디바이스 AI를 구현하기 위해 PC 내부 스토리지에 LLM을 저장하고, AI 작업이 시작되면 단시간 내 D램으로 데이터를 전송하는 구조로 설계한다. 이 과정에서 PC 내부에 탑재된 PCB01은 LLM 로딩을 신속하게 지원하면서 온디바이스 AI의 속도와 품질을 크게 높여주는 역할을 해줄 것으로 SK하이닉스는 기대하고 있다.

PCB01은 이전 세대 대비 전력 효율을 30% 개선해 대규모 AI 연산 작업 시 효율성을 높이는 데 기여한다. 또한 ‘SLC 캐싱’ 기술을 적용했다. 이는 낸드의 저장 영역인 셀 일부를 처리 속도가 빠른 SLC로 동작하게 해 필요한 데이터만 신속하게 읽고 쓸 수 있게 해주는 기술이다. SLC 캐싱은 AI 서비스 외에도 일반 PC 작업 속도도 빨라지도록 도와준다.

SK하이닉스 윤재연 부사장은 “PCB01은 업계 최고 성능 제품으로 Al PC뿐 아니라 게이밍, 하이엔드 PC 등 최고 사양 PC 시장에서도 각광받을 것”이라며, “이를 통해 당사는 HBM은 물론, 온디바이스 AI 분야에서도 ‘글로벌 넘버원 AI 메모리 컴퍼니’ 위상을 탄탄하게 다질 수 있을 것”이라고 말했다.

 GTC 2024에 전시된 SK하이닉스의 PCIe 5세대 ‘PCB01’ 기반 소비자용 SSD(오른쪽에서 2번째). (사진제공=SK하이닉스)
GTC 2024에 전시된 SK하이닉스의 PCIe 5세대 ‘PCB01’ 기반 소비자용 SSD(오른쪽에서 2번째). (사진제공=SK하이닉스)

한편, SK하이닉스는 GTC 2024에서 PCB01 외에도 36GB 12단 HBM3E, CXL, GDDR7 등 차세대 주력 기술 및 제품을 선보였다. 앞서 회사는 19일 세계 최초로 HBM 5세대 제품인 HBM3E의 양산에 들어간다고 발표한 바 있다. 또, GDDR7은 이전 세대 제품인 GDDR6 대비 대역폭이 두 배 이상 확대되고, 전력 효율성이 40% 개선돼 현장에서 큰 관심을 받았다.

이와 함께, SK하이닉스 HBM마케팅 정서영 TL은 ‘HBM 시장 전망’을 주제로 GTC 발표 세션에 참여해 AI 메모리의 중요성과 핵심 기술에 대한 인사이트를 공유했다.

저작권자 © 뉴스웍스 무단전재 및 재배포 금지