HBM CXL PIM 차이점 (2)
HBM CXL PIM 차이점 비교의 연속으로 PIM을 소개하고 HBM CXL PIM 차이점 설명을 계속하도록 하겠습니다.
새로운 패러다임인 PIM
우리가 쓰는 스마트폰, 태블릿 그리고 PC까지 이른바 모든 스마트 기기들은 프로세서와 메모리가 CXL이전의 연결구조를 가지고 있습니다.
이 구조는 프로그램과 데이터를 동일한 메모리 공간에 저장하고, 저장된 정보를 순차적으로 처리합니다.
정보를 가져오고, 가공하고, 다시 저장하는 일의 연속입니다. 따라서 정보의 양과 정보가 흘러 다니는 길이 좁으면 정보가 전달되는 동안 이와 관련되지 않은 장치들은 일을 하지 않습니다.
이런 현상을 “병목”이라고 부르며 이로 인해 메모리와 프로세서 간의 데이터 이동이 느려질 수 있습니다.
성능 면에서 제한을 받을 수 있으며, 느려지는 속도로 인하여 전체 전력 소비에 영향을 미칠 수 있습니다.
이런 병목 현상은 요즘 ChatGPT와 같은 생성형 인공지능 개발 속도에 영향을 미치고 있습니다.
생성형 인공지능을 이야기 할 때 이른바 “파라미터의 개수”가 중요한 품질의 척도로 여겨지고 있으며, 최근의 생성형 인공지능은 적어도 수십조개의 파라미터를 사용합니다.
수십조개의 정확한 파라미터 값을 얻기 위해 엄청난 양의 정보를 인공 지능에 제공하고 계산 결과로 나온 답변을 조정하는 작업을 적어도 수개월에서 몇년 동안 진행합니다.
이 과정에서 병목은 제품개발 속도를 방해하는 중요 요소입니다.
HBM CXL PIM 차이점 이해를 위해서는 PIM은 다른방식의메모리라는 이해가 필요
이런 문제점을 해결하기 위해 뇌 구조와 유사한 메모리 중심 컴퓨팅으로 전환하여 연산과 저장 기능을 통합한 PIM(Processing-In-Memory) 기술이 논의 되어 왔습니다.
PIM은 크게 두 가지 유형으로 나눌 수 있습니다.
- In-memory computing: 메모리 자체에 연산 기능을 추가한 방식입니다.
- Near-memory computing: 메모리 근처에 연산 기능을 추가한 방식입니다.
차세대 메모리 기술의 도입순서는 HBM -> CXL -> PIM 으로전망
HBM은 이미 일부 고성능 칩에 적용되고 있습니다. 따라서, HBM은 가장 먼저 도입 되었고 앞으로도 발전할 차세대 메모리 기술이라고 할수 있습니다.
CXL은 메모리 모듈 기판 분야에서 중요한 역할을 할 것으로 예상되며, 로직 업체들이 CXL 2.0이 가능한 CPU를 출시해야 메모리 업체들이 납품할 수 있는 구조입니다
향후 IT 전판의 표준으로 채택되어 CXL을 사용한 사용 제품시장이 확대될 가능성이 높습니다.
PIM은 아직 초기 단계에 있지만, 다양한 분야에서 활용될 가능성이 높습니다.
물론, 이러한 전망은 현재의 기술 개발 상황을 기반으로 한 것입니다. 따라서, 기술 개발의 진전에 따라 도입 순서가 달라질 수도 있습니다.
구체적으로, HBM은 기존의 DDR 메모리보다 대역폭이 최대 3배 이상 높아, 그래픽 처리 장치(GPU)와 같은 고성능칩에 적합합니다.
CXL은 메모리와 비메모리 칩을 직접 연결하여, 성능과 확장성을 향상시킬 수 있습니다. PIM은 메모리 내에서 연산을 수행함으로써, 데이터 이동에 따른 지연과 전력 소모를 줄일 수 있습니다.
따라서, HBM은 기존의 DDR 메모리의 한계를 극복하기 위해 도입될 것으로 전망됩니다.
CXL은 메모리와 비메모리 칩의 연결을 개선하여, 시스템 성능과 효율성을 향상시키기 위해 도입될 것으로 전망됩니다.
PIM은 인공지능(AI)과 같은 새로운 응용 분야의 요구를 충족하기 위해 도입될 것으로 전망됩니다.
이와 같이 HBM, CXL, 그리고 PIM은 현재 반도체 기술의 주요 발전 방향 중 하나 입니다. 이들 기술은 각각 다른 역할을 수행하며, 서로 보완적인 관계에 있습니다.
HBM CXL PIM 차이점 결론 그리고 향후전망
이 세 가지 기술은 모두 AI 시대의 데이터 처리 요구를 충족시키기 위한 방향으로 발전하고 있습니다. 특히, 데이터 처리가 중심이 되는 미래 컴퓨팅에서 메모리가 데이터 환경을 주도할 것으로 예상되며, 이를 위해 HBM, CXL, PIM과 같은 차세대 반도체 기술이 필요합니다. 이러한 기술들은 데이터 병목 현상을 해결하고, 처리 속도를 높이며, 전력 소모를 줄이는 등의 방법으로 기존의 한계를 극복 하려는 AI 메모리 기술 들입니다.
