AI 반도체

추론 LLM 개발 비용으로 세상을 놀라게 한 딥시크의 발표가 있었습니다. 연산의 크기를 효과적으로 줄이고 계산과정을 최적화하여 생성형 AI의 개발과 운용에 반드시 필요한 GPU의 개수를 줄일 수 있다는 주장이 등장하였습니다. 이로 인하여 현재 빅테크 주도로 진행되고 있는 인공지능의 인프라 관련 투자가 많은 논란이 되고 있어 기본 LLM모델과 추론이 가능한 LLM모델과의 차이점에 대해 정리 해보려고 합니다. Deeplearning…

CPU GPU 병렬처리 차이점 을 자세히 알기 위해 멀티 코어 병렬 처리 방식의 설계 목적과 시스템 구조와 CPU와 GPU를 구성하는 코어의 다른 특성에 대해 다룬 포스팅입니다.

CPU GPU의 병렬처리 차이점 을 알아 보기 위해 기본적으로 이해해야 하는 ALU, 다중 코어 CPU 그리고 멀티태스킹과 멀티스레딩을 이해하기 위한 프로세스와 스레드의 차이를 설명하고 CPU와 GPU의 연결 구조를 통해 같은 병렬처리 원리이지만 서로 목적이 다른 장치임을 설명한 포스팅입니다.