플래닝(Planning)은 어떤 자원들을 가지고 있고 할 수 있는 일이 무엇이 있으며 제약사항에 주의하여 원하는 결과를 얻을 수 있도록 작업의 순서를 만드는 일입니다. 추론 LLM의 추론 기능을 플래닝 과정에도 적용할 수 있습니다. 본 리뷰는 Deeplearning AI사와 OpenAI사가 공동으로 마련한 ChatGPT O1강좌 내용중 O1을 플래닝에 적용하는 강의에 대한 내용입니다. 위의 예제를 설명하는 강의에서는 O1-mini 모델과 gpt-4o-mini모델을 사용하여…
추론 LLM 개발 비용으로 세상을 놀라게 한 딥시크의 발표가 있었습니다. 연산의 크기를 효과적으로 줄이고 계산과정을 최적화하여 생성형 AI의 개발과 운용에 반드시 필요한 GPU의 개수를 줄일 수 있다는 주장이 등장하였습니다. 이로 인하여 현재 빅테크 주도로 진행되고 있는 인공지능의 인프라 관련 투자가 많은 논란이 되고 있어 기본 LLM모델과 추론이 가능한 LLM모델과의 차이점에 대해 정리 해보려고 합니다. Deeplearning…
O1 프롬프트, 어떻게 작성하는 것이 좋을까요? 최근 DeepSeek의 여파로 추론이 가능한 LLM 모델에 대한 관심이 높아졌습니다. 그러나 정작 기존에 OpenAI사에서 발표된 O1과 같은 고성능 LLM 모델을 어떻게 효율적으로 사용할 지에 대해서는 논의가 부족한 것 같습니다. 최근 Deeplearning 사가 OpenAI사와 공동으로 준비한 O1 교육내에서 공유된 O1 프롬프트 를 잘 작성하기 위한 기본 4가지 원칙에 관련된 포스팅입니다….
생성형 AI가 직업 및 기업에 미치는 영향 논의가 최근 활발합니다. 앤트로픽에서는 자사 블로그를 통해 “앤트로픽 이코노믹 인덱스”라고 하는 백서를 논문 형식으로 발표했습니다. 구글 또한 구글 클라우드의 프로모션 목적으로 생성형 AI의 ROI라는 제목으로 산업보고서를 발간하였습니다. 두 문서가 결이 다르지만 구글과 앤트로픽 공통으로 생성형 AI도입과 이로 인한 업무와 기업의 변화에 대해 이야기 하고 있습니다. 이의 차이점과 공통점들…
Fine tuning에 필요한 Data 준비 작업 에 대한 강의 리뷰가 오늘의 포스팅입니다.LLM을 Prompting에 기반하여 접근하는 방식은 조금 다루어 보았으니 이제는 Fine tuning에 대해 알아보려고 합니다.Fine tuning을 말 그대로 번역하면 미세조정 정도로 번역해 볼 수 있습니다.모든 Base model에는 Base model을 학습시킬 때 사용한 파라미터들이 있고 그 외에 여분의 파라미터들을 제공합니다.Fine tuning에서는 기존에 학습된 파라미터를 건드리지 않고…
Prompt 엔지니어링 LMM을 사용한 Chatbot 에 관련한 별도의 posting 입니다. Deeplearning AI 사에서 제공하는 무료 교육을 수강하고 배운점과 느낀점을 적어 보았습니다. Prompt 엔지니어링과 베이스 LLM을 사용하여 Customized 된 App을 쉽게 만드는 좋은 예가 바로 Chatbot입니다. 이 포스팅에서는 Prompt 엔지니어링 ChatGPT API code를 사용하여 어떻게 간단한 customized 된 chat bot을 만드는 지에 대한 강의 과정을 리뷰해…
![A logo representing a calm, happy Sweden countryside village with only blue color palette [and has a minimalist and modern style] [incorporating elements of nature] [with a touch of Scandinavian design] [that reflects a sense of community]](https://raonstad.com/wp-content/uploads/2024/03/img-rsVXmvlyKd0umO7b2rMmaUnI.png)