IT 이야기

Prompt 엔지니어링 LMM을 사용한 Chatbot 에 관련한 별도의 posting 입니다. Deeplearning AI 사에서 제공하는 무료 교육을 수강하고 배운점과 느낀점을 적어 보았습니다. Prompt 엔지니어링과 베이스 LLM을 사용하여 Customized 된 App을 쉽게 만드는 좋은 예가 바로 Chatbot입니다. 이 포스팅에서는 Prompt 엔지니어링 ChatGPT API code를 사용하여 어떻게 간단한 customized 된 chat bot을 만드는 지에 대한 강의 과정을 리뷰해…

개발을 위한 prompt 엔지니어링 에 대하여 Deeplearning AI와 OpenAI 사가 공동으로 준비한 강의내용에 대한 리뷰를 써 보았습니다. 개발과 관련된 LLM 적용은 이른바 Copilot과 관련된 자동 코드 작성 툴을 생각하기 쉬우나 의외로 기본적인 prompt engineering을 사용하여 많은 어플리케이션을 빠르게 작성하고 배포할 수 있습니다. 현업에 적용할 수 있는 경우는 실제로 prompt engineering을 개발에 적용하는 경우 내부에서 공유할…

Vector DB 를 사용한 LLM RAG 실습과정을 리뷰합니다. Vector를 구성하는 기본 embedding의 정의를 다루고 Vector DB에서 유사성에 기반한 검색 알고리즘을 소개합니다. 아울러 이를 통한 RAG과정을 리뷰하고 prompt engineering과의 비교합니다. Vector DB 기본-어떻게 하면 데이터를 Vector로 표현할 수 있을까 벡터 embedding은 데이터에서 “의미”를 끄집어 내는 일입니다.아울러 이러한 의미를 컴퓨터에서 처리할 수 있도록 이른바 기계가 읽을 수…

On-device 생성형 AI. 현재 각광을 받고 있는 생성형 AI의 다음 세대 서비스로 각광을 받고 있는 아이템입니다. 오늘은 Qualcomm사에서 제공을 하고 있는 On-device 개발 프레임워크를 써보고 주목해야 할 점들과 앞으로 AP 제공업체들이 On-device AI app 개발자 에코시스템 활성화를 위해 제공해야 할 기능들에 대한 사항들을 정리해 보려 합니다. 사용할 Use case와 Model 스마트폰에서 수행되는 On-device AI 실습을…

함수 호출 생성형 AI 는 주어진 프롬프트로 내가 정의한 함수에 대한 입력을 맥락에 맞도록 자동적으로 만들어 주는 fine tuning된 생성형 AI입니다. 최근 생성형 AI에 대한 기대감은 예전 인터넷이 발명된 시기와 비교될 정도로 뜨겁습니다. 인터넷은 정보에 대한 무제한 접근성과 전세계를 대상으로 24시간 서로 사람들을 연결하게 만들어 새로운 산업혁명에 비견될 만큼의 생산성을 이끌어 내었습니다. 전 세계는 생성형…