LLM의 모든 것 1 [RAG-Retrieval Augmented Generation]

1. RAG - Retrieval Augmented Generation

: 검색 증강 생성

: 새로운 지식에 관한 텍스트 데이터 소스를 Embedding해서 Vector stores에 저장하고, 프롬프트 구성을 진행할 때 외부 데이터 소스로부터 가져온 텍스트 데이터를 함께 이용해서 프롬프트를 구성한 뒤 LLM으로부터 답변을 얻어낸다.

 

1. 사용자 질문
2. 질문 임베딩 및 내 데이터도 임베딩 진행
3. 이후, 벡터 DB(저장소)에 임베딩된 데이터를 저장
4. 질문을 이용해 저장해놓은 DB 저장소에서 검색
5. 지시 프롬프트 구성 + 질문(query 재생성) + 검색 결과 n개 > 언어모델 GPT에게 제공
6. 언어 모델이 답변 생성
7. 답변 출력

2-2) 임베딩 모델

: AI가 사람의 언어를 이해하기 위한 방법으로 숫자로 변환 해주는 AI모델

: 지정된 차원 수를 가짐

OpenAI

text-embedding-ada-002 1536차원 제공

text-search-davinci-*001

text-search-curie-*-001

text-search-babbage-*-001

text-search-ada-*-00`

Google

BERT

SBERT

Claude, Cohere (Bert fine tuning)

 

 

 

2. LangChain

: 대규모 언어 모델과 어플리케이션의 통합을 간소화하는 SDK(소프트웨어 개발 키트 - 개발 도구의 집합체)

 

 

---

 

 

 

 

https://www.youtube.com/watch?v=KDM6UM-msZk

검색 증강 생성(Retrieval-augmented generation, RAG) - Google Search

🔎 검색 증강 생성(Retrieval-augmented generation, RAG): Google 검색