LLM의 모든 것 2 [RAG-Retrieval Augmented Generation]

LangChain(랭체인)

---

: 대규모 언어 모델과 어플리케이션의 통합을 간소화하는 SDK(소프트웨어 개발 키트 - 개발 도구의 집합체)

: 대규모 언어 모델(LLM)을 기반으로 애플리케이션을 구축하기 위한 오픈 소스 프레임워크

: 쉽게 말하면 LLM 밀키트라고 생각하는 것이 편하다.

: LLM을 구성하기 위한 모듈들이 존재

• 모델 I/O : 언어 모델과의 인터페이스
  • 프롬프트를 관리하고 공통 인터페이스를 통해 언어 모델을 호출하고 모델 출력에서 정보 추출
  
• 데이터 연결 : 애플리케이션별 데이터와의 인터페이스
  • 데이터를 로드, 변환, 저장 및 쿼리하기 위한 빌딩 블록을 제공
  • 
• 체인 : 호출 시퀀스 구축
  • 복잡한 애플리케이션은 LLM을 상호, 또는 다른 구성요소와 체인으로 연결해야 한다. 랭체인은 이렇게 ‘체인으로 연결된’ 애플리케이션을 위한 체인 인터페이스를 제공한다.
• 에이전트 : 상위 지시문이 주어지면 체인이 사용할 툴을 선택할 수 있도록 함
  • 시퀀스를 하드 코딩하는 체인과 달리, 에이전트는 언어 모델을 추론 엔진으로 사용해 어떤 작업을 어느 순서에 따라 수행할지를 결정한다.
• 메모리 : 체인 실행 간 애플리케이션 상태 유지
• 콜백 : 체인의 중간 단계를 기록 및 스트리밍