LangChain 시작하기: 기본 LLM 체인 (Prompt + LLM) 이해하기

LangChain을 활용한 LLM(Large Language Model) 애플리케이션 개발에서 기본 LLM 체인은 가장 핵심적인 개념입니다. 이 체인은 사용자의 입력(프롬프트)을 받아 LLM을 통해 원하는 응답을 생성하는 간단하면서도 강력한 구조를 말해요. 대화형 AI부터 자동 문서 요약까지 다양한 LLM 기반 애플리케이션의 기반이 됩니다.

---

1. 기본 LLM 체인의 핵심 구성 요소

기본 LLM 체인은 크게 두 가지 요소로 이루어져 있습니다.

• 프롬프트(Prompt): LLM에게 어떤 작업을 수행할지 알려주는 지시문이에요. 질문, 명령, 특정 맥락을 제공하는 문장 등 다양한 형태를 가질 수 있으며, LLM의 응답 품질을 결정하는 가장 중요한 요소입니다. 효과적인 프롬프트는 LLM이 의도한 방향으로 정확히 응답하도록 유도합니다.
• LLM(Large Language Model): GPT-3.5, GPT-4, Gemini 등 대규모 언어 모델을 의미합니다. 방대한 양의 텍스트 데이터로 학습되어 언어를 이해하고 새로운 텍스트를 생성하는 능력을 갖추고 있습니다. 프롬프트를 분석하고, 학습된 지식을 바탕으로 요청된 작업을 수행하거나 적절한 정보를 제공하는 역할을 합니다.

---

2. 작동 방식

기본 LLM 체인의 작동 방식은 다음과 같습니다.

1. 프롬프트 생성: 사용자의 요구사항이나 수행할 작업을 정의하는 프롬프트를 만듭니다. 이 프롬프트는 LLM이 더 정확하게 응답할 수 있도록 명확한 지침과 맥락을 포함하도록 최적화할 수 있어요.
2. LLM 처리: 생성된 프롬프트는 LLM에게 전달됩니다. LLM은 프롬프트를 분석하고, 내부적으로 학습된 지식과 패턴을 활용하여 응답을 생성합니다.
3. 응답 반환: LLM이 생성한 응답은 사용자에게 전달됩니다. 이 응답은 단순한 답변, 요약된 정보, 혹은 생성된 텍스트 등 다양한 형태를 띨 수 있습니다.

---

3. 실습 예제: LangChain으로 LLM 체인 만들기

이제 실제 코드를 통해 LangChain에서 기본 LLM 체인을 구성하는 방법을 살펴보겠습니다.

예제 1: 단순 LLM 호출

가장 기본적인 방법으로, ChatOpenAI 함수를 사용하여 OpenAI의 LLM 모델에 직접 프롬프트를 전달하는 예제입니다.

Python

 

from langchain_openai import ChatOpenAI

# LLM 모델 인스턴스 생성
llm = ChatOpenAI(model="gpt-4o-mini")

# 모델에 직접 프롬프트 전달 및 실행
llm.invoke("지구의 자전 주기는?")

위 코드를 실행하면, llm 객체가 "지구의 자전 주기는?" 라는 질문을 받아 답변을 생성하고, AIMessage 객체 형태로 반환합니다.

AIMessage(content='지구의 자전 주기는 약 23시간 56분 4초입니다. 이것을 항성일(sidereal day)이라고 합니다. 우리가 흔히 말하는 하루 24시간은 태양일(solar day)로, 지구가 자전하면서 공전하기 때문에 태양을 기준으로 하루가 24시간이 됩니다.')

예제 2: 프롬프트 템플릿 사용

이번에는 더 체계적인 접근을 위해 프롬프트 템플릿을 사용해 보겠습니다. 프롬프트 템플릿은 프롬프트의 형식을 미리 정의해두고, 필요한 부분만 변수로 채워 넣어 사용하는 방식입니다.

ChatPromptTemplate.from_template() 메서드를 이용해 프롬프트 템플릿을 생성할 수 있습니다. 아래 예제는 LLM에게 "천문학 전문가" 역할을 부여하여 질문에 답변하도록 지시하는 템플릿입니다.

Python

 

from langchain_core.prompts import ChatPromptTemplate

# 프롬프트 템플릿 정의
prompt = ChatPromptTemplate.from_template(
    "You are an expert in astronomy. Answer the question. <Question>: {input}"
)

# 템플릿 객체 확인
prompt

결과를 보면 input_variables=['input']을 통해 input이라는 변수를 받는 프롬프트 객체가 생성된 것을 확인할 수 있습니다.

ChatPromptTemplate(input_variables=['input'], messages=[HumanMessagePromptTemplate(prompt=PromptTemplate(input_variables=['input'], template='You are an expert in astronomy. Answer the question. <Question>: {input}'))])

예제 3: LCEL을 활용한 체인 구성

LangChain Expression Language (LCEL)은 파이프(|) 연산자를 이용해 프롬프트, 모델, 출력 파서를 간편하게 연결하여 하나의 체인으로 만드는 강력한 기능입니다.

다음 코드는 앞서 정의한 prompt와 llm을 연결하고, 최종적으로 StrOutputParser를 통해 LLM의 응답을 깔끔한 문자열 형태로 변환하는 과정을 보여줍니다.

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

# 프롬프트, 모델, 출력 파서 정의
prompt = ChatPromptTemplate.from_template("You are an expert in astronomy. Answer the question. <Question>: {input}")
llm = ChatOpenAI(model="gpt-4o-mini")
output_parser = StrOutputParser()

# LCEL로 체인 연결
chain = prompt | llm | output_parser

# 체인 호출
chain.invoke({"input": "지구의 자전 주기는?"})

이 코드를 실행하면, 프롬프트 템플릿이 먼저 질문을 완성하고, LLM이 답변을 생성하며, 마지막으로 StrOutputParser가 그 답변을 순수한 텍스트로 변환하여 반환합니다.

지구의 자전 주기는 약 24시간입니다. 이것은 하루의 길이를 결정하는데 중요한 역할을 합니다.