GPT는 한계가 있다? 절차와 흐름을 보완하는 실전 도구들

GPT는 절차 기반 작업에 약하기 때문에 이러한 특성을 보완하는 방법들을 알아보겠습니다.

 

1. GPT = 지금 이 순간 대답하는 전문가

사용자의 질문이나 지시에 대한 즉각적 응답에는 뛰어나지만, "지속적인 상태 관리"에는 약합니다. 이전 상태 기억이 없고, "조건 분기"나 "중간 결과 저장" 같은 논리 흐름에도 약합니다.

 

2. GPTs = 역할과 기억을 설정한 GPT

- 사용자의 Instruction, Knowledge, Tools 등을 세팅해서 특정 역할에 특화시킨 GPT를 만든다고 보시면 됩니다.

- 단, 하나의 작업에 집중되도록 설계됩니다 (예: 요약 GPT)

- AI 특성: 역할 기반 정밀 작업은 가능하지만, 절차적 흐름이나 단계별 논리 전개에는 제약이 있음.

 

3. Function + GPT API = GPT에게 툴을 넘겨주고 제어하는 구조

- 예를 들어 사용자가 "파일명을 기준으로 날짜별로 정리해줘"라고 요청 → GPT가 그걸 읽고 "아, 파일명 읽어서 날짜 추출하는 함수를 호출해야겠다" → 함수 호출 → 함수가 실행되고 결과를 GPT가 받아서 사용자에게 전달

 

- GPT 특성: 복잡한 흐름이나 계산, 조건 분기 등을 GPT가 함수 호출로 처리하며 연속 작업이 가능해짐. 즉, 결정은 AI가 하고, 실행은 함수를 통해 하게 됨.

- 즉, 우리가 할 일은 GPT가 함수를 쓸 수 있게 만들어주는 설명을 json파일로 주는 것이고, GPT는 프롬프트만으로도 언제 그 함수를 써야 할지 (LLM이) 스스로 판단해서 사용하게 됩니다.

    - GPT는 내장 함수가 없고, 사용자가 만든 함수 설명인 JSON Schema를 GPT에게 제공하게 됩니다. 

    - 그러면 GPT는 그 설명을 기반으로 적절한 시점(LLM이 판단)에 해당 함수를 호출 요청합니다(실제 실행은 외부에서 함)

{
  "name": "square_number",
  "description": "숫자를 제곱합니다.",
  "parameters": {
    "type": "object",
    "properties": {
      "num": { "type": "number", "description": "제곱할 숫자" }
    },
    "required": ["num"]
  }
}

    - JSON Schema는 GPT에게 함수명이 무엇인지, 어떤 인자를 받고 어떤 기능인지 알려주기 위한 설명서이므로 반드시 필요합니다.

    - GPTs 설정창에서는 JSON Schema 사용이 불가능하므로 반드시 GPT API에서 사용합니다.

 

4. LangChain/AutoGen = GPT를 모듈처럼 묶어서 'AI 워크플로우'를 만드는 툴

- LangChain

    - GPT 호출들을 단계별로 연결해 처리하는 파이썬 프레임워크

    - 각 단계는 함수, 도구, DB 호출, 사용자 입력 등 자유롭게 설정 가능

    - 기본은 순차적 흐름이지만 조건 분기, 반복, 메모리 사용 등 확장 가능

    - 예를 들어 "블로그 글 써줘"라고 요구 → GPT가 키워드 추출 / 관련 뉴스 요약 / 글 구성 / 글 완성 / 요약까지 전부 묶어서 하나의 흐름으로 관리

 

- AutoGen

    - 여러 AI 역할을 나눠서 협업시키는 구조

    - 예를 들어 planner, coder, tester, writer 별로 각각의 GPT가 각각의 요청을 나눠서 처리

 

- AI 특성: GPT 하나는 멀티태스킹에 약하지만, 역할을 여럿으로 나눠서 일하면 결과가 좋음.