"위에 업로드한 파일의 요약 다시 보여줘"라고 했을 때 요약을 못한다고 느끼신 경험 있으신가요? 처음에는 파일의 내용을 잘 알고 내 질문에 답한 것 같은데 고작 몇 턴 이후에는 해당 파일을 기반으로 한 질문에 대한 답을 잘 못해서 갸우뚱한 기억이 있습니다. 제가 기대한 건 파일을 한 번 줬으면 해당 세션의 대화(=대화창)에서는 필요할 때마다, 혹은 매 번 읽거나 읽을 수 있다고 생각했거든요. GPT 4o 기준으로 현재 256K 안의 context window에 포함되어 있다면 더더욱이 말이죠. 업로드한 파일은 어느 시점에 읽고 어떻게 활용해?- 파일을 업로드하면 GPT는 파일을 업로드한 때(turn)에서만 내용을 파싱(읽고 요약)합니다.- 파일이 context window에 텍스트로 삽입되는 것과 유사한..

1. GPT가 context window 안에 들어간 이전 내용을 기억한다면 "상태 기억이 없다"는 건 틀린 말 아냐?GPT가 기억하는 건 이전 대화 내용이 아니라, context window 안에 있는 내용입니다. 그리고 이건 명확하게는 기억은 아닙니다. 예를 들어, 처음에 A라고 말했고, 두 번째에 B라고 말했고, 세 번째에 C라고 말했을 때, GPT는 이 세 가지를 기억한다기보다는, 세 문장을 모두 집어넣고 거기서 최종 답을 도출하는 겁니다. 그래서 중간 상태를 내부적으로 저장하고 활용하지는 못합니다. 즉, GPT는 기억처럼 보이는 문맥 기반의 추론은 잘하지만, 진짜 상태 전이를 추적하거나 저장하지는 않습니다. 그래서 절차적 흐름에 약해요. 다만 문맥 안에 잘 정리된 절차가 있다면 따라오는건 잘 할..

GPT는 절차 기반 작업에 약하기 때문에 이러한 특성을 보완하는 방법들을 알아보겠습니다. 1. GPT = 지금 이 순간 대답하는 전문가사용자의 질문이나 지시에 대한 즉각적 응답에는 뛰어나지만, "지속적인 상태 관리"에는 약합니다. 이전 상태 기억이 없고, "조건 분기"나 "중간 결과 저장" 같은 논리 흐름에도 약합니다. 2. GPTs = 역할과 기억을 설정한 GPT- 사용자의 Instruction, Knowledge, Tools 등을 세팅해서 특정 역할에 특화시킨 GPT를 만든다고 보시면 됩니다.- 단, 하나의 작업에 집중되도록 설계됩니다 (예: 요약 GPT)- AI 특성: 역할 기반 정밀 작업은 가능하지만, 절차적 흐름이나 단계별 논리 전개에는 제약이 있음. 3. Function + GPT API = ..