랭체인의 미들웨어

1. 미들웨어

- 인공지능(LLM)이 답변을 만들기 전과 만든 후에, 개발자가 원하는 추가 규칙을 중간에 끼워 넣는 기능.

- 미들웨어가 필요한 경우

-- 인공지능이 혼자서 질문을 이해 못 하고 엉뚱한 생각을 무한 반복할 때

-- 욕설이나 비밀번호 같은 위험한 단어를 말하려고 할 때

-- 인공지능을 너무 많이 써서 API 비용이 엄청나게 나올 때

2. 미들웨어의 종류

- 빌트인 미들웨어(built in Middleware)

-- 랭체인에서 기본적으로 제공하는 프로덕션 레벨의 내장 미들웨어

- 커스텀 미들웨어

-- 개발자가 직접 필요한 기능을 정의하여 미들웨어를 만들 때 사용

-- Node-style 훅 과 Wrap-style 훅 (실행 제어 및 인터셉트) 이 존재

3.콜백 핸들러(Callback Handler)와의 차이

- 랭체인에는 예전부터 존재하던 콜백 핸들러(Callback Handler) 개념이 있는데. 미들웨어와 비슷해 보이지만 뚜렷한 차이가 있음

콜백 핸들러: 시스템의 이벤트를 '관찰(Logging/Tracing)'하는 데 특화되어 있으며 주로 LangSmith, Langfuse 같은 LLMOps 도구 연동에 쓰입니다. (실행 흐름을 강제로 바꾸기 어려움)

미들웨어: 실행을 '가로채고 제어(Intercept/Control)'하여 중간에 조기 종료를 하거나 상태를 변경하고, 가드레일을 강제 적용하는 등 동적인 에이전트 엔지니어링에 사용됩니다.