Re-Reading (재독해) 추론 기법
1. Re-Reading (재독해) 추론 기법
- 대규모 언어 모델(LLM)에 동일한 질문을 한 번 더 강조하여 전달함으로써 모델의 추론(Reasoning) 정확도를 향상시키는 프롬프트 엔지니어링 기술
2. BaseAdvisor
- BaseAdvisor는 AI 요청과 응답 처리 과정에 공통 기능을 추가하기 위해 제공되는 추상 클래스(Abstract Class) 이다.
쉽게 말해 ChatClient와 LLM 사이에서 동작하는 AI 통신용 미들웨어 계층이라고 생각하면 된다.
- 개발자는 Advisor 인터페이스의 모든 메서드를 직접 구현할 필요 없이 BaseAdvisor를 상속받아
필요한 부분만 오버라이드하여 사용할 수 있음. 이를 통해 중복 코드를 줄이고 AI 파이프라인을 보다 쉽게 확장할 수 있다
3. Ordered 인터페이스
- Spring AI Advisor가 어떤 순서로 실행되는지 설명하는 Order 규칙과 LIFO(Last-In, First-Out) 스택 구조이다.
- Spring AI의 Advisor 체인은 단순히 순서대로 실행되는 것이 아니라, LLM을 중심으로 Advisor들이 여러 겹으로 감싸는 구조를 가진다.
따라서 요청(Request)이 내려갈 때와 응답(Response)이 올라올 때의 실행 순서가 서로 반대가 된다.
- 먼저 요청 단계에서는 Order 값이 높은 Advisor부터 실행된다. 즉,
Ordered.LOWEST_PRECEDENCE에 가까운 Advisor가 가장 먼저 실행되고,
순차적으로 내부 Advisor를 거쳐 최종적으로 LLM(OpenAI, Gemini, Ollama)이 호출된다.
- 이러한 구조를 Around Advice 패턴 또는 LIFO 스택 구조라고 하며, Spring AOP의 Interceptor 체인과 매우 유사하게 동작한다
댓글
댓글이 없습니다.
