도구 권한 제어, 허용 목록, 사람 승인, 실행 이력

도구 권한 제어, 사람 승인, 실행 이력에 대해 배웠습니다. AI가 선택한 도구를 무조건 실행하는 것이 아니라, 역할에 따라 사용할 수 있는 도구를 제한하는 방법을 알게 됐습니다. 특히 환불이나 계정 삭제처럼 되돌리기 어려운 작업은 사람이 직접 승인한 뒤 실행하도록 만들 수 있다는 점이 기억에 남습니다.

AI가 사용자의 요청을 잘못 이해해 필요하지 않은 도구까지 실행할 수 있다는 점이 인상 깊었습니다. 주문 조회를 요청했는데 계정 삭제까지 시도하거나, 환불 금액이 없는데도 임의로 금액을 정하는 사례를 살펴봤습니다. 이런 문제를 막기 위해 실행 전에 권한을 검사하고, 위험한 작업은 잠시 멈춰 사람의 승인을 받도록 하는 방법을 배웠습니다. 또 환불이 거부됐는데 환불 완료 메모만 남는 문제를 막기 위해 관련 작업을 함께 처리해야 한다는 것도 알게 됐습니다.

이번에도 새로운 개념이 많아 진도가 빠르게 느껴졌습니다. 특히 interrupt처럼 처음 접하는 기능은 이해하기 어려웠지만, 강사님께서 실습과 함께 설명해 주셔서 조금씩 흐름을 파악할 수 있었습니다. 다른 수강생들도 열심히 참여하는 분위기라 저도 끝까지 따라가려고 노력하고 있습니다!

역할별로 도구 사용 권한을 나누는 방법과 위험 등급을 구분하는 기준을 다시 복습하고 싶습니다. 특히 interrupt로 작업을 멈추고 Command(resume)으로 다시 실행하는 과정이 아직 익숙하지 않아 흐름을 정리해 보려고 합니다. AI가 잘못된 행동을 하지 않도록 실행 전에 검사하는 과정도 간단한 예제로 다시 확인하고 싶습니다.