AI Agentic을 만들어보면서 느낀점

2026.04.27 - [Developer : 태하팍/Think for insight] - A.I agent 시대 알아야할 것들

A.I를 사용해서 여러 사이프프로젝트를 해봤는데  특히, A.I agent는 이번에 만들어보면서 느낀점을 작성하고자 한다.

4월에 이렇게 썼다. "AI agent는 스스로 목표를 세우고 계획을 짜고 작업을 한다."
실제로 만들면서 알았다. 이 문장이 성립하려면 조건이 있다는 것을..!!

위에서 말한 AI agent의 특징인 스스로 목표를 세우고 계획을 짜고 작업을 하려면 실패가 싸고 검증이 가능해야 한다.
리스크가 큰 것들 예를 들어 돈과 연관이 되어있다면 실패가 비싸다.
이럴경우에 A.I를 무조건적으로 믿을수 있을까? 실패 시 돈은 누가 내지?

위의 조건이 맞는 건 AI agent는 클로드 코드같은 실패도 싸고(사용자 토큰 소비??)
테스트코드를 통해 검증해서 실패하면 열번이고 다시 만들고 검증할 수 있는게 아닐까한다.

내가 AI Agent를 적용하고자 한 기능은 발주와 송장처리인데
사람이 처리하던 부분을 AI로 대체하는게 목표였다.

발주나 송장처리는 돈이랑 연관이 있다.
특히 발주는 잘못나가면 안된다. 즉, 실패(누락, 중복 등)한 뒤 스스로 검증하고 재처리할 문제가 아니다.
실패를 하면 고객에게 전화를 해서 상황 설명 후 택배를 돌린다거나 취소, 환불처리 등 업무가 다양하며 복잡하다.

그래서 앤트로픽에서는 agent를 만들 경우 효율적인 빌딩을 제시 한다. 아래 참고!
참고 : https://www.anthropic.com/engineering/building-effective-agents

그래서 5월 업무자동화 agent 구축방안을 검토하였다.

2026.05.14 - [역량 UP!/Business] - 23) nonos(No No Stress) - 업무자동화 agent 구축방안 검토

핵심은 workflow와 agent를 시스템에서 분리하고 agent는 좁고 깊게 사용하자! 였다.

말은 그럴싸한데 실제로 "좁고 깊게"가 어디일까?

예를 들어서 송장처리는 이미 nonos에서 시스템화 되어있는 기능이다.
즉, workflow는 이미 있다는 소리다. 여기에서 agent를 어디에 넣어야할까가 포인트이다.
workflow는 엑셀을 업로드 한 후 화면에서 필드를 매핑한다.(사람이)
매핑 후에 파싱해서 주문과 매칭하고 마지막 네이버스토어에 발송처리로 마무리한다.

이 작업은 수많은 업체의 송장을 매일매일 처리한다.
이 데일리 작업에서 AI agentic이 필요한 부분은 컬럼을 매핑하는 부분이다. 
이 부분을 좁고 깊게! 즉, LLM이 다양한 양식의 엑셀을 우리가 원하는 컬럼을 가져와서 매핑 시켜줘야한다.

또한,  처음엔 사람이 승인하니까 괜찮지만 어느정도 안정화가 되면 자동으로 처리하고 싶다.
사람은 리포팅만 받아보는 일명 사장님 모드로의 전환!

문제는 자동으로 넘긴 뒤에 매핑이 틀린게 알게 되는 경우다.
그래서 세 가지 포인트가 중요하다.
1) 어떤 건이 어떤 매핑으로 처리됐는지 기록해두고
2) 매핑이 틀렸다고 신고할 수 있게 하고
3) 신고가 들어오면 자동을 끄고 다시 승인받게 한다. 승격은 어렵게, 강등은 쉽게.

마무리

4월의 나는 "AI agent는 스스로 목표를 세우고 계획을 짜고 작업을 한다"고 썼다.
지금 다시 쓴다면 이렇게 쓰겠다.

AI agent는 사람이 준 목표를 받아, 어떤 방법으로 처리할지 스스로 정한다.
다만 그게 성립하려면 실패가 싸거나, 검증이 가능 해야한다.
둘 다 안 되면 자율성은 자산이 아니라 부채다. 

만들기전에는 agent가 얼마나 똑똑해야하는지에 대해서 고민을 했다면
지금은 agent에게 어디까지 맡길지 정하는게 더 중요하다는걸 느꼈다.

아직 다 만든건 아니다. 
좀 더 고민하고 잘 만들어보자:)
경험해보자!