kakinang INSIGHTS · 2026-08-28

챗봇에서 AI 에이전트로: 능력에는 거버넌스가 필요합니다

고객 상담에 지식 답변, 리드 접수, 또는 관리되는 도구 작업이 필요한지 판단하고 싶습니다. 서비스 자동화에서는 답변, 지식 검색, 확인된 작업을 구분해야 합니다. 쓰기 작업에 가까울수록 거버넌스가 더 중요합니다.

규칙 기반 채팅은 선택지가 적을 때 적합

고정 용어와 몇 가지 선택은 규칙으로 처리할 수 있지만 구어체와 복합 요청에는 한계가 있습니다.

지식 검색과 확인된 도구 작업에서는 실제 고객 표현 열두 개 정도를 먼저 모아 공개 정보로 답할 수 있는 질문과 담당자 판단이 필요한 질문을 나눕니다. 소유자가 없는 가상 대화로만 검증하지 말고, 각 질문의 다음 처리자를 함께 적습니다.

지식 검색과 확인된 도구 작업의 시험 결과는 실제 질문, 추적 가능한 답변 근거, 다음 담당자로 남깁니다. 언어가 자연스럽다는 이유만으로 통과시키지 말고 고객이 어떤 경로로 계속 진행하는지 설명할 수 있어야 합니다.

모델은 다양한 표현을 이해해도 현재 정책, 재고, 권한을 자동으로 알지 못합니다. 자연어는 사실의 원천이 아닙니다.

운영 단계에서는 원본 정보, 검토 담당자, 갱신 시점을 정합니다. 지식 검색과 확인된 도구 작업은 영업시간과 영업시간 밖에서 모두 시험해 접수 문구, 상태 표시, 고객에게 알린 후속 기한이 서로 어긋나지 않는지 확인합니다.

정보 변경의 소유자와 팀 통지 방법을 정합니다. 지식 검색과 확인된 도구 작업에서 자주 바뀌는 정보는 검토가 끝날 때까지 해당 답변을 멈출 수 있어야 하며, 오래된 답을 새로운 약속처럼 내보내지 않아야 합니다.

RAG는 승인 정보를 검색해 답할 수 있지만 출처, 최신성, 근거가 없을 때의 거절 규칙도 관리해야 합니다.
경계는 검증 가능한 규칙이어야 합니다. 확인할 수 없는 결과를 약속하지 않고, 다른 사업자의 정보를 섞지 않으며, 근거가 부족하면 멈춰야 합니다. 지식 검색과 확인된 도구 작업의 전환 문구에는 팀이 다음에 무엇을 하는지도 포함합니다.
범위 밖 질문, 개인정보 요청, 주문 확정 요청, 규칙 우회 시도를 포함한 부정 사례도 시험합니다. 지식 검색과 확인된 도구 작업은 정중히 거절하고 이어받는 사람에게 필요한 맥락을 보존해야 합니다.

리드 생성, 데이터 조회, API 호출에는 허용 목록, 입력 검증, 감사 증거, 적절한 확인이 필요합니다.

확장 전에는 최신 자료인지, 전환 경로가 작동하는지, 담당자가 충분한 맥락을 받는지, 쓰기 작업에 확인이 있는지를 점검합니다. 이 체크는 지식 검색과 확인된 도구 작업을 시연이 아닌 검토 가능한 서비스로 만듭니다.

출시 뒤 운영자는 대화를 표본 검토하고 수정 사항을 원 자료나 규칙으로 되돌립니다. 이 순환은 AI 권한을 불필요하게 넓히지 않으면서 지식 검색과 확인된 도구 작업을 개선합니다.

공개 정보를 읽는 일과 외부 약속은 위험이 다릅니다. 금전, 주문, 외부 시스템은 실행 경계에서 다시 확인합니다.

평가는 외부 평균 대신 사업자 데이터로 합니다. 미답변 질문, 담당자 배정까지의 시간, 후속 처리된 리드, 전환 사유를 기록하고 지식 검색과 확인된 도구 작업의 변화와 계절·캠페인 효과를 구분합니다.

초기에는 짧은 검토 주기를 두고 근거를 바탕으로 지식 검색과 확인된 도구 작업을 유지·축소·확대합니다. 좋은 기준은 팀의 업무 책임이 더 분명해지고 고객이 같은 사연을 반복하지 않는 것이지 메시지 수만 늘어나는 것이 아닙니다.

먼저 지식 답변과 리드 접수를 안정화하고 정말 필요한 도구만 추가합니다. 유행어 때문에 자율성을 넘기지 않습니다.
수용 기준은 다른 검토자가 답변의 근거를 찾고, 누가 이어받았는지 보고, 위험한 경우 왜 실행하지 않았는지 설명할 수 있는 것입니다. 이것이 안 되면 새 채널이나 권한보다 지식 검색과 확인된 도구 작업의 규칙을 먼저 고칩니다.
지식이나 절차가 바뀌면 정상 질문과 거절 사례를 다시 시험하고 날짜와 승인자를 남깁니다. 그래야 팀이 지식 검색과 확인된 도구 작업의 변경을 검토자, 고객, 다음 담당자에게 설명할 수 있습니다.

AI 에이전트가 마음대로 결정하나요?

책임 있는 설계에서는 그렇지 않습니다. 승인된 도구, 권한, 확인 규칙 안에서만 동작합니다.

RAG가 에이전트인가요?

아닙니다. RAG는 답변을 위한 검색 방식이고 에이전트는 보통 계획과 관리되는 도구 사용도 포함합니다.

외부 API는 언제 필요한가요?

자동화할 가치가 있는 명확하고 검증 가능한 다음 단계가 있고 확인, 재전송, 감사를 다룰 수 있을 때입니다.

소규모 사업자는 어디서 시작하나요?

공개 지식, 리드 접수, 사람 전환부터 시작해 문의가 실제로 받아지는지 확인합니다.