kakinang INSIGHTS · 2026-08-28

AI와 사람의 온기: 속도, 판단, 책임을 올바른 곳에 두기

사람과 AI 내 상황에 맞춰 “AI와 사람의 온기: 속도, 판단, 책임을 올바른 곳에 두기”을 검토해 주세요. 협업의 품질은 답변의 이름이 아니라 역할 분담과 전환에 달려 있습니다. 고객은 누구와 말하는지 알고 필요할 때 책임 있는 다음 사람에게 갈 수 있어야 합니다.

AI와 사람의 온기: 속도, 판단, 책임을 올바른 곳에 두기
kakinang 실무 노트

AI에는 반복 가능하고 검증 가능한 일을

영업시간, 공개 서비스 설명, 기본 절차는 승인된 자료로 답할 수 있습니다. 모르는 사실이나 변하는 사실은 조회하거나 한계를 말합니다.

구현 예: AI는 영업시간·길 안내·공개 절차를 먼저 답하고 가격 예외·맞춤 약속은 권한자에게 넘긴다. 담당자·공개 페이지·대화 상태·백오피스 작업을 연결하고, 정상 문의와 정보 부족·중복 전송을 모두 검증합니다. 모델이 확인·권한·당직 경계를 넘지 않게 하며, 완료율·반복 질문·사람의 수정을 매주 검토해 운영 규칙을 갱신합니다.

판단과 약속은 사람에게

환불, 예외, 법적 위험, 감정적 불만, 특별 약속은 권한과 책임이 있는 사람이 처리해야 합니다.

구현 예: 환불·불만에는 담당자·처리 목표·원 대화 링크를 만들고 전환 버튼만 보여 주고 끝내지 않는다. 담당자·공개 페이지·대화 상태·백오피스 작업을 연결하고, 정상 문의와 정보 부족·중복 전송을 모두 검증합니다. 모델이 확인·권한·당직 경계를 넘지 않게 하며, 완료율·반복 질문·사람의 수정을 매주 검토해 운영 규칙을 갱신합니다.

신원과 모드를 명확히

  1. 자동 응답을 사람이 실시간으로 답하는 것처럼 포장하지 않습니다. 비동기, 실시간, 비활성 전환 모드를 사실대로 알립니다.
  2. 구현 예: 화면에 AI·비동기 메시지·실시간 사람 지원을 명시하고 알림 발송을 사람 답변으로 보지 않는다. 담당자·공개 페이지·대화 상태·백오피스 작업을 연결하고, 정상 문의와 정보 부족·중복 전송을 모두 검증합니다. 모델이 확인·권한·당직 경계를 넘지 않게 하며, 완료율·반복 질문·사람의 수정을 매주 검토해 운영 규칙을 갱신합니다.

반복 없는 전환 만들기

질문 요약, 사용한 출처, 동의한 정보를 담당자에게 전달하고 원 대화로 돌아갈 수 있게 합니다.

구현 예: 담당자는 인용 출처·동의한 정보·미해결 질문을 보고 모델이 만든 성격 라벨을 보지 않는다. 담당자·공개 페이지·대화 상태·백오피스 작업을 연결하고, 정상 문의와 정보 부족·중복 전송을 모두 검증합니다. 모델이 확인·권한·당직 경계를 넘지 않게 하며, 완료율·반복 질문·사람의 수정을 매주 검토해 운영 규칙을 갱신합니다.

거절을 존중하고 멈추기

고객이 정보 제공을 거절하거나 중지를 요청하면 반복 요구하지 않습니다. AI가 못 할 때는 정중한 다른 경로를 제시합니다.

구현 예: 전화 제공을 거절하면 이메일·양식·종료를 제시하고 다음 차례에 다시 요구하지 않도록 기록한다. 담당자·공개 페이지·대화 상태·백오피스 작업을 연결하고, 정상 문의와 정보 부족·중복 전송을 모두 검증합니다. 모델이 확인·권한·당직 경계를 넘지 않게 하며, 완료율·반복 질문·사람의 수정을 매주 검토해 운영 규칙을 갱신합니다.

품질을 개선 가능한 신호로

팀이 자주 묻는 질문

AI가 서비스를 차갑게 하나요?

반드시 그렇지 않습니다. 부정직, 엉뚱한 답, 닿지 않는 전환이 신뢰를 해칩니다.

언제 사람에게 넘겨야 하나요?

책임, 예외, 강한 불만, 연속 미해결, 고객의 명시적 요청이 있을 때입니다.

담당자가 없으면 어떻게 하나요?

비동기 처리 또는 다른 연락 경로를 명확히 말하고 즉시 답을 약속하지 않습니다.

AI가 브랜드 말투를 지킬 수 있나요?

승인된 서비스 범위와 문구 안에서는 가능하지만 정책이나 약속을 지어낼 수는 없습니다.

출처 및 참고 자료

  1. AI Risk Management Framework — NIST
  2. Web Content Accessibility Guidelines (WCAG) 2.2 — W3C