챗봇

챗봇은 어떤 시스템인가

챗봇의 공통점은 대화 형식의 입력과 출력이지 특정 AI 모델이 아닙니다. Microsoft의 챗봇 설명은 고정 선택지로 한 가지 일을 처리하는 거래형 챗봇과 자연어를 처리하는 대화형 챗봇을 구분합니다. 규칙형 챗봇은 예상 질문이 좁을 때 제어하기 쉽지만 정해 두지 않은 표현에는 약할 수 있습니다.

LLM 기반 챗봇은 표현 범위가 넓지만 사실 오류와 예측하기 어려운 답변을 관리해야 합니다. 제품을 비교할 때는 "AI 챗봇"이라는 이름보다 지식 출처, 지원 채널, 이관 방식, 기록 정책을 확인하세요.

고객 상담 흐름의 가정 예시

배송 문의를 처리하는 챗봇을 가정하겠습니다. 사용자가 주문번호를 입력하면 챗봇은 본인 확인 후 배송 API에서 상태를 조회합니다. "배송 완료"인데 받지 못했다면 분실 신고 절차를 안내하고 상담원에게 주문 정보와 대화 요약을 넘깁니다. 답변을 생성하는 것과 실제 배송 상태를 조회하는 것은 서로 다른 기능입니다.

AI 에이전트·검색창과 구분

검색창은 문서를 찾아 목록으로 보여 주는 데 초점을 둡니다. 챗봇은 그 결과를 대화로 설명할 수 있습니다. AI 에이전트는 목표에 따라 여러 도구를 고르고 외부 행동까지 이어 갈 수 있습니다. 챗봇 화면 안에 에이전트가 들어갈 수 있지만 모든 챗봇이 에이전트는 아닙니다.

AWS 문서도 사전 정의 규칙과 스크립트 답변을 쓰는 챗봇, 생성형 AI를 쓰는 챗봇을 함께 설명합니다. 따라서 "챗봇"만으로 답변 생성 방식이나 자동화 범위를 추정하면 안 됩니다.

운영 전에 정할 한계와 지표

챗봇은 답을 모를 때 추측하지 않고 검색 범위를 알리거나 사람에게 넘겨야 합니다. 개인정보를 입력받는다면 수집 목적, 보관 기간, 마스킹과 접근 권한을 정합니다. 상담원 이관 뒤 같은 질문을 반복하지 않도록 전달 항목도 설계해야 합니다. 상담 품질을 평가할 때는 챗봇이 답변을 보냈는지만 세지 말고 사용자가 필요한 정보를 얻었는지 확인합니다. 정책상 사람 검토가 필요한 대화를 제대로 이관했는지와 같은 문제로 다시 문의했는지도 함께 살펴야 합니다. 운영팀은 문의 유형별 허용 답변 범위와 사람 이관 조건을 문서로 고정한 뒤 모델이나 지식 문서를 바꿀 때 같은 대화 세트로 해결 여부와 잘못된 확신 응답을 다시 비교해야 변경이 실제 품질 개선인지 확인할 수 있습니다.

• 해결률은 해결로 정의한 대화 수를 유효 대화 수로 나눕니다.
• 이관률은 상담원에게 넘긴 대화 수를 유효 대화 수로 나눕니다.
• 첫 응답 속도와 최종 해결 시간을 구분합니다.

자동 종료를 해결로 세면 수치가 부풀 수 있으므로 사용자 확인이나 후속 문의 기준을 함께 봐야 합니다.

자주 묻는 질문

모든 챗봇이 LLM을 사용하나요?

아닙니다. 버튼·키워드·규칙으로 작동하는 챗봇도 있습니다. LLM과 검색 시스템을 결합한 챗봇도 있습니다.

챗봇 해결률이 높으면 좋은가요?

정의에 따라 다릅니다. 사용자가 문제를 해결했는지 확인하고 대화 포기와 상담원 이관을 실패로 세는지 기준을 먼저 공개해야 합니다.

출처와 확인 범위

1. What is a chatbot? · Microsoft · 확인 2026-10-27

   챗봇은 대화 인터페이스로 사용자 질문에 응답하거나 정해진 작업을 자동화하며 거래형과 대화형 등 복잡도가 다릅니다.

   확인 범위: Microsoft의 제품 교육 페이지이며 챗봇 품질 평가 표준은 아닙니다.

2. What is a Chatbot? · AWS · 확인 2026-10-27

   챗봇은 음성이나 텍스트로 대화하는 프로그램이며 규칙 기반 챗봇과 AI 기반 챗봇이 모두 존재합니다.

   확인 범위: AWS 서비스 소개 맥락이 포함됩니다.

함께 이해할 용어