기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
생성형 AI를 사용하여 Connect Customer에서 에이전트 성능 평가
참고
Amazon Bedrock 기반:자동 침해 탐지 AWS 를 구현합니다. 대화형 분석의 생성형 AI 기능은 Amazon Bedrock을 기반으로 구축되므로 사용자는 Amazon Bedrock에 구현된 제어를 최대한 활용하여 안전, 보안 및 인공 지능(AI)의 책임 있는 사용을 적용할 수 있습니다.
관리자는 자연어로 평가 기준을 지정하고 생성형 AI를 사용하여 고객 상호 작용의 최대 100%에 대한 평가를 자동화할 수 있습니다. 생성형 AI를 사용하면 추가 에이전트 동작(예: 에이전트가 고객의 문제를 해결할 수 있었나요?)에 대한 평가를 자동화하여 관리자가 규제 준수, 에이전트의 품질 표준 준수 및 민감한 데이터 수집을 포괄적으로 모니터링하고 개선하는 동시에 에이전트 성능 평가에 소요되는 시간을 줄일 수 있습니다. 답변과 함께 컨텍스트 및 정당화, 에이전트 코칭을 제공하는 데 사용할 수 있는 트랜스크립트의 특정 사항에 대한 참조도 제공됩니다.
생성형 AI를 사용하여 관리자가 평가를 채우도록 지원하거나 이를 사용하여 평가를 자동으로 채우고 제출할 수 있습니다. 자동 평가 설정에 대한 자세한 내용은 6단계: 자동 평가 활성화 섹션을 참조하세요.
평가 질문은 질문 제목과 각 질문과 연결된 평가자 지침에 명시된 평가 기준을 해석하고, 이를 사용하여 대화 내용을 분석하는 생성형 AI를 사용하여 답변됩니다. 자세한 내용은 2단계: 섹션 및 질문 추가 단원을 참조하십시오.
생성형 AI를 사용하여 평가를 자동화하는 프로세스
다음은 자동화 프로세스의 개요입니다.
-
생성형 AI 정확도 개선을 위한 지침을 읽고 생성형 AI로 답변해야 하는 평가 질문을 개괄적으로 이해하세요.
-
품질 관리 팀 내에서 Ask AI 어시스턴트를 사용할 사용자를 선택할 수 있는 권한을 할당합니다. 이러한 사용자는 평가를 수행하는 동안 각 질문 옆에 AI 질문 버튼이 표시되기 시작하고 이를 사용하여 답변 추천을 받을 수 있습니다. 이러한 사용자는 생성형 AI를 사용하여 정확한 답변을 수신하는 질문에 대한 피드백을 제공할 수 있습니다. 자세한 내용은 성능 평가 및 코칭을 위한 보안 프로필 권한 할당 단원을 참조하십시오.
-
정확도를 높이기 위해 평가자 대상 지침 내에 추가 평가 기준을 제공할 수 있습니다. 자세한 내용은 생성형 AI 정확도 개선을 위한 지침 단원을 참조하십시오.
-
생성형 AI로 정확하게 답변할 수 있는 질문을 잘 이해한 후에는 질문이 생성형 AI를 사용하여 자동 답변을 받을지 여부에 관계없이 평가 양식을 미리 구성하여 더 광범위한 롤아웃을 수행할 수 있습니다.
-
자동화를 설정하면 평가 양식을 사용하여 평가를 수행하는 모든 사용자는 미리 구성된 질문에 대한 자동 생성형 AI 답변을 받게 됩니다(추가 권한 필요 없음). 자세한 내용은 6단계: 자동 평가 활성화 단원을 참조하십시오.
-
제출 전에 평가자가 생성형 AI 답변을 먼저 검토하도록 자동화를 설정하거나 평가를 자동으로 작성하고 제출할 수 있습니다.
참고
AI 생성 평가는 100% 정확하지 않습니다. AI 출력(예: 보상 제공, 에이전트 코칭 등)에 대한 조치를 취하기 전에 평가 샘플을 검토하는 것이 좋습니다. 이를 통해 AI가 제공하는 성능 추세를 확인할 수 있습니다. 에이전트와 공유하거나 성능 검토에 사용하기 전에 AI로 채워진 평가를 재정의하고 수정할 수 있습니다. 또한 수동 평가 프로세스를 유지하는 것이 좋습니다. 이를 통해 시간 경과에 따라 AI로 채워진 평가와 관리자로 채워진 평가 간의 드리프트를 포착할 수 있습니다.
생성형 AI 기반 성능 평가의 제한 사항
트랜스크립션 정확도는 생성형 AI 기반 평가의 정확도에 영향을 미칩니다.는 둘 이상의 언어를 포함하는 대화를 정확하게 트랜스크립션할 Conversational analytics 수 없습니다. 또한 여러 당사자가 동시에 말하는 대화를 정확하게 트랜스크립션할 수 없습니다. 예를 들어 회의 통화, 웜 전송, 에이전트가 타사를 추가하는 통화 등이 있습니다. 두 시나리오 모두 생성형 AI 기반 성능 평가의 정확도를 낮춥니다.
규칙을 사용하여 특정 대기열의 대화와 같이 이러한 시나리오가 발생할 것으로 예상되는 대화를 필터링할 수 있습니다. 자세한 내용은 대화형 분석에서 자동 평가를 제출하는 규칙 생성 단원을 참조하십시오.
Ask AI를 사용하여 생성형 AI 답변 권장 사항 가져오기
-
평가를 수행하고 AI 어시스턴트에 요청할 권한이 있는 사용자 계정으로 Connect Customer에 로그인합니다.
-
질문 아래의 AI에게 질문하기 버튼을 선택하여 컨텍스트 및 정당성(답변을 제공하는 데 사용된 트랜스크립트의 참조 사항)과 함께 답변에 대한 생성형 AI 기반 추천을 받습니다.
-
생성형 AI 권장 사항에 따라 답변이 자동으로 선택되지만 변경할 수 있습니다.
-
고객 응대당 최대 10개의 질문을 AI에 요청하기를 선택하여 생성형 AI 기반 추천을 받을 수 있습니다. 자세한 내용은 대화 분석 서비스 할당량 단원을 참조하십시오.
-
-
대화의 특정 시점으로 이동할 트랜스크립트 참조와 연결된 시간을 선택할 수 있습니다.
생성형 AI를 사용하여 평가 양식 질문에 답변하기 위한 추가 기준을 제공합니다.
평가 양식을 구성하는 동안 각 평가 양식 질문과 연결된 평가자에 대한 지침 내에서 질문에 답변하기 위한 기준을 제공할 수 있습니다. 평가자의 평가 일관성을 높이는 것 외에도 이 지침은 생성형 AI 기반 평가를 제공하는 데도 사용됩니다.
AI 답변 매핑 및 점수
AI가 제공된 답변 옵션 중 적절한 옵션을 식별할 수 없는 경우 질문이 선택 사항이 아니더라도 해당 없음을 선택합니다. 이 경우 질문은 점수에서 제외되고 가중치는 다른 질문으로 재배포됩니다. 이를 방지하려면 질문에 대한 평가자 지침의 각 답변 옵션을 명확하게 설명하세요. 자세한 내용은 생성형 AI 정확도 개선을 위한 지침 단원을 참조하십시오.
평가 양식에서 생성형 AI를 사용하여 자동 평가 설정
생성형 AI를 사용하여 질문에 자동으로 응답할지 여부를 평가 양식에서 사전 구성할 수 있습니다. 그런 다음 Connect Customer UI의 평가 양식을 사용하여 평가를 시작하면 생성형 AI를 사용하여 이러한 질문에 대한 답변이 자동으로 채워집니다(AI 질문 선택 필요 없음). 생성형 AI를 사용하여 평가를 자동으로 채우고 제출할 수도 있습니다. 자동으로 제출된 평가의 경우 생성형 AI를 사용하여 고객 응대당 최대 10개의 질문에 답변할 수 있습니다(대화 분석 서비스 할당량 참조). 이 제한은 고객 응대 범주 또는 지표(예: 가장 긴 대기 기간)를 사용하는 자동화에는 적용되지 않습니다.
생성형 AI를 사용하여 자동 평가를 설정하는 방법에 대한 자세한 내용은 생성형 AI 정확도 개선을 위한 지침 섹션을 참조하세요.
영어 이외의 언어로 생성형 AI 기반 평가 설정
기본적으로 평가 양식의 언어를 설정하지 않으면 생성형 AI 모델은 평가 양식 질문의 언어를 자동으로 감지하고 AI 모델이 해당 언어를 이해하면 동일한 언어로 답변을 제공하려고 시도합니다. 기본적으로 생성형 AI 답변 근거는 일반적으로 영어로 제공됩니다.
원하는 언어로 AI 생성 답변과 답변 정당화를 모두 일관되게 수신하려면 영어, 스페인어, 포르투갈어, 프랑스어, 독일어, 이탈리아어, 중국어, 일본어, 한국어, 말레이어 중에서 선택하여 평가 양식의 언어를 설정할 수 있습니다. 평가 언어를 명시적으로 설정하면 대화 트랜스크립트가 스페인어와 같은 다른 언어로 되어 있더라도 생성형 AI가 평가 양식을 영어로 작성하는 언어 간 평가를 수행할 수도 있습니다. 이를 통해 다국어 고객 센터는 여러 언어에 걸쳐 표준화된 평가 프레임워크를 사용할 수 있습니다.
평가 양식의 언어를 설정하려면:
-
평가 양식을 생성하거나 업데이트하는 동안 추가 설정 탭을 선택합니다.
-
드롭다운에서 양식 언어를 선택합니다.
-
최적의 AI 성능을 위해 양식의 질문, 지침 및 답변 선택이 선택한 양식 언어와 동일한 언어인지 확인합니다.
생성형 AI 정확도 개선을 위한 지침
생성형 AI에서 답변할 질문 선택
해야 할 일
-
생성형 AI를 사용하여 대화 기록만 필요한 질문에 답합니다. 소프트 스킬에 대한 질문, 통화 흐름을 확인하는 질문 또는 규정 준수 문이 그 예입니다.
-
복잡한 질문을 더 간단한 여러 질문으로 분할합니다. 예를 들어 "에이전트가 능동적인 듣기를 보였나요?" 대신 "에이전트가 처음으로 고객의 문제를 이해했나요?"라는 두 가지 질문을 합니다. 및 "고객이 문제를 설명한 후 에이전트가 문제를 요약했나요?".
-
조건부로 활성화된 질문을 사용하여 특정 상황에서만 적용할 수 있는 질문을 활성화하거나 비활성화합니다. 예를 들어 '고객이 대화 중에 제품을 구매했나요?'라는 질문과 '판매를 완료하기 전에 에이전트가 필수 요금 공개를 제공했나요?'라는 조건부로 활성화된 후속 질문이 있을 수 있습니다. 자세한 내용은 4단계: 조건부로 질문 활성화 섹션을 참조하세요.
하지 말아야 할 일
-
생성형 AI를 사용하여 대화 기록 외부에 정보가 필요한 질문에 답변하지 마세요. 생성형 AI는 화면 녹화를 분석하거나, CRM 애플리케이션과 같은 내부 또는 타사 시스템에 액세스하거나, 여러 고객 응대 간의 대화를 평가할 수 없습니다.
-
생성형 AI를 사용하여 “고객이 과도한 보류를 했나요?”와 같은 정량화 가능한 활동을 평가하지 마세요. 또는 "고객이 자주 중단되었습니까?". 대신 질문 유형을 숫자로 설정하고 가장 긴 대기 기간 또는 중단 횟수와 같은 지표를 사용합니다. 자세한 내용은 6단계: 자동 평가 활성화 섹션을 참조하세요.
-
여러 당사자(다른 에이전트, 파트너 기관 또는 두 번째 고객) 간의 상호 작용을 평가하는 질문을 자동화하지 마세요. 대화 분석은 한 번에 두 명의 참가자만 인식합니다. 예를 들어 "기본 계정 소유자 이외의 다른 사람이 대화에 참여한 경우 에이전트가 진행하기 전에 먼저 기본 계정 소유자에게 확인했나요?"와 같은 질문을 피합니다.
-
어조에 따라 질문하지 마세요. 생성형 AI는 에이전트 또는 고객의 어조를 확인할 수 없습니다.
-
“상담 중에 에이전트가 주의를 기울였나요?”와 같은 주관적인 질문에는 생성형 AI를 사용하지 마세요.
질문 및 관련 지침 표현 개선
해야 할 일
-
질문을 완전한 문장으로 표현합니다. “ID 검증” 대신 “에이전트가 고객의 자격 증명을 검증하려고 했나요?”라고 질문합니다.
-
질문에 대한 평가자 지침에서 자세한 평가 기준을 추가합니다. “에이전트가 고객의 자격 증명을 검증하려고 했나요?”에 지침을 추가합니다. 에이전트가 질문을 해결하기 전에 고객의 멤버십 번호와 우편 번호를 요청한 경우 답변은 예입니다. 그렇지 않으면 답은 아니요입니다.
-
질문이 의존하는 비즈니스별 용어를 정의합니다. 에이전트가 인사말에서 부서 이름을 지정해야 하는 경우 지침에 부서 이름 예제를 나열합니다.
-
"에이전트"와 "고객"을 일관되게 사용합니다. "동료", "대표" 또는 "연결", "멤버", "콜러" 또는 "구독자"와 같은 변형을 피합니다.
-
누가 평가되고 있는지 명확히 합니다. “에이전트가 비속어 사용을 피했나요?” 는 욕설이 어디에서 발생했는지 묻는 것으로 읽을 수 있으며, 고객만 욕설을 사용했더라도 "아니요"를 반환합니다. "에이전트가 비속어를 사용했나요?"라고 질문합니다. 대신.
-
질문을 긍정적으로 표현합니다. “에이전트가 고객에게 인사했나요?”를 사용합니다. "에이전트가 인사말을 건너뛰었습니까?" 대신. 질문을 긍정적으로 표현하면 AI 평가 추론 및 참조가 향상됩니다.
-
답변이 해당 없음(해당 사항 없음)인 경우를 지정합니다. 예: 통화로 인해 전송이 발생한 경우 응답은 N/A입니다.
-
평가자에게 보내는 지침에서 AI가 각 답변 옵션을 선택해야 하는 시기를 설명합니다. "에이전트가 해결 기간을 제공했나요?"에 다음 지침을 추가합니다. 에이전트가 해결 기간을 제공한 경우 답변은 예, 그렇지 않으면 아니요. 각 옵션을 설명하지 않으면 질문이 선택 사항이 아니더라도 AI가 해당 없음을 선택할 수 있습니다.
-
지정된 에이전트 동작의 전부 또는 일부가 필요한지 명확히 합니다. 에이전트가 이름을 요청했지만 전화번호를 요청하지 않은 경우 “에이전트는 고객의 이름과 전화번호를 요청해야 합니다.”가 실패합니다.
-
표준 통화 흐름뿐만 아니라 비표준 시나리오에 대한 예를 포함합니다. 에이전트가 표준 통화에서 "일반적으로 3~5영업일이 걸립니다"라고 말할 것으로 예상되는 경우 "업데이트를 통해 30분 이내에 다시 전화하겠습니다"와 같은 콜백 문구도 포함해야 합니다. Standard-flow-only 예제에서는 콜백, 에스컬레이션 및 전송에 대한 응답이 일관되지 않습니다.
-
한 가지 실패 답변은 전체 양식의 평가 점수에 영향을 미치므로 자동 실패 질문에 가장 주의를 기울이세요. 엣지 케이스 및 비표준 시나리오를 다룹니다. 점수에 대한 자세한 내용은 단원을 참조하십시오5단계: 답변에 점수 및 범위 할당.
하지 말아야 할 일
-
정확한 문구가 필요하지 않은 한 큰따옴표를 사용하지 마세요. 명령이를 확인하는 경우
"Have a nice day"AI가 일치하지 않습니다. 좋은 오후를 보내세요. 대신 쓰기:The agent wished the customer a nice day. -
두문자어를 사용하지 마세요. AI가 올바르게 해석할 수 있도록 “CFPB”와 같은 전체 용어를 작성합니다.
-
트랜스크립트에서 철자가 잘못될 가능성이 있는 적절한 명사를 사용하지 마세요. Klarity Pay와 같은 제품 이름은 다르게 트랜스크립션되어 일치를 방지할 수 있습니다.
-
모호한 질문은 사용하지 마세요. “에이전트가 적절한 언어를 사용했나요?” 대신 “에이전트가 비속어를 사용했나요?”라고 질문합니다.
-
긴 축약 스크립트를 사용하지 마세요. 사소한 트랜스크립션 차이로 인해 전체 스크립트가 손상되므로
"Thank you for calling ABC Bank. How may I assist you?"거의 일치하지 않는지 확인합니다.
응답 옵션 개선
해야 할 일
-
예, 아니요, 부분과 같은 간단하고 짧은 응답 옵션을 사용합니다.
-
질문이 적용되지 않을 수 있는 경우 선택적 질문 설정을 활성화합니다. 이렇게 하면 평가자가 질문을 건너뛰거나 해당 없음으로 표시할 수 있습니다.
하지 말아야 할 일
-
답변 옵션에는 철자 오류나 특수 문자를 사용하지 마세요. 생성형 AI 답변의 정확도가 떨어질 수 있습니다.
-
너무 많은 응답 옵션을 사용하지 마세요. "고객 경험은 어떠했나요?"에서 좋음, 좋음, 좋음, 나쁨, 매우 나쁨, 끔찍함과 같은 긴 목록은 정확도를 떨어뜨립니다. 대신 더 작은 개별 옵션 세트를 사용합니다.
-
생성형 AI 모델이 응답 옵션을 잘못 재현할 수 있으므로 응답 옵션에 긴 텍스트를 사용하지 마세요.
지침에 따른 구현 예제
다음 예제에서는 이러한 지침을 따르는 생성형 AI 응답 질문을 보여줍니다. 질문 제목은 완전한 문장이며, 평가자에 대한 지침은 각 답변 옵션을 정의하고 해당 사항 없음 시나리오를 설명하며, 답변 옵션은 짧습니다.