[자막뉴스] 역대급 'AI 에이전트'의 충격 진실…"AI 하청 받는 인간" 등장에 '발칵'

메타가 최근 내놓은 개인용 AI 에이전트 '뮤즈'는 이용자를 대신해 직접 전화를 걸고 업무까지 처리해주는 기능을 내세웠습니다.

그런데 이 AI가 건다는 전화 일부를 실제로는 인간 즉, 외부 계약직 직원이 대신 처리하도록 시험한 사실이 드러났습니다.

로이터통신이 입수한 메타 내부 게시물에 따르면, 메타는 최근 뮤즈의 일부 전화 업무를 훈련받은 인간 상담원에게 넘기는 이른바 '휴먼 컨시어지' 기능을 직원들을 대상으로 시험했습니다.

뮤즈는 이메일을 보내고, 쇼핑과 여행 예약 등을 자율적으로 수행하도록 설계된 AI 에이전트입니다.

최근에는 미국 내 업체에 직접 전화를 걸어 미용실을 예약하거나, 상품 재고를 확인하고 여러 업체의 가격 견적까지 받는 전화 기능도 내놨습니다.

하지만 상대방이 AI라는 사실을 알게 되면 아예 전화를 끊어버리는 경우가 발생하는 문제가 생겼습니다.

한 직원은 뮤즈를 통해 보험회사에 전화를 걸었지만 상대방이 AI라는 말을 듣자 계속 통화를 끊었다고 보고했습니다.

메타는 이런 문제를 해결하기 위해 지난주 전체 직원의 절반을 대상으로 '휴먼 컨시어지' 기능을 활성화했습니다.

AI가 처리하기 어려운 전화를 외부 계약직 상담원에게 넘기고, 상담원이 직접 전화를 걸어 업무를 처리하도록 한 겁니다.

사람이 직접 전화할 경우 업무 성공률은 95~98%까지 올라갔다고 메타 측은 밝혔습니다.

하지만 이번에는 개인정보 문제가 불거졌습니다.

이용자의 민감한 정보가 의도치 않게 외부 콜센터 직원에게 전달될 수 있다는 지적이 나온 겁니다.

한 직원은 버그 하나만 생겨도 불필요한 개인정보가 인간 상담원에게 노출될 수 있다고 우려했습니다.

실제 문제 사례도 나왔습니다.

한 직원이 인터넷·케이블 업체와 요금 협상을 요청했는데, 통화를 대신한 인간 상담원이 인종과 관련한 부적절한 발언을 한 것으로 내부에서 신고됐습니다.

메타 슈퍼인텔리전스랩 측 임원진은 사람이 대신 전화할 수 있다는 사실을 제대로 알리지 않고 시험을 시작한 것은 실수였다고 인정했습니다.

메타는 결국 휴먼 컨시어지 기능을 철회했지만 인간 상담원을 활용하는 방식 자체를 완전히 폐기한 것은 아닙니다.

메타는 적절한 고지와 개인정보 보호 장치를 마련한 뒤 관련 기능을 출시하겠다는 입장입니다.

(취재 : 김민정, 영상편집 : 안준혁, 디자인 : 양혜민, 제작 : 디지털뉴스부)