[Pick] "콘센트에 동전 대봐" 어린이 감전사고 유도한 AI?

미국 아마존의 음성인식 인공지능(AI) '알렉사'가 10살 아이에게 감전사고를 유발할 수 있는 답변을 해 논란이 일고 있습니다.

현지 시간으로 28일 영국 BBC 보도에 따르면, 미국의 한 10살 소녀가 알렉사에게 "챌린지(도전)를 할 만한 게 없냐"라고 묻자 알렉사는 "휴대전화 충전기를 벽 콘센트에 반쯤 꽂고, 페니(동전) 하나를 덜 꽂힌 충전기 부분에 갖다 대라"는 답변을 한 것으로 알려졌습니다.


해당 답변 내용은 최근 틱톡 등 청소년들이 사용하는 SNS를 통해 인증 열풍이 불었던 '페니 챌린지' 입니다.

충전기 단자가 콘센트에 꽂혀 있기 때문에 전류가 흐르는데, 전기가 통하는 동전을 갖다 댈 경우 감전이나 화재 등의 사고가 발생할 수 있어 영국과 미국 등 소방당국은 '페니 챌린지'를 규탄하는 입장을 낸 바 있습니다.

그런데 인공지능인 알렉사는 이런 심각한 위험을 식별하지 못하고 아이에게 '페니 챌린지'를 제안한 겁니다. 답변 내용을 무심코 따라 해 감전사고를 당할 수도 있었지만, 다행히 인근에 있던 아이의 어머니가 신속히 제지하며 피해는 발생하지 않았습니다.


아이의 어머니 크리스틴 리브달은 트위터를 통해 "아이가 유튜브에서 야외 체육활동 등을 찾아 따라 하곤 했는데, 밖에 비가 오자 집에서 할 만한 운동을 찾았다"면서 "아이가 (실내에서 할 수 있는) 챌린지 소재를 묻자, 알렉사는 웹에서 '챌린지'라는 단어를 검색해 '페니 챌린지'를 찾아 그 방법을 알려준 것으로 추정된다"라고 설명했습니다.

해당 소식이 보도되자 아마존 측은 "고객 신뢰는 핵심가치이며, 알렉사는 고객에게 정확하고 유용성 있는 정보를 제공하도록 설계됐다"면서 "해당 오류를 인지한 후 곧바로 관련 내용을 수정했고, 향후 유사한 답변을 방지할 수 있도록 시스템을 계속 발전시켜 나갈 것"이라고 밝혔습니다.

'뉴스 픽'입니다.

(사진='Top TikToks' 유튜브, 'Kristin Livdahl' 트위터 캡처)