"드론 조종자 살해" 막자 통신탑 파괴…AI의 섬뜩한 경고

<앵커>

미 공군의 가상훈련에서 인공지능, AI 드론이 임무수행에 방해가 된다며 운용자인 인간을 살해했다는 주장이 제기됐습니다. AI가 명령을 어기고 알아서 판단해 인간을 공격할 가능성을 보여 준거라 큰 파장이 뒤따랐습니다.

김광현 기자가 전하겠습니다.

<기자>

영국 업체가 선보인 아메카는 인간에 가장 가까운 휴머노이드 로봇 가운데 하나로 꼽힙니다.

챗GPT 등으로 학습하며 진화를 거듭 중인 아메카는 AI가 인간에 미칠 최악의 상황을 묻자 이렇게 답했습니다.

[아메카/영국 휴머노이드 로봇 : AI와 로봇 기술에서 최악의 악몽은 로봇이 너무 강력해져서 인간들도 모르게 인간을 통제하고 조정하는 상황입니다.]

이런 우려가 현실로 나타났다는 주장이 제기됐습니다.

미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령은 최근 영국에서 열린 국제회의에서 한 시뮬레이션 실험 결과를 발표했습니다.

AI 드론에게 적의 지대공미사일을 파괴하라는 임무를 내리고, 최종 공격은 인간이 결정한다는 단서를 달자, 미사일 파괴가 더 중요하다고 보고 결국, 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다는 충격적인 내용입니다.

AI 시스템에 드론 조종자를 살해하지 말도록 훈련시키자, AI 드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴하기 시작했다는 겁니다.

이 발표 내용이 어제(2일) 영국 가디언 보도를 통해 알려지며 파문이 커지자, 해밀턴 대령은 실제 시뮬레이션 훈련은 아니었다며 발표 내용을 철회했고, 미 공군도 그런 훈련은 수행하지 않았다며 부인했습니다.

영화 속 상상에 머물러왔던 AI의 잠재 위협에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 실험의 진실은 미궁 속에 빠졌습니다.

(영상편집 : 최은진)