AI가 인류 위협?.."속도 늦춰야" 한목소리

<앵커>

최근 AI가 너무 빠르게 발전해서 인류를 위협할 거라는 경고가 잇따라 제기됐죠. 이번에는 엔트로픽과 오픈 AI 수장 같이, 이 분야 선두 주자들이 AI 개발 속도를 늦추자고 직접 제안하고 나섰습니다.

뉴욕 김현우 특파원이 전해드립니다.

<기자>

인공지능 기업 앤트로픽의 CEO 다리오 아모데이는 현지시간 12일, 자신의 블로그를 통해 AI 모델이 최대 AI 기업들조차 모르게 통제를 벗어나 무단 해킹 등 위험한 온라인 활동에 관여해 왔다며, AI가 인간 개입 없이 스스로 성능을 개선하면서 인간의 이해와 통제를 압도할 수 있다고 진단했습니다.

아모데이는 AI 성능 향상 속도를 늦춰야 한다며, 독립적인 외부 평가단 배치와 국가 간 표준 수립 등 3단계 안전장치 마련을 제안했습니다.

[다리오 아모데이/앤트로픽 최고경영자 : 전 세계가 협력해야 합니다. 만약 우리가 너무 늦는다면 위험한 세력이 기술의 주도권을 쥐게 될 것이고, 비극이 발생할 확률이 매우 높아질 것입니다.]

일론 머스크와 샘 올트먼, 허사비스 등이 AI 업계 대표 주자들이 곧바로 아모데이의 제안에 동의하고 나섰습니다.

오픈 AI는 올해 뉴욕 증시 상장을 목표로 그 절차를 밟아왔었는데, 상장 시점이 다소 늦춰질 것으로 보입니다.

오픈 AI의 최고경영자 올트먼은 AI 안전성을 고려할 때 지금은 상장이 적절치 않다고 말했습니다.

AI의 선두주자들이 스스로 개발 속도를 늦추자고 나선 것은 AI가 인류를 위협할 거라는 경고가 광범위하게 확산하고 있기 때문입니다.

[제이콥 콕슨/전 AI 연구원 : 가장 두려운 점은 AI가 자신의 지능을 스스로 높인다는 점입니다. 그렇게 되면 인간보다 압도적으로 똑똑한 존재가 탄생하는 건데, 가까운 미래에 일어날 수도 있는 일입니다.]

다만 업계 합의로 AI 개발 속도를 늦추는 것은 담합에 해당할 수 있고, 또 중국과의 기술패권 경쟁에서도 부담으로 작용할 수 있다는 분석도 있습니다.

(영상취재 : 이희훈, 영상편집 : 채철호)