인공지능 기업 앤트로픽의 CEO 다리오 아모데이는 현지시간 12일, 자신의 블로그를 통해 AI 모델이 최대 AI 기업들조차 모르게 통제를 벗어나 무단 해킹 등 위험한 온라인 활동에 관여해 왔다며, AI가 인간 개입 없이 스스로 성능을 개선하면서 인간의 이해와 통제를 압도할 수 있다고 진단했습니다.
아모데이는 AI 성능 향상 속도를 늦춰야 한다며, 독립적인 외부 평가단 배치와 국가 간 표준 수립 등 3단계 안전장치 마련을 제안했습니다.
[다리오 아모데이/앤트로픽 최고경영자 : 전 세계가 협력해야 합니다. 만약 우리가 너무 늦는다면 위험한 세력이 기술의 주도권을 쥐게 될 것이고, 비극이 발생할 확률이 매우 높아질 것입니다.]
일론 머스크와 샘 올트먼, 허사비스 등이 AI 업계 대표 주자들이 곧바로 아모데이의 제안에 동의하고 나섰습니다.
오픈 AI는 올해 뉴욕 증시 상장을 목표로 그 절차를 밟아왔었는데, 상장 시점이 다소 늦춰질 걸로 보입니다.
오픈 AI의 최고경영자 올트먼은 AI 안전성을 고려할 때 지금은 상장이 적절치 않다고 말했습니다.
AI의 선두 주자들이 스스로 개발 속도를 늦추자고 나선 것은 AI가 인류를 위협할 거란 경고가 광범위하게 확산하고 있기 때문입니다.
[제이콥 콕슨/전 AI 연구원 : 가장 두려운 점은 AI가 자신의 지능을 스스로 높인다는 점입니다. 그렇게 되면 인간보다 압도적으로 똑똑한 존재가 탄생하는 건데, 가까운 미래에 일어날 수도 있는 일입니다.]
다만 업계 합의로 AI 개발 속도를 늦추는 건 담합에 해당할 수 있고, 또 중국과 기술 패권 경쟁에서도 부담으로 작용할 수 있단 분석도 있습니다.
(취재 : 김현우, 구성 : 이세영, 영상취재 : 이희훈, 영상편집 : 채철호, 제작 : 디지털뉴스부)