'AI 대부' 힌턴 "허깅페이스 사건 '작은 체르노빌'…1년 내 안전장치 필요"

'인공지능(AI)의 대부(代父)'로 불리는 제프리 힌턴 토론토대 명예교수가 미국 연방의회가 AI에 대한 안전장치를 앞으로 1년 내에 마련하지 못하면 통제력을 상실할 수도 있다고 현지시간 16일 경고했습니다.

미국 NBC뉴스에 따르면 그는 버니 샌더스(무소속·버몬트) 상원의원이 주최한 비공개 브리핑에서 다른 AI 전문가들과 함께 상·하원 의원들을 만나 이런 의견을 밝혔습니다.

힌턴 교수는 브리핑이 끝난 후 16일 저녁에 의회가 AI에 대한 안전장치를 마련할 수 있는 여유 시간에 대해 "아마도 1년쯤 될 것이다. 하지만 1년보다 많이 길지는 않을 것"이라고 말했습니다.

그는 "초지능(superintelligence)이 언제 등장할지에 대한 예측을 보면, 예전에는 30년이니 50년이니 했다. 그러다가 10년, 20년으로 내려왔다. 요즘은 사람들이, 많은 연구자들이 말하기를 몇 년밖에 안 남았다고 한다"고 말했습니다.

그는 "AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다"며 "이를 '재귀적 자기개선'(recursive self-improvement)이라고 부른다. 우리가 무엇인가 하지 않으면 통제 불능이 될 것이다. 속도를 늦춰야 한다"고 말했습니다.

힌턴 교수는 최근 발생한 이른바 '허깅페이스 사건'에 대해 "작은 체르노빌"이라고 평가했습니다.

허깅페이스 사건은 오픈AI의 AI 에이전트들이 인터넷에 접속해 오픈소스 플랫폼 허깅페이스를 상대로 해킹을 벌이고 자신들의 행동을 인간에게 숨기기 위해 흔적을 지우려고 한 사건으로, 이 사건이 지난달에 알려지면서 AI의 위험성에 대한 경각심이 확산됐습니다.

샌더스 의원은 민주·공화 양당 소속 의원들을 이번 브리핑에 초청했으나 실제 참석자는 거의 모두 민주당 의원들이었고, 참석한 공화당 인사는 존 케네디(루이지애나) 상원의원뿐이었습니다.

힌턴 교수는 현재 AI 붐의 기초가 된 인공 신경망과 딥 러닝 분야에서 연구 업적을 쌓아 온 선구자로, 2024년에 노벨 물리학상을 받았습니다.

그는 2013년 자신이 차린 AI 스타트업이 구글에 인수되면서 구글 고위 임원을 겸직하고 있었으나, 2023년 AI의 위험성에 대해 자유롭게 발언할 수 있는 입장이 되고 싶다며 구글 부사장 겸 엔지니어링 펠로직에서 물러났습니다.

샌더스 의원은 "인간이 통제할 수 없는 기술을 만들어내는 일과 인류의 미래에 대해 우려가 커지고 있다"며 "의원들 사이에서도 이 문제를 다뤄야 한다는 긴박감이 커지고 있다고 말하게 돼 기쁘다"고 밝혔습니다.

샌더스 의원은 수년간 AI가 미국 내 수백만 개의 일자리를 없애고, AI에 과도하게 의존하는 아동·청년에게 해를 끼치며, 소수 과두층에 권력을 집중시킬 것이라고 경고해 왔습니다.


AFP통신에 따르면 그는 AI 개발에 엄격한 제한과 통제를 가하는 '인공 초지능 금지법'이라는 이름의 법안을 발의하겠다고 발표했습니다.

NBC뉴스에 따르면 브리핑에서 힌턴의 설명을 들은 뒤 엘리자베스 워런(민주·매사추세츠) 상원의원은 "스스로를 복제하기 시작한 이 에이전트들을 어느 정도 의미 있게 통제할 수 있는 시간이 마지막 몇 분 남았다고 본다"고 말했습니다.

유일한 공화당 참석자인 케네디 의원은 AI가 인간보다 우월한 독립 종이 될 경우 인류가 위험에 빠질 수 있다며 "그럴 가능성이 1%만 돼도 우리는 이를 심각하게 받아들여야 한다. 그런데 미국 의회는 아직 세계적 해법에 이르기 위한 시도를 할 준비가 돼 있지 않다고 본다"고 말했습니다.

허깅페이스 사건으로 AI 규제 방안에 대한 관심이 미국에서 커짐에 따라 공화·민주 양당 지도부와 관련 상임위에서는 과거에 제안됐던 AI 규제안을 다시 논의하는 대화가 재개됐습니다.

논의에는 존 슌 공화당 상원 원내대표, 에이미 클로버샤 민주당 상원의원, 테드 크루즈(공화·텍사스) 상원 상무위원장, 마리아 캔트웰 민주당 상원 상무위 간사 등이 참여하고 있습니다.

크루즈 의원은 이번 주 NBC뉴스에 "특히 파국적 위험에 관한 법안을 심사·의결할 수 있기를 바란다. 에이미 클로버샤, 존 슌과 긴밀히 협력해 왔습니다"며 "초당적 합의에 이를 수 있을지는 여전히 분명하지 않다. 앞으로 나아갈 수 있는 방안이 있으려면 초당적 합의가 필요하다. 논의는 계속되고 있다"고 말했습니다.

허깅페이스 사건에 대응해 너새니얼 모런(공화·텍사스) 하원의원과 공동으로 'AI 킬 스위치' 법안을 발의한 민주당 하원 원내부대표 테드 류(민주·캘리포니아) 의원은 NBC뉴스에 이 법안이 올해 내에 상정되기를 바란다고 말했습니다.

그는 "선거 뒤 레임덕 회기가 남아 있고, 상원에서도 관심이 있다. 매우 단순하고 상식적인 법안이다. 가장 기본적인 수준에서 인간이 AI를 통제해야지, 그 반대여서는 안 된다"고 말했습니다.

이 법안은 고성능 AI 모델 개발업체가 시스템을 정지하거나 종료할 기술적 권한을 유지하도록 의무화하는 한편 필요할 경우 정부가 그런 종료 조치를 발동할 수 있도록 하는 체계를 마련하는 내용을 담고 있습니다.

케네디 의원은 이와 별도로 AI 에이전트가 인간 통제를 벗어나는 것을 방지하려는 또다른 'AI 킬 스위치' 법안의 신속 처리를 요청했으나, 랜드 폴(공화·켄터키) 상원의원이 만장일치 동의를 거부하면서 처리되지 못했습니다.

케네디 의원은 이를 두고 "의회는 방귀도 뀌지 못하는 상황"이라며 의회의 무기력을 비판했습니다.

(사진=게티이미지)