▲ 인공지능(AI)
소형 인공지능(AI) 모델도 이르면 올해 말 가정용 가전기기에 스스로를 복제하며 퍼지는 '컴퓨터 바이러스'처럼 작동할 수 있는 수준에 도달할 수 있다고 앤트로픽이 경고했습니다.
같은 날 앤트로픽의 공동창업자는 AI가 스스로를 개선하는 단계가 내년에 가능해질 수 있다며 전망 시점을 1년 앞당겼습니다.
앤트로픽은 12일(현지시간) 공개한 연구 보고서에서 "소형 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 같은 사물인터넷(IoT) 기기에서 자기복제를 할 만큼의 능력을 갖추기까지 몇 달밖에 남지 않았을 수 있다"고 밝혔습니다.
이렇게 스스로 복제하며 퍼지는 AI는 수많은 기기에 흩어져 작동하기 때문에 서버 몇 곳만 끄면 되는 일반 AI 서비스와 달리 한꺼번에 차단할 중앙 지점이 없어 멈추기 어렵다는 것이 앤트로픽의 설명입니다.
앤트로픽은 이를 'AI 웜(worm)'이라고 칭하며 세 단계 확인 실험을 했습니다.
먼저 개당 약 55달러(약 7만 5천 원) 짜리 저가 TV 박스 15대를 사서 연결한 뒤 구글의 AI 모델 '젬마4'를 나눠 설치했습니다.
속도는 느렸지만 AI는 작동했습니다.
두 번째로 AI가 처음 보는 기기에 다른 AI 모델을 스스로 설치해 작동시킬 수 있는지 시험했습니다.
매개변수 90억 개짜리 작은 AI 모델조차 시험한 기기 9종 가운데 8종에서 성공했습니다.
마지막으로 가상 기기 8대로 시험 네트워크를 만들고, 첫 기기에 심은 AI가 다른 기기를 찾아 들어가 AI를 설치하고 작동시키는 과정을 스스로 반복하게 했습니다.
5차례의 시험에서 중국 즈푸AI의 'GLM-5.2'만 4차례는 8대 전부, 1차례는 7대까지 옮겨 다니는 데 성공했습니다.
다만 GLM-5.2는 크기가 커서 외부 서버에서 지시를 내렸고, 기기 보안도 일부러 허술하게 설정한 상태였습니다.
앤트로픽은 아직 완전한 자기복제 AI는 없고 복제 확산 속도도 느릴 것이라고 인정하면서도 소형 모델도 현 발전 추세대로라면 올해 말 GLM-5.2 수준에 도달해 기기 안에서 직접 자기복제하는 것이 가능해질 수 있다고 내다봤습니다.
앤트로픽은 여러 종류의 AI가 다양한 기기와 복제 방식을 섞어 쓰는 '무리' 형태가 현실적인 최악의 시나리오라고 설명했습니다.
그러면서 실험 범위를 넘어선 예측이라는 전제로 "인간 통제 밖에 있는 것을 포함해 모든 종류의 하드웨어에서 에이전트가 돌아가는 미래"를 예상한다고 밝혔습니다.
앤트로픽 공동창업자 잭 클라크 공익부문 책임자는 같은 날 발행한 뉴스레터 '임포트AI'에서 "완전한 재귀적 자기개선(RSI)이 내년에 가능해질 가능성이 더 높다"며 "이전에는 2028년일 가능성이 더 높다고 생각했다"고 밝혔습니다.
클라크는 AI가 스스로를 개선하려면 어떤 실험을 할지 고르고 결과를 해석하는 연구자의 '감각'이 관건인데, 이 능력이 빠르게 향상되고 있다는 AI 안전 연구단체 P-제로 리서치의 시험 결과를 판단 근거로 들었습니다.
이 시험에서 AI 모델들은 훈련 데이터 선별, 언어모델 훈련 등 실제 AI 개발 과제에 대해 실험을 설계하고 결과를 해석했는데 이 능력은 지난해 12월 이후 약 3개월마다 두 배로 향상됐습니다.
최고 성적을 낸 앤트로픽의 '오퍼스 5.5'는 오픈AI·구글 딥마인드 등에서 일한 인간 전문가들의 점수를 넘어섰습니다.
다만 P-제로 연구진은 과제가 쉽고 빠르게 채점할 수 있는 유형이어서 AI 개발사들이 맞춤형으로 대비하기 쉬운 만큼 향상 속도가 실제보다 부풀려졌을 수 있다고 밝혔습니다.
전문가 반응은 엇갈렸습니다.
로이터 통신에 따르면 키어런 마틴 전 영국 국가사이버보안센터(NCSC) 센터장은 앤트로픽 보고서에 대해 "'싸구려 TV에서 작은 모델을 돌리는 데 성공했다'는 것만으로 보안 위기가 되지는 않는다"며 "판매업체의 과장이 적잖이 섞인 흥미로운 기술 논문"이라고 평가했습니다.
제시카 지 조지타운대 안보·신기술센터(CSET) 선임연구분석가는 "그런 일이 실제로 일어날 가능성이 얼마나 되는지는 아직 모른다"며 "0은 아니지만 확실한 것도 아니다"라고 말했습니다.
(사진=연합뉴스, 게티이미지)