앤트로픽 "AI 개발 늦추자…스스로 개선하는 AI 등장"

인공지능(AI) 모델 클로드 개발사 앤트로픽이 세계가 AI 모델 개발 속도를 늦추는 방안을 검토해야 한다고 촉구하고 나섰습니다.

AI 시스템이 너무 빠르게 발전하고 있어 머지않아 AI가 인간 개입 없이 스스로 개선할 수 있는 단계에 도달할 수 있다는 우려입니다.

앤트로픽은 4일(현지시간) 블로그에 올린 글에서 자사의 가장 진보된 모델들이 얼마나 빠르게 발전하고 있는지를 보여주는 내부 데이터들을 제시하고 지구적 차원에서 AI 개발 속도를 늦추는 능력은 "매우 좋은 일일 것"이라고 밝혔습니다.

사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크가 작성한 이 게시글은 AI 모델의 발전이 "(인간의 개입 없이 스스로 개선될 수 있는) 재귀적 자기 개선(recursive self-improvement)"으로 향하는 것으로 보인다고 지적했습니다.

일부 전문가들은 이 단계를 잠재적 위험과 엄청난 사회적 혼란의 징후로 간주합니다.

마리나 파바로와 잭 클라크가 작성한 게시글은 "사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 세계가 갖는 것이 바람직하다고 믿는다"고 밝혔습니다.

파바로와 클라크는 AI 모델 개발 속도를 늦추는 방법에 대한 국제적 합의와 경쟁사들이 이를 준수하는지 확인할 수 있는 메커니즘을 제안했습니다.

이들은 아직은 재귀적 자기 개선이 일어나지 않았고 이것이 필연적인 것도 아니지만 "대부분 기관이 대비하는 것보다 더 빨리 도래할 수 있다"고 경고했습니다.

클라크는 이전에도 AI의 잠재적 위험과 AI 모델이 '재귀적 자기 개선' 단계에 도달할 경우 발생할 수 있는 잠재적 영향에 대해 자주 언급해 왔습니다.

그는 이러한 현상이 세상을 변화시킬 것이라고 말했습니다.

클라크는 "그런 종류의 기술은 이전에는 존재한 적이 없지만 나는 이것이 향후 2년 안에, 어쩌면 더 빨리 일어날 수 있다고 믿는다"고 말했습니다.

앤트로픽은 향후 몇 달 동안 정책 입안자, 연구원 및 관계자들과 재귀적 자기 개선 및 검증 시스템에 대한 대화를 계속할 계획입니다.

(사진=연합뉴스)