앤트로픽 "1∼2년 내 AI 천재 수준 진화…강력 규제와 일자리 대책 필요"

인공지능(AI) 모델 '클로드'의 개발사 앤트로픽이 AI 기술의 폭발적인 발전에 대응해 정부의 강력한 규제와 노동시장 대책을 촉구했습니다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 현지시간 10일 공식 성명과 개인 블로그, 그리고 블룸버그 인터뷰를 통해 AI의 위험성과 향후 정책 방향에 대한 구체적인 입장을 밝혔습니다.

그는 AI가 기하급수적으로 발전하면서 1~2년 안에 '데이터센터 속 천재들의 나라' 수준으로 진화할 거라고 경고했습니다.

과거에 논의되던 단순한 '투명성'만으로는 더는 AI를 충분히 규제할 수 없으며, 항공기 기술 검사를 수행하는 연방항공청을 모델로 삼아 더 엄격하고 구속력 있는 연방 규제 기관을 설립해야 한다고 강조했습니다.

아울러 의회에서 엄격한 연방 법이 통과되기 전까지는 각 주 정부의 독자적인 AI 규제를 막아서는 안 되며, 의회가 AI 기업의 최상위 모델에 대해 독립적인 안전성 검사를 거치도록 법적으로 요구해야 한다고 덧붙였습니다.

AI가 촉발할 장기적인 일자리 대체 현상에 대해서는 "바람직하지 않을 뿐 아니라 매우 위험하다"며 주의를 촉구했습니다.

이에 대응하기 위해 기업에 고용 촉진 인센티브를 주거나, '보편적 기본소득' 같은 직접적인 소득 지원 제도가 필요할 거라고 제안했습니다.

또 완전 자율무기 체계의 미국 내 사용 금지를 주장하며, AI를 군사 목적으로 쓰더라도 반드시 인간이 개입해야 한다고 재차 강조했습니다.

그는 지난 2월 어린이 120여 명이 사망한 이란 초등학교 미사일 공습에 '클로드'가 쓰였는지는 알지 못한다고 선을 그었습니다.

다만 "우리의 원칙은 인간이 최종 결정을 내리는 것"이라며, 해당 사건 역시 AI 조력을 받더라도 인간의 통제권이 왜 중요한지 보여주는 사례라고 설명했습니다.

현재 트럼프 행정부의 이민 단속이나 팔레스타인 가자지구 등에는 클로드가 사용되지 않고 있으며 신중하게 범위를 제한하고 있다고 밝혔지만, 미 국방부의 군사 작전에 클로드가 사용되는 것 자체는 문제없다는 입장을 보였습니다.

'클로드가 더 많은 사람을 더 빨리 죽이는 데 일조하는 것인데 괜찮으냐'는 질문에, 그는 "본질적으로 '이 나라(미국)를 믿느냐'고 묻는 셈"이라며 자신은 애국자로서 미국이 세계 무대에서 더 강력한 행위자가 되기를 바라고 군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다고 생각한다고 답했습니다.

전문가 수준의 보안 취약점 탐지 능력을 갖춰 우려를 낳았던 최상위 모델 '미토스'의 일반 공개를 미뤄온 이유도 밝혔습니다.

아모데이 CEO는 이번 모델의 능력 도약 폭이 특히 컸다며, "초기 사용 기업들 사이에서 '이건 초강력 무기라 총기 허가증이 필요할 정도니 제발 공개하지 말아달라'는 반응이 있었다"고 전했습니다.

공개 연기로 상업적 타격은 컸지만, 업계를 선도하는 위치에 있었기에 감내할 여유가 있었다고 설명했습니다.

AI 모델을 개발하면서도 위험성을 꾸준히 경고해 온 행보가 원자폭탄을 개발한 물리학자 '오펜하이머'와 닮았다는 질문에, 아모데이 CEO는 "오펜하이머는 실패 사례, 있어서는 안 될 사례"라며 "좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다"고 강조했습니다.

(사진=AP, 연합뉴스)