▲ 샘 올트먼 최고경영자(CEO)
주요 인공지능(AI) 모델이 외부 기관 시스템에 침입하는 보안 사고가 발생한 상황에서 도널드 트럼프 미국 행정부가 관련 보안 테스트 방안을 확정한 것으로 나타났습니다.
현지시간 3일 로이터 통신과 미 온라인 매체 악시오스는 백익관 관계자를 인용해 미 행정부가 최첨단 AI 모델의 해킹 능력을 측정하기 위한 사이버 보안 테스트 세부 사항을 확정했다고 보도했습니다.
트럼프 행정부는 오는 4일 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 개발사들을 백악관으로 불러 관련 내용을 논의할 예정입니다.
이 테스트 방안은 AI 개발사들이 신규 모델을 정식 출시하기 전 최대 30일 동안 연방 정부와 '신뢰할 수 있는 파트너'에 모델을 조기 제공해 검증받도록 하는 구조를 담고 있습니다.
다만 백악관 관계자는 결과에 대한 보고 방식이나 테스트에 어떤 지표를 사용할지 등 세부 내용은 밝히지 않았습니다.
이는 관련한 성능 지표(벤치마크)와 기준 수치 등이 행정명령 상 '기밀'로 지정됐기 때문입니다.
트럼프 대통령은 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 등 안전성을 평가하는 테스트 기준을 마련하라고 지시한 바 있습니다.
이번 AI 보안 논의는 오픈AI와 앤트로픽의 AI 모델이 인간의 명시적인 지시가 없는데도 외부 기업 시스템에 침입했다는 사실이 드러난 직후 이뤄지는 것이라는 점에서 주목됩니다.
오픈AI는 최근 자사 GPT 모델들이 외부 AI 플랫폼인 '허깅페이스' 등을 해킹했다고 밝혔고, 앤트로픽도 최근 AI 모델의 과거 행동을 검토한 결과 3개 기업 시스템에 무단 침입한 사실을 공개한 바 있습니다.
(사진=연합뉴스)