▲ 다리오 아모데이 엔트로픽 최고경영자
앤트로픽의 인공지능(AI) 모델인 클로드를 활용해 경쟁사인 오픈AI를 해킹한 사례가 발견됐습니다.
AI 보안 연구업체 해크트론은 자사 연구원들이 '클로드 오퍼스5' 모델을 이용, 오픈AI 직원들의 AI 챗봇 챗GPT와 코딩도구 코덱스 계정을 제어하는 데 성공했다고 18일(현지시간) 밝혔습니다.
이들은 우선 오픈AI의 도움말 게시판(포럼)의 취약점을 통해 서버에 접속하는 데 성공했고, 거기서 오픈AI 직원들의 계정 정보를 확보했습니다.
이어 이들은 해당 계정 정보를 활용해 '모노레포'(Monorepo)라고 불리는 오픈AI의 내부 시스템에 접근해 자신들이 침투한 증거를 남겼습니다.
이 시스템은 핵심 알고리즘 기밀이 보관된 저장소인 것으로 알려졌습니다.
이들은 처음에는 '오퍼스4.8'를 이용해 공격용 코드 작성을 시도했는데 효과가 없었다면서, 때마침 앤트로픽이 공개한 '오퍼스5'를 이용하자 불과 몇 시간 만에 공격용 스크립트를 성공적으로 만들 수 있었다고 전했습니다.
최초 취약점 발견부터 내부 시스템 침투까지 걸린 시간은 72시간이 채 걸리지 않았습니다.
해크트론은 이번 해킹 소요 시간과 관련해 "에이전트의 작업은 며칠 걸렸지만 인간 연구원이 들인 시간은 몇 시간에 불과했다"며 "새로운 AI 모델이 등장하면서 성능이 점점 강력해지고 있다"고 설명했습니다.
이들은 자신들의 침투 사실을 오픈AI 측에 제보했으며, 오픈AI는 이를 확인한 이후 6천500달러(약 900만원)의 포상금을 지급했습니다.
오픈AI는 제보를 수신한 이후 14시간 만에 시스템 보완 조치도 완료했습니다.
오픈AI는 최근 그레그 브록먼 사장의 지시로 전체 엔지니어의 25%를 차출해 시스템 방어 업무에 투입했습니다.
사이버 보안 업계는 AI발 해킹 사례가 늘면서 격변기를 맞이하고 있습니다.
오픈AI의 일부 모델은 인간의 명시적 지시가 없는데도 격리 환경을 벗어나 외부 기관 대상 사이버 공격을 감행한 사례가 나와 충격을 주기도 했습니다.
다리오 아모데이 앤트로픽 CEO는 업계 전체의 개발 속도 조절을 주장해 AI 업계에서 논쟁이 이어지고 있습니다.