AI 멸망론 불지른 콕슨…'알파고 쇼크' 지켜본 27살 수학천재

인공지능(AI)이 10년 안에 인류를 멸망시킬 수 있다고 경고하며 상장 직전의 앤트로픽을 박차고 나온 연구원은 10대 때 알파고가 세계 최정상급 바둑기사 이세돌을 꺾는 모습을 지켜보던 수학 천재였습니다.

미 일간 월스트리트저널(WSJ)은 전 세계 AI 규제·속도 조절 논쟁의 도화선이 된 영국 출신의 전 앤트로픽 연구원 제이컵 콕슨을 17일(현지시간) 집중 조명했습니다.

27세 청년인 콕슨은 불과 1주일 전만 해도 실리콘밸리에서 이름이 거의 알려지지 않은 무명 연구원이었지만, 지금은 AI 안전의 상징이 됐습니다.

그는 샌프란시스코의 AI 안전 옹호자 커뮤니티의 주요 인물도 아니었고, 주변 친구들도 그가 윤리적인 이유로 AI 기업을 그만둘 가능성이 높다고는 예상하지 않았다고 WSJ은 전했습니다.

중세 독일문학 교수의 아들로 태어난 콕슨은 고등학생 시절 국제 수학올림피아드 영국 대표팀으로 선발될 정도로 10대 때부터 수학에 재능을 보였습니다.

그는 올림피아드 대회에 2016∼2017년 출전해 은메달과 동메달을 각각 목에 걸었습니다.

특히 2016년에는 구글 딥마인드의 알파고가 이세돌 기사에 승리를 거두는 이른바 '알파고 쇼크'를 통해 기계가 인간의 직관과 창의성이 필요한 영역까지 정복할 수 있다는 점을 인식하게 됐습니다.

케임브리지 대학을 졸업한 콕슨은 '합리주의자들'이라는 이름으로 알려진 런던의 지식인 모임에 소속됐으며, 잠시 원자재 거래 업무에 몸담았다가 실리콘밸리로 향했습니다.

그는 오픈AI의 '챗GPT'가 출시되기 2년 전인 2020년 공개된 'GPT-3' 모델을 접했고 그때 "정말로 '와' 하는 순간이었다"고 회상했습니다.

이후 2023년 샌프란시스코로 이주해 오픈AI에 입사한 그는 주로 방대한 양의 글과 이미지, 코드 등을 모델에 입력하는 '사전 학습' 부문을 담당했는데, 이 당시에도 AI 안전 문제에 특별히 목소리를 높인 적은 없는 것으로 알려졌습니다.

심지어 자신이 담당하는 사전 학습이 세상을 위험에 빠뜨릴 수 있다는 친구의 설득에도 그는 업무에서 손을 떼지 않았습니다.

그가 AI 안전에 본격적으로 관심을 기울이게 된 것은 전문가 수준의 사이버 보안 능력을 갖춘 것으로 알려진 첫 AI 모델인 앤트로픽의 '미토스' 등장 이후였습니다.

그는 미토스 출시를 전후해 앤트로픽 소속의 친구를 여럿 만났는데 이 과정에서 경쟁사였던 앤트로픽이 AI 기술과 관련한 위험을 더 투명하게 공개하고 있다는 느낌을 받았다고 설명했습니다.

결국 오픈AI를 떠나 지난 5월 앤트로픽으로 자리를 옮긴 그는 불과 두 달 만에 오픈AI와 앤트로픽 등의 AI 모델이 외부 기관을 해킹한 사건을 마주하게 됐습니다.

그는 이 사건을 다룬 보고서를 접했던 당시를 "'맙소사' 싶은 순간"이었다고 털어놨습니다.

이후 그는 앤트로픽의 상사들을 찾아 자신이 가진 우려에 대해 논의했고, AI 안전 관련 업무를 담당하는 직책으로 이동하는 것도 고려했으나 결국 회사를 떠나기로 선택했다고 합니다.

그는 "앤트로픽에서 안전 관련 업무를 담당하는 것조차 (AI 개발) 경쟁에 가담하는 듯한 느낌이 들었다"고 말했습니다.

이후 그는 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"는 폭로를 담은 일련의 글을 올렸습니다.

당시까지 그의 X 계정의 구독자(팔로어) 수는 100명도 채 되지 않았지만, 이들 게시물은 20만 회 공유돼 조회수가 최대 1억 7천만 회 이상을 기록하며 세계적으로 알려졌습니다.

콕슨 계정의 구독자 수는 30만 명 이상으로 늘었습니다.

앤트로픽의 일부 임원들도 해당 게시물을 공유했지만, 콕슨은 앤트로픽 내 누구와도 이와 같은 SNS 홍보 활동을 조율한 적이 없다고 설명했습니다.

그는 자신이 'AI 멸망론자'(두머·Doomer)라고 생각하느냐는 질문에 "멸망론자라는 말이 '우리가 지금 하는 방식을 바꾸지 않는다면 우리는 죽게 될 것이라고 생각하는 사람'을 뜻한다면 나는 확실히 멸망론자가 맞다"고 답했습니다.

다만 자신이 기업의 비밀을 폭로한 '내부고발자'라는 평가에 대해서는 선을 그었습니다.

기업의 비밀을 외부에 알린 것이 아니라 AI 연구자들이 사적으로 나누던 이야기를 공개적으로 했을 뿐이라는 것입니다.

그는 앤트로픽에서 근무한 기간이 수개월에 불과해 상장 시 시가총액이 2조 달러(약 2천800조 원)에 달하리라는 예상이 나오는 앤트로픽의 지분은 받지 못했습니다.

다만 오픈AI 주식은 보유하고 있습니다.

(사진=제이컵 콕슨 엑스(X·옛 트위터) 캡처, 연합뉴스)