오픈AI 사태가 남긴 불안한 교훈

*에즈라 클라인은 뉴욕타임스 오피니언 칼럼니스트다. 팟캐스트 에즈라 클라인 쇼를 진행한다.

공상과학 소설가나 인공지능 연구자들은 오랫동안 전원을 끌 수 없는 기계를 두려워했다. 무시무시한 시나리오는 보통 이렇다.
이 시나리오를 염두에 둔 채 오늘 칼럼을 읽어주시기 바란다.

최근 들어 인공지능 분야에서 두 가지 중요한 사건이 일어났다. 하나는 여러분도 익히 들어서 잘 아실 거다. 챗GPT를 개발하고 운영하는 오픈AI 이사회가 회사의 최고경영자(CEO) 샘 알트만을 전격 축출했다. 누구도 예상하지 못했던 일이고, 이사회도 뜻밖의 결정에 대해 별다른 설명을 하지 않았다. 이사회가 내놓은 성명을 보면, 궁금했던 게 해소되기는커녕 이런저런 질문이 꼬리를 문다.

"이사회는 오랫동안 샘 알트만이 CEO로 적합한지 고민해 왔다. 특히 알트만이 이사회와 소통할 때 일관되게 투명하지 못했던 점을 고려해 이사회의 업무를 충실히 수행하는 데 알트만이 방해가 되리라는 결론에 이르렀다."

사람들은 알트만이 이사회에 오픈AI의 재정 상태나 데이터 안전 문제 등에 관해 거짓말을 한 게 아닐까 추측했다. 그러나 오픈AI의 임원인 브래드 라이트캡은 오픈AI 직원들에게 그런 소문은 사실이 아니라고 단언했다. 그는 "분명히 말할 수 있는 건 알트만이 부정행위를 저질렀거나 회사의 재정 상태, 사업 전망, 데이터 보안이나 개인정보 보호 같은 데 문제가 생겨서 이사회가 이번 결정을 내린 게 아니"라며, "이번 사태는 샘과 이사회 사이에 소통이 단절되면서 벌어진 일"이라고 썼다.

오픈AI는 회사의 사명에 따라 운영되는 기업이다. (이제는 과거형으로 쓰는 게 맞을지도 모르겠다.) 인공지능은 이윤을 추구하는 기업이나 권력을 추구하는 정부, 국가가 개발하고 운영하기에는 너무나 강력한 기술이다. 그래서 오픈AI 헌장에는 "인류 전체의 이익을 최우선으로 두고" 기술을 개발, 운영할 수 있는 기관이 인공지능 기술을 관장해야 한다고 쓰여 있다. 오픈AI는 정확히 그런 기관을 목표로 설립됐다. 처음부터 영리를 목적으로 하지 않는 비영리 기관으로 출발했다. 그런데 인공지능 기술을 개발하는 데는 돈이 든다. 그것도 한두 푼이 아니라 수십억 달러가 필요하다. 그래서 오픈AI는 일종의 이중 지배 구조를 만들었다. 영리 목적의 사업을 수행하는 회사를 만들어서 여기서 기술 개발에 필요한 투자도 받고, 개발한 기술로 서비스와 애플리케이션을 만들어 수익도 창출한다. 그런데 이 영리 목적의 회사를 관리·감독하는 건 여전히 처음 오픈AI의 사명을 완수하는 비영리 단체 이사회의 권한으로 남겨뒀다.

이번 사태를 취재하면서 많은 사람과 이야기를 나눴는데, 그 가운데 오픈AI 이사회의 결정을 가장 잘 설명한 건 이사회가 내놓은 성명서라는 한 취재원의 말이 가장 기억에 남는다. 비록 의도한 바를 명확히 전달하는 데 실패한 것 같긴 하지만, 성명에서 밝힌 이사회의 해고 사유는 "알트만이 이사회의 업무에 방해가 된다"는 것이었다. 이사회의 업무란 오픈AI의 사명을 다하는 일이고, 그러기 위해선 주어진 권한을 활용해 영리 회사를 확실히 통제할 수 있어야 하는데, 알트만 때문에 그러지 못했다는 말이다.

알트만은 어쩌다 이사회의 눈에 걸림돌로 비쳤을까? 원활하지 못한 소통이 문제였을 거라고 추정할 수 있다. 이사회는 알트만의 소통 방식이 느리고, 불투명하고 때때로 이사회에 핵심을 제대로 보고하지 않는다고 느낀 듯하다. 또한, 상용화의 속도나 제휴 기업들과의 계약, 직원들이나 제품 개발에 관한 약속들이 문제가 됐을 수도 있다. 오픈AI가 인공지능을 개발하는 목적은 인류를 위해서다. 마이크로소프트가 구글과의 경쟁에서 이기는 데 도움을 주는 건 오픈AI가 신경 쓸 일이 전혀 아니다. 이사회는 주어진 사명만 충실히 이행하고자 했을 것이고, 영리 목적의 자회사가 오픈AI의 사명에 상관없는 일, 심지어 반하는 일을 벌이려 하면 이를 제어하려 했을 것이다. 이번에는 그러기 위해 알트만을 해고해야 했다. 알트만을 해고했다가는 오픈AI의 존속이 위태로워질 수도 있다는 경고에 이사 중 한 명인 헬렌 토너는 이렇게 답했다.

"그게 회사의 사명에 부합하는 일이라면 그렇게 하는 게 맞겠죠."

오픈AI는 항상 투자자들에게 이런 일이 일어날 수 있다고 경고해 왔다. "오픈AI에 한 투자금은 좋은 데 기부한 셈 치는 게 나을 것"이라고 말하기도 했다. 그러나 회사가 성장하면서 오픈AI는 투자금을 기부한 셈 칠 생각이 전혀 없는 투자자들에게서 수십억 달러를 투자받았다. 오픈AI에 지금껏 130억 달러 이상을 투자했고, 오픈AI의 영리 회사 지분 49%를 소유한 마이크로소프트가 대표적이다. 마이크로소프트는 이미 오픈AI의 인공지능 기술을 자사 제품 개발의 핵심에 두고 있다. 마이크로소프트의 사업 전략 어디에도 자선이란 단어나 개념은 없다.

마이크로소프트의 사티아 나텔라 CEO는 오픈AI 이사회가 알트만을 해고할 때 이를 막을 권한이 없었다. 대신 그에게는 이사회의 결정을 사실상 물거품으로 만들어 버릴 힘이 있었다. 그는 마이크로소프트에 독립된 혁신 담당 부서를 만들고, 부서의 운영을 알트만과 (오픈AI에서 사실상 해고 통보를 받은 뒤 알트만과 함께하겠다며 회장직에서 사임한) 그렉 브록만에게 일임한다고 발표했다. 그리고 오픈AI 출신 직원이라면 누구든 해당 부서로 옮길 수 있도록 문을 열어놓겠다고 덧붙였다.

오픈AI 직원의 90% 이상이 알트만을 즉각 복귀시키고 알트만을 쫓아낸 이사들이 전부 이사회에서 물러나지 않으면, 오픈AI를 떠나 마이크로소프트로 옮기겠다는 연판장에 서명했다. 이들 가운데 일리야 수츠키버가 포함됐다는 사실은 매우 이상하다. 그는 오픈AI의 공동 창립자이자 이사로서 알트만을 쫓아내기로 한 이사 4명 가운데 한 명이었을 뿐 아니라, 알트만에게 전화를 걸어 해고 사실을 통보한 장본인이기도 하다. 알트만은 오픈AI CEO로 복귀하며, 알트만을 쫓아낸 이사 가운데 한 명만 빼고 모든 이사가 물러나는 것으로 사태는 일단락됐다.

이사회가 알트만을 해고한 결정이 옳은 결정이었는지 잘 모르겠다. 확실한 건 이사회가 해고를 정당화할 만한 이유를 공개하지 못했다는 점이다. 그러나 오픈AI가 비영리 단체로서 기업의 중요한 결정을 이사회에 맡긴 데는 다 이유가 있던 것도 사실이다. 바로 문제가 생길 때 시스템의 전원을 끌 수 있게 하기 위해서였다. 그러나 전원 버튼은 이미 무용지물이 돼 있었다. 영리 사업을 맡은 자회사가 스스로 얼마든지 버튼을 켜고 새로 가동할 역량이 있었기 때문이다.

한 가지 더 잊지 말아야 할 게 있다. 바로 구글의 인공지능 부서, 메타의 인공지능 부서, 앤트로픽과 인플렉션을 비롯해 GPT-4와 비슷한 거대언어모델 기술을 열심히 개발하며 오픈AI와 비슷한 사업 모델을 앞세워 치열하게 경쟁하고 있는 많은 기업들이다. 자본주의는 그 자체로 일종의 인공지능 모델이다. 컴퓨터 과학자들이 지금껏 쓴 그 어떤 코드보다도 멀찌감치 나아가있는지 모른다. 자본주의가 오픈AI의 가능성과 잠재력을 이미 오래전에 베껴서 내재화했다는 말이다.

(남은 이야기는 스프에서)