"인류를 위한 인공지능" 누가, 어떻게 할 것인가?

뉴스페퍼민트 NewsPeppermint

"한국에는 없지만, 한국인에게 필요한 뉴스"를 엄선해 전하는 외신 큐레이션 매체 '뉴스페퍼민트'입니다. 뉴스페퍼민트는 스프에서 뉴욕타임스 칼럼을 번역하고, 그 배경과 맥락에 관한 자세한 해설을 함께 제공합니다. 그동안 미국을 비롯해 한국 밖의 사건, 소식, 논의를 열심히 읽고 풀어 전달해 온 경험을 살려, 먼 곳에서 일어난 일이라도 쉽고 재밌게 읽을 수 있도록 부지런히 글을 쓰겠습니다. (글: 송인근 뉴스페퍼민트 편집장)

지난 17일부터 22일까지 닷새간 오픈AI의 CEO 샘 알트만이 갑자기 해고됐다가 복귀하는 과정은 하루하루, 매 순간이 마치 한 편의 드라마 같았습니다. 샘 알트만은 이미 세계적인 유명 인사였고, 혹여 알트만을 잘 모르는 사람이라도 그가 (경영을) 이끄는 오픈AI가 만든 챗GPT에 관해서는 아마 들어본 사람이 많을 테니, 온 세상의 이목이 오픈AI에 쏠린 것도 당연했습니다. 실제로 오픈AI와 챗GPT는 현재 기술 경쟁의 최첨단이라 할 수 있는 인공지능 기술을 상징하는 기업과 서비스라 해도 과언이 아닙니다.

샘 알트만은 대다수 직원의 두터운 신뢰를 받는, 나아가 동경의 대상이라고 할 수 있는 CEO였습니다. 그를 갑자기 내친 이사회가 결정을 되돌리는 데도 95%에 육박하는 오픈AI 대다수 직원의 압박이 크게 작용했습니다. 이들은 샘 알트만을 복귀시키지 않으면, 우리도 알트만을 따라 오픈AI를 떠나겠다는 연판장에 서명했죠.

도대체 오픈AI 이사회는 어떻게 멀쩡한 CEO를 하루아침에 해고할 수 있었을까요? 가장 큰 문제는 알트만이 오픈AI가 하는 영리 사업 부문만 이끌었다는 점입니다. 오픈AI 전체를 이끈 건 CEO 알트만이 아니라 알트만이 속한 오픈AI 전체 이사회였습니다. 이사회는 지난 2015년 설립할 때 세운 오픈AI의 사명을 완수하는 것이 책무의 전부입니다. 알트만도 (해임되기 전) 이사회의 일원이었지만, 여섯 명 중 한 명이었을 뿐 다수가 결의하면 이번처럼 얼마든지 CEO 자리에서 쫓겨날 수 있는 구조였습니다. 일어나지 않을 법한 일이었지만, 동시에 일어나지 말란 법도 없던 일을 오픈AI 이사회가 기어이 일으켰던 겁니다.

뉴욕타임스에서 자기 이름을 건 팟캐스트를 진행하는 칼럼니스트 에즈라 클라인도 이번 사태를 복기하며 의미를 짚은 칼럼을 썼습니다. 일지 별로 어떤 일이 일어났는지 다룬 자세한 분석은 제가 NYU 조경현 교수와 함께 이야기 나눈 아메리카노를 참고하셔도 됩니다.


오늘은 이번 사태와 관련해 생각해 볼 수 있는 점 두 가지를 함께 짚어보겠습니다. 먼저 알트만을 멈춰 세우려던 기존 이사진 가운데 일부를 비롯해 실리콘밸리의 유명인사 중에 적잖은 이가 믿고 있다고 알려진 효과적인 이타주의(Effective Altruism, EA) 이야기, 그리고 인공지능 기술처럼 인류 전체에 큰 영향을 미칠 기술의 개발과 사업화, 그에 따르는 사회적, 도덕적 책임을 개별 기업에 지우는 게 옳은지, 아니면 정부가 나서야 하는지 그 책임 소재에 관한 이야기입니다. 먼저 효과적인 이타주의부터 살펴볼까요? 이번 사태에서 효과적인 이타주의는 'AI 안전성'이라는 이름으로 등장합니다. 기존 오픈AI의 이사 6명 가운데 샘 알트만과 그렉 브록만을 제외한 이사 4명이 뜻을 맞춰 둘을 전격 해고했는데, 특히 몇몇 이사는 알트만이 인공지능 기술이 초래할 위험에 대한 안전장치를 전혀 생각하지 않고 기술 개발에만 매달리는 데 불만을 품고 있었다는 겁니다. 공개적으로 밝혀진 내용은 없지만, 여러 기사가 AI 안전성을 우선에 두려는 이사들과 샘 알트만 사이에 마찰이 있었다고 전하고 있습니다.

효과적인 이타주의란 다른 사람을 돕는 최선의 방법을 찾아 이를 실천에 옮기는 일련의 운동과 전략을 뜻합니다. 전 세계에서 가장 시급한 문제들을 풀 최선의 해결책을 찾는 연구와 함께 연구 결과를 토대로 선한 일을 해서 세상에 실질적인 도움을 주는 커뮤니티를 지향한다고 소개돼 있습니다. 세상에 자원은 한정적이니, 남을 돕는 좋은 일에 기왕이면 자원을 낭비하지 않고, 목표한 바를 이룰 수 있다면 당연히 좋을 겁니다. 취지 자체는 문제 삼을 게 전혀 없는 운동입니다. 오히려 장려할 만한 일이죠.

그런데 문제는 효과적인 이타주의를 좇는 이들 가운데 일부가 우려하는 시나리오가 현실주의자들의 인식과 너무 동떨어질 때 일어나곤 합니다. 효과적인 이타주의자들이 가장 우려하는 건 이 세상에 서로 도울 인류가 멸망하는 끔찍한 시나리오인데, 자꾸 그 생각만 하다 보면 아주 희박한 확률로 일어날 재앙을 막기 위해 상당한 주의를 기울이고 많은 자원을 투입해야 한다는 결론에 이릅니다. 어떤 문제든 소 잃고 외양간 고치는 것보다 예방하는 게 낫긴 하겠지만, 보기에 따라 이런 주장이 불필요한 데 자원을 낭비하는 과도한 주장으로 느껴질 수 있습니다. 그러다 보면 마찰이 빚어지죠.

인공지능 기술은 인류에게 지금껏 누리지 못한 편리를 가져다줄 강력한 기술이지만, 동시에 잘못 쓰이면 재앙이 올 수도 있습니다. 바로 이 지점에서 경쟁 기업들과 치열한 경쟁을 벌이며 기술 개발에 박차를 가해야 하는 샘 알트만과, 기술 개발도 중요하지만 안전에 더 주의를 기울여야 한다는 이사회의 생각이 갈렸던 것으로 보입니다. 다만 이 문제는 에즈라 클라인도 지적했듯 "판단의 영역"입니다. 옳고 그름을 명확하게 나누기 어렵다는 뜻이죠. 어떤 선택을 하고 이를 실천에 옮기면 다른 선택지를 골랐을 때 무슨 일이 일어났을지 알 수 없게 됩니다. 예를 들어 영화 "터미네이터"에서 그린 디스토피아처럼 기계가 인간을 몰살시키는 재앙을 막기 위해 인간이 충분한 안전장치를 마련해 둔다고 가정합시다. 그리고 다행히 그런 일이 일어나지 않는다면, 이때 우리는 기계 문명에 의해 멸종당하지 않은 것이 우리가 신경 써서 만든 안전장치 덕분인지, 어차피 일어날 가능성이 매우 작던 일이니, 쓸데없는 데 돈을 낭비한 건지 영영 알 수 없습니다.

이사회가 극단적인 효과적인 이타주의자들이고, 알트만은 효과적인 이타주의에 아무런 관심이 없는 냉혈한 자본주의자인 것도 아닙니다. 오히려 샘 알트만도 효과적인 이타주의에 관심이 많은 편입니다. 2015년 비영리 단체로 출발한 오픈AI의 사명(mission)에 효과적인 이타주의가 상당 부분 녹아있고, 알트만도 엄연한 오픈AI의 이사였다는 점을 잊어선 안 됩니다. 다만 알트만(과 브록만)은 기술을 개발하고 제품을 만들어 파는 사업을 직접 담당하는 인물이다 보니, 현실적인 제약을 좀 더 신경 써야 했습니다. 비영리 단체 산하 영리 기업이라는 독특한 구조를 유지하면서 오픈AI를 여기까지 끌고 온 주역인 만큼 알트만은 앞으로도 계속 발전해 나갈 수 있을 거라 믿었을 겁니다. 그러나 이번 해임을 주도했던 이사들의 생각은 달랐던 거죠.

(남은 이야기는 스프에서)