[D리포트] AI 석학에게 AI가 인류를 파멸시킬지 물었습니다

앤드류 응 미국 스탠퍼드대 교수는 인공지능, AI 분야 4대 석학으로 불립니다.

그의 딥러닝 관련 논문들이 전 세계적으로 25만 회나 인용될 정도로 많은 AI 연구자들의 선구자입니다.

AI 글로벌 포럼 참석차 한국을 방문한 응 교수를 SBS가 만나 한 시간 동안 인터뷰했습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : (많은 한국 사람들이 당신을 AI의 대부로 알고 있습니다.) 저는 그렇게 중요한 사람이 아니라고 생각하지만 감사합니다. AI 분야에는 수만 명의 사람들이 일하고 있으며, 이들 모두가 기여를 하고 있고, 이는 다른 많은 사람들의 기여에 기반을 두고 있습니다.]

초미의 관심사인 인간 수준의 범용 인공지능, AGI의 출현 시기에 대해 엔비디아의 젠슨 황은 5년 이내, 일론 머스크는 빠르면 내년이 될 것이라고 예측한 바 있습니다.

하지만 응 교수의 생각은 달랐습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 사람들이 AGI가 언제 올지에 대해 다른 의견을 갖는 이유 중 하나는 AGI에 대해 각자 다른 정의를 가지고 있기 때문입니다. 제게 가장 익숙한 정의는 AGI는 인간이 할 수 있는 모든 지적 과제를 수행할 수 있는 AI라는 겁니다. 저는 우리가 그 단계에 이르려면 수십 년은 더 남았다고 생각합니다. 우리의 생애 동안 AGI에 도달하기를 바라지만 아직도 갈 길이 멀다고 생각합니다.]

응 교수의 정의에 따르면, 박사 논문을 쓸 수 있을 정도의 인간의 지적 능력을 모두 수행할 수 있어야 진정한 AGI라고 할 수 있는데, 아직 갈 길이 멀다는 겁니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 저는 인간과 같은 생물학적 지능과 인공지능의 신경망이 매우 다르다고 생각합니다. 이들을 비교하는 것은 매우 어렵습니다. AI는 놀라울 정도로 잘 작동하지만 인간의 뇌가 작동하는 방식과 너무 다르기 때문에 정확히 무엇이 유사하고 다른지를 말하기 어렵습니다. 오늘날에도 솔직히 우리는 인간의 뇌가 어떻게 작동하는지 매우 제한된 이해만을 가지고 있습니다. 우리는 인간의 뇌를 정말로 이해하지 못합니다. 그래서 많은 AI 연구팀들이 생물학적 지능 연구보다는 공학적인 지능을 연구하는 데 더 중점을 두고 있는 것입니다.]

응 교수는 스스로 'AI 낙관론자'라고 밝혔습니다.

AI 자체를 규제하기보단 AI가 탑재될 프로그램의 안정성에 초점을 맞춰야 한다고 강조합니다.

[앤드류 응 / 미국 스탠퍼드대 교수 :  전 세계 많은 정부가 혁신을 촉진하고 AI의 안전성을 보장하는 방법을 고민하고 있습니다. 그리고 정부가 수학이나 AI 아이디어 같은 기술 자체보다 응용 프로그램, 즉 의료 기기나 자율주행 차와 같은 소프트웨어를 구별하는 것이 중요하다고 생각합니다. 기술 자체를 모든 응용 프로그램에서 안전하게 보장하려고 한다면 기술 개발을 극적으로 늦추는 방법밖에 없으며 이는 사회에 실제로 도움이 되지 않습니다.]

'AI가 인류의 파멸을 초래할지도 모른다'는 디스토피아적 시각에 대한 응 교수의 답변은 이랬습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : AI 안전은 중요하지만, 그것이 과장되었다고 생각합니다. 우리는 AI가 안전하기를 원하지만, AI가 실수를 하더라도 대부분은 꽤 안전합니다. 대부분의 기술이 안전해지는 방법은 통제된 방식으로 출시한 다음 실험을 통해 어떤 실수를 하는지 보고 그 실수를 수정하는 것입니다. 대형 언어 모델 분야가 바로 지금 그 작업을 진행 중이라고 생각합니다. 우리는 대형 언어 모델을 완벽하게 통제할 수 없을 것입니다. 하지만 괜찮습니다. 우리는 충분히 잘 통제할 수 있습니다. 비유를 들자면, 우리는 항공기를 완벽하게 통제할 수도 없습니다. 바람이 비행기를 흔들 것입니다. 초기 항공 시절에는 일부 항공기가 추락하여 사람들이 죽는 비극이 발생했습니다. 하지만 우리는 항공기를 더 잘 통제하고 더 안전하게 만들기 위해 교훈을 배웠습니다. 그래서 오늘날에도 우리는 여전히 완벽하게 통제할 수는 없지만 대부분의 사람들은 생명을 두려워하지 않고 비행기에 탈 수 있습니다. 대형 언어 모델도 마찬가지라고 생각합니다. 매달 우리는 그것들을 더 잘 통제하는 방법을 배우고 있습니다. 그리고 그 기술은 많은 회사와 학계에서 빠르게 발전하고 있습니다.]

'AI 발전으로 일자리가 사라지지 않을까'라는 우려에 대해서도 다른 관점을 제시했습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : AI가 다양한 직업을 대신하지는 않겠지만 AI를 사용하는 사람들이 AI를 사용하지 않는 사람들을 대체할 수 있다고 생각합니다. 그리고 많은 직업에서 아마도 20-30%의 업무가 자동화되거나 AI로 보강될 수 있을 것입니다. 만약 30%의 업무가 자동화된다면 여전히 70%의 업무는 사람이 해야 합니다. 하지만 도전 과제가 있다면 누구든 생성형 AI를 사용하는 사람이 훨씬 더 생산적이 될 것이란 겁니다. 어떻게 하면 사회 전체가 이 기술을 효과적으로 사용하는 방법을 빠르게 배울 수 있을까요? 이것이 앞으로 우리에게 놓인 큰 도전 과제라고 생각합니다.]

그렇다면 응 교수가 생각하는, AI의 확산을 막는 가장 큰 장애물은 뭘까요?

[앤드류 응 / 미국 스탠퍼드대 교수 : (AI가 범용 기술이 되기 위해 가장 큰 장벽은 무엇이라고 생각하십니까?) 저는 AI가 범용 기술이라고 생각합니다. 하지만 가장 큰 장애물은 이를 널리 채택하는 것입니다. 구체적인 AI 응용 프로그램을 식별하고 그것을 구축하는 데 많은 노력이 필요할 것입니다. 약 10-15년 전 과학자들은 생성형 AI와는 다른 유형의 AI 기술인 딥러닝을 잘 활용했습니다.지난 10년 동안 많은 사람들은 딥러닝 응용 프로그램들을 확인하고 구축해 왔죠. 그러나 10년이 지난 현재 우리는 아직 (생성형 AI로) 응용할 수 있는 프로그램들을 다 찾지 못했습니다. 생성형 AI는 훨씬 더 새로워서 사람들이 이를 의료, 물류, 교육, 금융 서비스 등에 어떻게 적용할지를 알아내는 데에도 몇 년이 걸릴 것이라고 생각합니다.]

오픈AI의 CEO 샘 올트먼은 최근 한 인터뷰에서 북한 전투기 수백 대가 서울 상공으로 출격할 경우 방공시스템을 AI 맡겨도 되느냐는 질문을 받았습니다.

응 교수에게도 똑같이 물었습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 저는 방어 시나리오 전문가가 아닙니다. 잘 운영되는 민주주의 국가들이 자신을 보호하기 위해 AI를 (방어에) 사용하는 것은 아마도 좋은 일일 것입니다. 적대 세력도 분명히 AI 도구를 가지고 있을 것이기 때문입니다. 가장 중요한 생명을 보호하고 인권을 지키면서 동시에 민주주의 국가들이 자신을 보호할 수 있는 (AI) 도구를 사용하는 것에서 균형을 맞추는 것이 매우 어려운 결정이라고 생각합니다.]

응 교수는 초창기 인터넷 발명 이후 누구나 온라인 서비스를 개발했던 것처럼, AI의 발전을 위해선 자유로운 오픈 소스 형태의 개발 환경 구축이 중요하다고 말합니다.

하지만 AI 기술을 독점하려는 일부 대기업들의 우려되는 시도도 목격했다고 밝혔습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 대규모 회사들이 기초 모델 훈련에 막대한 투자를 한 경우 오픈 소스와 경쟁할 때 매우 불편할 겁니다. 왜냐하면 수억 달러를 들여 훈련한 모델을 누군가가 비슷한 모델로 오픈 소스화하면 그 투자 가치가 크게 하락하기 때문입니다. 저는 지난 한 해 동안 AI의 위험성을 과장하여 정부가 (AI를 규제하는) 안전 법안을 통과시키도록 하려는 로비스트들을 정말로 많이 보았습니다. 지난 한 해 동안 AI를 핵무기와 연관 짓는 것과 같은 이상한 위험성에 대해 많은 이야기들이 있었습니다. 이는 논리적으로 맞지 않습니다. AI는 사물을 더 지능적으로 만들지만 핵무기는 도시를 파괴하기 때문입니다. 이 둘 사이에 어떤 연관성도 찾을 수 없습니다.]

AI는 빅테크 기업뿐 아니라 스타트업들에게도 기회의 장을 열어 줄 것으로 응 교수는 전망했습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 대부분의 기술적 혁신 방법과 마찬가지로, 기존의 빅테크 회사들이 번창할 여지가 있습니다. 하지만 새로운 스타트업들이 번창할 수 있는 공간도 많이 있습니다. 때로는 시장은 경쟁적이며 일부 회사가 다른 회사보다 더 잘 할 것입니다. 인터넷이 급부상하며 벌어진 인터넷 혁명을 예로 들어보겠습니다. 구글, 아마존과 같은 일부 스타트업은 정말 잘 했습니다. 동시에 마이크로소프트, 애플과 같은 인터넷 이전의 기존 기업들도 잘 했습니다. 따라서 AI의 부상으로 대형 클라우드 회사와 빅테크 회사들 중 일부는 매우 잘 할 것이라고 생각합니다. 하지만 빅테크 회사들이 하지 않을 많은 것들을 구축할 수 있는 스타트업들에게도 많은 기회가 있습니다. 모든 회사가 잘 할 수는 없겠지만, 기회는 많습니다.]

응 교수는 AI 연구의 최신 트렌드로 'AI agentic workflow'를 소개하고 있습니다.

'agentic workflow'란 인공지능의 추론 단계를 분할해 AI 모델이 스스로 산출 값을 비판적으로 점검하고 결과를 도출하도록 해 효율성을 높이는 새로운 연구 방식입니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 많은 사람들이 챗GPT나 제미나이(Gemini) 같은 대규모 언어 모델을 사용해 명령어를 입력해 에세이를 작성하게 합니다. 이는 AI에게 "첫 단어부터 마지막 단어까지 백스페이스를 사용하지 않고 에세이를 작성하세요"라고 요청하는 것과 비슷합니다. 사람들은 그렇게 잘 쓸 수 없습니다. 하지만 이 어려운 작업에도 불구하고 AI는 꽤 잘 해내고 있다고 생각합니다. 대조적으로 Agentic workflow는 AI가 에세이를 처음부터 끝까지 한 번에 작성할 필요가 없습니다. 대신에 에세이의 개요를 먼저 작성하게 하고 그 다음에 연구를 하게 하고 초안을 작성하게 하고, 초안을 비판하게 하고, 초안을 수정하게 합니다. 이러한 Agentic workflow를 통해 AI는 초안을 읽고, 생각하고, 수정하고, 다시 생각하고, 여러 번 반복하게 됩니다. 이 방법은 훨씬 더 나은 결과물을 만들어내며 이는 AI가 이전에 가능했던 것보다 훨씬 더 많은 것을 할 수 있게 하는 매우 중요한 기술 트렌드라고 생각합니다.]

이와 관련해 응 교수가 눈여겨보고 있는 기업 혹은 연구기관이 있는지 물었습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : Agentic workflow를 사용하는 많은 기업들이 있습니다. 다양한 연구 그룹과 몇몇 기업들이 Agentic workflow를 사용하고 있습니다. 몇 가지 이름을 들자면, 저는 'ChatDev'의 연구 논문의 작업에 정말 감명을 받았고 MetaGPT도 좋은 작업을 했다고 생각합니다. Devin은 소셜 미디어에서 바이럴된 데모였으며, AlphaCodium도 정말 좋은 작업을 했다고 생각합니다.]
 
현재 AI 알고리즘의 대세이자 챗GPT의 기반이 되는 트랜스포머 신경망 방식을 뛰어넘은 차세대 알고리즘이 나올 것인가.

[앤드류 응 / 미국 스탠퍼드대 교수 : AI에는 많은 연구가 있습니다. AI에서 흥미로운 작업을 하고 있는 사람들이 많아서 다음 돌파구가 어디서 나올지 예측하기 어렵습니다. 저는 트랜스포머 신경망이 최종 아키텍처가 될 것이라고 생각하지 않습니다. 실제로 다양한 모델과 알고리즘에서 많은 흥미로운 발전이 이루어지고 있어서 아마도 트랜스포머보다 더 나은 것을 생각해낼 수도 있습니다. 하지만 확실하지는 않습니다. 그러나 트랜스포머 네트워크는 매우 훌륭하므로 새로운 발명이 없더라도 트랜스포머를 변형한 방식이 지금까지보다 훨씬 더 나아갈 것이라고 생각합니다.]

응 교수는 한국이 AI 기술 발전을 위한 훌륭한 생태계를 갖고 있다면서, 한국 기업, 정부와 협력할 기회가 있기를 바란다고 밝혔습니다.

[앤드류 응 / 미국 스탠퍼드대 교수 : 제가 한국에 있는 것이 특히 흥미로운 이유는 한국이 매우 강력한 소프트웨어 생태계와 산업을 가지고 있기 때문입니다. 한국에는 네이버, 카카오 같은 기성 기업들뿐만 아니라 많은 스타트업들이 존재합니다. 한국 파트너와 제가 특히 AI를 수용하고 이 신기술을 활용할 수 있는 매우 유리한 위치에 있다고 생각합니다.]

(취재 : 홍영재, 영상취재 : 조창현, 영상편집 : 박춘배, 제작 : 디지털뉴스편집부)