유발 하라리 "무지·공포 아닌 이해에 기반한 AI 규제 필요"

"인공지능(AI)은 폭발적인 힘을 가진 기술인만큼 이런 기술을 시장이나 기업이 스스로 규제하도록 맡기는 것은 위험합니다. 정부나 대중이 AI의 개발과 규제에 훨씬 더 큰 역할을 해야 합니다." 베스트셀러 '사피엔스'와 '호모 데우스'의 저자 유발 하라리 이스라엘 히브리대 교수는 13일 서울 이화여고 100주년기념관에서 열린 기자간담회에서 AI 발전에 따른 위험성을 경고하며 규제가 필요하다고 주장했다.

신간 '호모 데우스'는 인류가 생명공학과 AI라는 힘을 통해 스스로를 '신'으로 업그레이드하려 하며 이를 통해 세상이 어떤 영향을 받게 될 것인지를 살피는 책이다.

하라리 교수는 "여기서 말하는 신은 은유가 아니라 문자 그대로 '신'(God)이 된다는 것"이라면서 "생명을 창조하고 파괴하는 능력을 갖춘 신처럼 인간도 AI와 생명공학의 힘을 빌려 생명체를 만들고 변화시키려고 노력하고 있다"고 말했다.

"우리가 새로운 힘을 얻고 있지만 세계가 얼마나 복잡한지, 우리가 하는 행위가 어떤 결과를 가져올지에 대한 이해는 제한적이죠. 우리가 조심하지 않으면 역사상 인간이 창조한 사회 중 가장 불평등한 사회가 될 수도 있습니다. 그런 것들이 이 책의 주제입니다." 하라리 교수는 AI의 규제 필요성을 이야기하면서도 이때 규제는 무지나 공포가 아닌 이해에 기반을 둬야 한다고 강조했다.

사람들이 지능과 의식을 혼동해 현실성이 없는 문제는 지나치게 우려하고 정작 우려해야 할 문제에 대해서는 전혀 우려하지 않고 있다는 지적이다.

"지능은 문제 해결 능력이고 의식은 고통이나 사랑, 쾌락, 증오를 느낄 수 있는 능력입니다. 우리가 AI에서 개발하는 것은 지능뿐이죠. 컴퓨터가 의식을 가질 수 있느냐의 문제는 전혀 진전이 없죠. 예를 들어 로봇이 의식과 욕망, 감정을 얻게 돼 인간을 죽이려 하는 것 같은 공상과학 소설이나 영화 내용은 지금으로써는 확률이 거의 없고 아직은 그런 걱정을 하기에는 이릅니다. AI에는 여러 가지 긍정적인 잠재력도 있는데 공포나 무지로 인한 과잉규제로 이런 잠재력을 잃게 된다면 그것도 무척 유감스러운 일이죠." 그는 무서운 것은 "AI와 로봇이 소수의 인간에게 엄청난 힘을 주고 인류 대부분은 힘을 뺏기게 되는 경우"라고 주장했다.

"경제에서 인간이 하는 일을 컴퓨터가 대신하기 위해 컴퓨터가 의식을 가질 필요는 없죠. 그렇지만 수많은 사람이 일자리를 잃고 정치력을 잃고 산업을 지배하는 몇몇 엘리트의 손에 힘이 집중될 수 있습니다. 그래서 규제는 필요하지만 바람직한 규제를 위해서는 정부와 대중이 신기술에 대해 교육을 받아야만 합니다. 또 규제는 반드시 산업계와 협력을 통해 이뤄져야 하며 정부가 일방적으로 명령해서는 안 될 것입니다." AI로 대표되는 4차 산업혁명의 실체가 불분명하다는 지적도 있다.

하라리 교수는 이에 대해 "AI와 생명공학이 합쳐졌을 때 경제 전체가 완전히 바뀌는 것은 상당히 가능성이 큰 아이디어"라며 "20년 정도 지나면 모든 경제 전반에 혁명적인 변화를 일으킬 잠재력이 있다"고 예측했다.

"이 때문에 정부나 국가가 이런 4차 산업혁명을 어떻게 준비해야 하는가 충분한 논의하는 것은 매우 중요합니다. 그러나 이런 일을 자유시장에 맡길 수만은 없습니다. 왜냐면 자유시장은 자기 시장을 위해 작동하지 사람에게 뭐가 최선인지를 위해 작동하는 것은 아니기 때문이죠. 생태계 문제를 보세요. 자유시장은 생태계와 지구를 전혀 보호하지 못했고 반대로 엄청난 생태계 위기를 불렀죠. 누구도 어떻게 해결해야 할지 모릅니다." 그는 미래사회에 어떻게 대응해야 할 것인지에 대해 현재로는 "답이 없다"고 했다.

다만 미래를 맞이할 세대에게 어떤 구체적 기술이나 정보보다는 변화하는 시대에 대처할 수 있는 능력을 키우는 것이 최선이라고 말했다.

"우리는 역사상 어느 때보다 여러 가지 지식을 갖고 있지만, 역사상 어느 때보다도 미래를 예측할 능력이 적은 시대를 맞고 있습니다. 지금 2040년이나 2050년이 어떤 모습일지 전혀 알 수가 없잖아요. 40년 후 아이들에게 뭘 가르쳐야 할지 예측하는 게 불가능해요. 40년 후에는 드론(무인기)과 로봇이 전쟁하고 있을 수 있고 행정부문에서는 알고리듬이 훨씬 중요할 수도 있거든요. 어떻게 대처해야 할지 답은 없을 것입니다. 다만. 지금 이 시점에서 아이들에게 가르칠 수 있는 가장 최고의 기술은 혼돈, 무지, 변화의 상태에 대처하는 법이죠. 구체적인 정보나 기술을 가르치는 데 집중하기보다는 정신적 균형이나 유연성을 기르는데 더 많은 투자를 해야 하지 않을까 생각합니다." 하라리 교수는 역사학, 그중에서도 중세군사학을 전공한 역사학자지만 '사피엔스'와 '호모 데우스'에서 볼 수 있듯이 정치, 경제, 사회, 문화 등 광범위한 영역을 넘나들며 연구하는 것으로도 유명하다.

"학자는 일반적으로 특정 분야를 깊게 파고들고 저도 예전에는 그렇게 했죠. 그러나 정말 큰 질문에 답하려면 광범위한 분야의 책을 읽지 않고는 불가능해요. 물론 그런 접근법에도 위험이 있죠. 사실(fact)과 세부 내용과 정보의 바다에 빠져 익사할 수 있죠. 초점을 잃고 일관된 큰 그림을 보지 못하고 여러 가지 연구나 책에 질질 끌려갈 수 있습니다. 그래서 명상을 통해 집중하고 정신적 균형을 유지하려 합니다. 저는 하루 두 시간씩 명상합니다. 아마 명상이 없었으면 '호모 데우스'같은 책은 나오지 못했을 겁니다." 그는 다음 책의 계획을 묻자 "좀 더 봐야 하겠지만 '사피엔스'에서 과거를, '호모 데우스'에서 미래를 다뤘으니 다음 책은 현재에 대한 책이 되지 않을까 싶다"고 말했다.

(연합뉴스)