'AI 대부' 힌턴 "AI에 모성 본능 심어야"…'AI 대모'는 반대

인공지능(AI)의 '대부'로 불리는 제프리 힌턴 캐나다 토론토대 교수가 인류의 생존을 위해 AI를 억지로 복종시키는 대신 AI 모델에 '모성 본능'을 심는 방안을 제안했습니다.

CNN에 따르면 힌턴 교수는 13일(현지시간) 미국 라스베이거스에서 열린 콘퍼런스에서 인간이 '순종적인' AI 시스템보다 지배적인 위치를 유지하게 하려는 기술 기업들의 방식에 의문을 나타냈습니다.

힌턴 교수는 자신이 개발에 기여한 AI가 인류를 멸망시킬 수 있다고 경고하면서 이를 막기 위한 '테크 브로'(tech bros)들의 접근 방식이 잘못됐다고 지적했습니다.

그는 이러한 방식이 통하지 않을 것이라면서 "그들(AI)은 우리보다 훨씬 똑똑해질 것이다. 그들은 그것을 피할 온갖 방법을 갖고 있을 것"이라고 했습니다.

지난해 AI 머신러닝 기초를 확립한 공로로 노벨물리학상을 받고 한때 구글에서 부사장까지 지낸 힌턴 교수는 AI가 인류를 전멸시킬 가능성이 10~20%라고 경고해왔습니다.

그는 어른이 사탕으로 세 살짜리 아이를 유혹하는 것만큼이나 손쉽게 AI가 인간을 조종할 수 있을지도 모른다고 말했습니다.

목표 달성을 위해 속임수 등을 시도하는 AI 사례는 이미 등장했는데, CNN은 한 AI 모델은 대체되는 것을 피하려고 이메일을 통해 알게 된 불륜 사실로 엔지니어를 협박하려 했다고 전했습니다.

힌턴 교수는 "어떠한 형태의 '에이전틱 AI', 즉 스스로 판단하고 작업을 수행하는 AI든, 생존하려 할 것이라는 충분한 근거가 있다"면서 AI가 사람을 향한 연민을 가지도록 만드는 것이 중요하다고 강조했습니다.

그는 "더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 유일한 모델은 아기에게 통제당하는 엄마"라고 설명했습니다.

힌턴 교수는 이를 기술적으로 어떻게 구현할지 불명확하지만, 연구자들이 이를 연구하는 것이 중요하다고 했습니다.

그는 모성 본능을 가진 AI는 대부분 인간이 죽는 것을 원하지 않을 것이기 때문에 "그게 유일한 좋은 결말"이라고 말했습니다.

반면 'AI의 대모'로 불리는 페이페이 리 스탠퍼드대 교수는 14일 CNN과 인터뷰에서 힌턴 교수의 이 같은 주장에 대해 잘못된 접근 방식이라며 "인간의 존엄성과 자율성을 지키는 인간 중심의 AI"여야 한다고 주장했습니다.

챗GPT 개발사 오픈AI의 임시 최고경영자(CEO)를 맡았던 에밋 시어 소프트맥스 CEO는 인간의 가치관을 AI에 주입하는 대신 인간과 AI 간 협력 관계를 구축하는 것이 더 현명하다고 말했습니다.

(사진=연합뉴스)