노벨물리학상 힌턴 "초지능 AI 실존적 위협…공상과학 아냐"

올해 노벨상을 받은 각 분야 석학들이 10일(현지시간) 수상 소감을 통해 인공지능(AI)의 발전에 따른 부작용을 우려하며 인류가 경각심을 갖고 AI에 접근해야 한다고 촉구했습니다.

노벨물리학상 수상자인 제프리 힌턴 캐나다 토론토대 명예교수는 이날 2024 노벨상 시상식 이후 연회에서 "우리보다 더 지능적인 디지털 존재를 만들 때 발생할 수 있는 장기적인 실존적 위협이 있다"며 인간의 지능을 뛰어넘는 초지능(슈퍼 인텔리전스)의 등장을 우려했습니다.

힌턴은 "우리가 이를 통제할 수 있을지 여부는 알 수 없다"며 "하지만 단기적 이익을 추구하는 기업이 이런 기술을 만든다면 우리의 안전이 최우선 순위가 되지 않을 것이라는 근거가 있다"고 지적했습니다.

그러면서 "이 새로운 존재가 통제권을 장악하려는 것을 어떻게 막을지에 대한 연구를 시급히 할 필요가 있다"며 "이건 더 이상 공상과학 소설이 아니다"라고 경고했습니다.

힌턴 교수는 지난 7일 기자회견에서도 "예전에는 초지능 개발 시기가 훨씬 더 늦을 것이라고 생각했으나 최근의 개발 속도를 보면 5∼20년이면 될 것 같다"면서 "어떻게 (AI에 대한) 통제력을 유지할 수 있을지 심각하게 걱정해야 한다"고 지적한 바 있습니다.

아울러 그는 이날 "AI의 급속한 발전은 많은 단기적 위험을 수반하고 있다"고도 꼬집었습니다.

특히 힌턴은 "이미 AI는 사람들을 분노하게 만드는 정보를 제공해 분열을 일으키는 반향실(divisive echo-chambers)을 만들었다"며 "이미 권위주의 정부는 대규모 감시를 위해, 사이버 범죄자들은 피싱 공격을 위해 AI를 이용하고 있다"고 지적했습니다.

AI가 제공하는 정보들로 인해 사람들이 자신의 신념과 일치하는 정보만을 반복적으로 수용·소비함으로써 기존의 신념이 더욱 강화되는 이른바 '반향실 효과'(echo chamber effect)가 일어나고 있다는 것입니다.

힌턴은 아울러 "가까운 미래에는 AI가 끔찍한 신종 바이러스와 누구를 죽이고 불구로 만들지 스스로 결정하는 무시무시한 살상무기를 만드는 데 사용될 수 있다"며 "이러한 모든 단기적 위협에 대해 정부와 국제사회기 긴급하고 강력히 관심을 가져야 한다"고 촉구했습니다.


노벨경제학상 수상자인 다론 아제모을루 미국 MIT 교수도 같은 자리에서 위협받는 민주주의, 기후 변화, 급속한 고령화 등과 함께 AI를 당면 과제로 언급하며 "이제 AI는 모든 곳에서 모든 것을 (혼란에) 빠뜨릴 것을 예고하고 있다"고 경고했습니다.

다만 그는 "제도는 언제나 선택의 문제"라며 "우리는 더 나은 제도를 만들고 더 많은 좋은 일자리를 창출하는 기술의 방향을 선택할 수 있다"고 강조했습니다.

이어 그는 학자들이 AI 시대에 공동 번영을 보장하는 방법에 대한 큰 질문을 제기하고자 던지기 위해 새로운 영역들을 탐구하는 과정에서 "공동의 노력이 필요하다"고 역설했습니다.

노벨화학상을 받은 컴퓨팅생물학자 데이비드 베이커 미 워싱턴대 교수는 많은 이들이 앞으로의 일을 걱정하지만 자신은 "오늘 밤 미래에 대한 희망에 초점을 맞추고자 한다"고 말했습니다.

그러면서 단백질 구조를 파악하는 인공지능(AI) 모델 '알파폴드'를 개발한 공로로 자신과 함께 노벨화학상을 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO), 딥마인드 연구원 존 점퍼를 거론하며 이들의 연구가 "생물학 연구에 혁신적인 영향을 미치고 있으며 의심할 여지없이 신약 개발에 기여할 것"이라고 강조했습니다.

이어 그는 이런 발전이 "세상을 더 나은 곳으로 만들 것이라고 확신한다"고 덧붙였습니다.

(사진=연합뉴스)