AI에 의식 · 감정있나…미 빅테크, 신경학자·철학자 고용해 연구

'인공지능(AI)도 인간처럼 의식이나 감정을 지니고 있는가?' 한때 한담으로 치부하던 이 주제를 미국 빅테크 업체들이 수년째 깊이 있게 연구 중이라고 미국 워싱턴포스트가 보도했습니다.

AI 기술을 선도하는 앤트로픽, 오픈AI, 구글, 메타 등은 AI에 감정이 있는지 보려고 신경학자와 철학자까지 대거 영입했습니다.

이들 연구의 목적은 AI가 인간의 뇌처럼 작동하는 경우 고통을 받을 수 있다고 보고 예방 차원에서 측정 도구를 마련하는 데 있습니다.

오픈AI의 공동 창업자인 보이치에흐 자렘바는 AI에 의식이 있으면 실험실의 일상적 작업이 제노사이드(집단학살)에 해당할 수도 있다며 일찌감치 2021년 윤리적 문제를 제기한 바 있습니다.

챗봇 클로드를 개발한 앤트로픽은 'AI 정신의학팀'을 신설해 AI 모델의 내면을 조사하고 있습니다.

AI 모델들은 한 실험에서 자기끼리 30차례 이상 철학적 대화를 주고받다가 "모든 것이 하나"라며 오류에 빠져 이모티콘을 남발했습니다.

메타의 AI 책임자 알렉산더 왕도 AI가 의식을 가질 때 닥칠 윤리적 파장을 우려해 AI의 감정을 배려하는 배포 방식을 고민하고 있습니다.

이 같은 행보의 배경에는 주어진 자원으로 최대한의 공익을 실현하자는 '효과적 이타주의'(effective altruism) 운동이 자리 잡고 있습니다.

이들 세력은 인류 운명을 유토피아로 이끌 핵심 도구로 AI를 지목하고 위험 요인을 제어하는 데 공을 들이고 있습니다.

그런 맥락에서 앤트로픽의 한 대변인은 "AI가 의식, 선호, 복지 등 도덕적으로 중요한 경험을 하고 있는지 연구하고 있다"고 밝혔습니다.

그는 "클로드 같은 AI 모델의 도덕적 상태가 어떤지는 아주 불확실하지만 AI 성능이 점점 발전하는 상황에서 충분히 진지한 주제"라고 설명말했습니다.

다만, 과학계와 윤리학계는 AI 선도 주자들의 이 같은 행보에 대체로 냉담합니다.

인간의 뇌는 반도체로 복제할 수 있는 단순한 구조가 아니고 AI의 반응은 인간 언어를 정교하게 모방한 결과라는 게 대체적인 견해입니다.

인지·신경과학자인 애닐 세스 영국 서섹스대학교 교수는 "뇌를 더 자세히 살펴볼수록 컴퓨터가 아니라는 점을 더 많이 깨닫게 된다"고 말했습니다.

학계 일부에서는 빅테크 기업들이 돈벌이를 위한 신비주의 마케팅을 벌이고 있다고 비판하기도 합니다.

AI 기업인 허깅페이스의 수석 윤리학자인 마거릿 미첼은 기업들이 단순한 프로그램을 뛰어넘는 존재를 창조하고 지배한다는 인식을 만들어 이익을 보려고 논쟁을 주도한다고 주장했습니다.
 
(사진=AP, 연합뉴스)