[스프] 인공지능 그 자체보다는 여기에 대한 대응이 미래를 결정할 것

뉴스페퍼민트 NewsPeppermint

"한국에는 없지만, 한국인에게 필요한 뉴스"를 엄선해 전하는 외신 큐레이션 매체 '뉴스페퍼민트'입니다. 뉴스페퍼민트는 스프에서 뉴욕타임스 칼럼을 번역하고, 그 배경과 맥락에 관한 자세한 해설을 함께 제공합니다. 그동안 미국을 비롯해 한국 밖의 사건, 소식, 논의를 열심히 읽고 풀어 전달해 온 경험을 살려, 먼 곳에서 일어난 일이라도 쉽고 재밌게 읽을 수 있도록 부지런히 글을 쓰겠습니다. (글: 이효석 뉴스페퍼민트 대표)

뇌의 신경망을 흉내 내 지적인 문제를 풀게 만들겠다는 야심찬 기술이 처음 등장했을 때 이들이 실제로 인간의 지적 능력을 흉내 낼 수 있게 될 거라 생각한 사람은 많지 않았습니다. 하지만 수십 년을 이 기술에 매달린 이들은 21세기 하드웨어의 발달과 더불어 2010년대 초 마침내 딥러닝이라는 이름으로 개와 고양이 사진을 인간만큼 구별해 낼 수 있었습니다.

그러나 그 시점에서도 여전히 다수의 사람들은 딥러닝이 그 이상을 보여줄 수 있을지 의구심을 가지고 있었습니다. 2016년, 이 기술에 기반한 알파고가 바둑에서 인간을 이기자 사람들의 흥분은 커졌습니다. 그리고 2022년, 생성AI 기술에 기반한 챗GPT는 거의 모든 질문에 대해 보통 사람보다 더 답을 잘하고 있습니다.

새로운 기술은 사람들을 놀라게 하며, 그 놀라움에는 자신이 이를 이해하지 못한다는 사실에 바탕한 두려움이 포함되어 있습니다. 그리고 그 두려움은 다양한 방식으로 표출됩니다. 물론, 영화 오펜하이머가 보여주듯, 어떤 기술은 실제로 역사를 바꾸고 수많은 사람들의 삶에 영향을 미치기도 합니다. 따라서 80년 전의 원자폭탄보다도 인류에 더 큰 영향을 미칠 것이라 예상되는 AI 기술에 사람들이 두려움을 느끼고 이를 경고하는 것은 어떻게 보면 당연한 일일 수 있습니다.

하지만 흥미로운 것은 AI의 위험에 대한 경고에는 여러 다른 주장들이 섞여 있다는 것입니다. 어떤 이들은 전형적인 SF 영화의 내용처럼 AI가 인간이라는 종 자체를 지배하거나 말살할 것이라 생각합니다. 반면, 어떤 이들은 이런 두려움을 코웃음치며 그보다 지금 AI가 사용되는 방식에서 이 시대에 맞는 도덕을 AI가 따르지 못한다고 지적합니다. 그리고 AI 기술을 마치 원자폭탄처럼 적국과 같이 다른 집단에서 차지할 경우 일어나게 될 위험을 이야기하는 이들도 합니다.

지난 9월 28일 뉴욕타임스의 오피니언 란에는 이런 AI의 위험에 대한 경고를 이해하기 위해서는 그 주장을 하는 이들의 이해관계를 함께 보아야 한다는 글이 실렸습니다.


브루스 슈나이어는 하버드 케네디 스쿨의 강사로 '당신은 데이터의 주인이 아니다'의 저자이며 저와는 출간 당시 이메일 대담을 나눈 적이 있는 보안 전문가입니다.

이들은 AI 위험에 대한 경고를 명쾌하게 세 진영으로 구분합니다. 첫 번째 진영은 종말론자 진영으로 AI가 무소불위의 힘을 가지고 있으며 따라서 AI 개발에 극단적인 조심을 해야 한다고 말합니다. 흥미로운 것은 제프리 힌턴이나 요슈아 벤지오와 같은 AI 기술을 가장 잘 알고 있는 학자들이 상당수 여기에 속해 있다는 것입니다. 이들은 최근 AI 연구를 모두 멈추자는 제안을 하기도 했습니다. 하지만 이들의 말처럼 AI가 인간이 통제할 수 없는 또 다른 지성이 될 가능성에 동의하기는 어렵습니다.




(남은 이야기는 스프에서)