한참 채용철에 접어들고 있습니다. 저희 부서에서도 지난주 인턴들을 뽑았는데요. 경쟁률이 높다 보니 3배수를 추려서 온라인으로 인터뷰를 진행했습니다. 이렇게 온라인으로 인터뷰할 경우에 대한 흥미로운 탐사보도가 2021년 독일 바이에른 방송[1]에서 있었습니다. AI 기반 채용 시스템에 대한 실험이었습니다.

인터뷰이의 대답은 같고 배경만 바꿨는데, 배경이 없을 때에 비해 책장이 배경일 때, 성실성, 외향성, 개방성, 우호성 항목에서 더 높은 점수를 받았습니다. 신경성 같은 부정적인 항목은 낮아지는 효과를 보였습니다.

또 조명만 조금 더 밝게 해도 우호성, 외향성, 성실성, 개방성의 점수가 높아졌습니다.

지난 7일, 과학기술정보통신부가 주최하고 한국과학기술단체총연합회와 20개 재외한인과학기술자협회가 주관한 '2026 세계한인과학기술인대회'의 기조연사로 등단한 차미영 독일 막스플랑크 연구소 보안 및 정보보호연구소 단장은 위와 같은 AI 채용 평가사례는 우리가 그 맹점을 인지만 하면 대처할 수 있다고 강조했습니다. 하지만 더 심각한 경우는 인지도 되지 않고 보이지도 않는 경우라고 했습니다.

2년 전 한국인으로서는 최초로 독일 막스플랑크 연구단장에 부임한 차미영 카이스트 교수를 만나 더 자세한 얘기 들어봤습니다.

독일 막스플랑크 연구소는 과학에서부터 인문사회에 이르는 다양한 분야의 연구를 아우르며 독일 전역 80여 곳의 연구소를 결합한 기관입니다. 전신은 1911년 만들어진 카이저 빌헬름 학술진흥협회였는데, 1948년, 2차 세계대전 이후 조직을 재편하면서 양자물리학의 창시자이자 노벨물리학상 수상자인 막스플랑크[2]의 이름을 따 새롭게 '막스플랑크 연구소'로 출범했습니다.

Q. 독일 막스플랑크 연구소에서는 AI 관련은 어떤 연구들이 이뤄지고 있는지 궁금합니다.

AI관련 연구를 다루는 연구소가 여러 개 있는데요. 일단 코어 AI모델링을 다루는 AI분야의 세계적인 분들이 계시는 튀빙겐 있는 연구소가 있고, 저희 연구소에서는 보안 및 정보보호 연구소니까 아무래도 AI로 인해 나올 수 있는 어떤 사회여파, 문제 같은 것을 다루고 있습니다. 소프트웨어 시스템 연구소에서는 AI시대에 만들어지는 코드 같은 것이 어떻게 하면 안전하고 에러가 없게 할 수 있을지 등 소프트웨어 버그를 찾습니다. 그리고 인포머틱 연구소라고 해서 AI에서 다루는 데이터베이스를 어떻게 안전하게, 또 큰 데이터를 많이 다루면서 어떻게 하면 효율적으로 데이터를 처리할 수 있을까를 연구하는 곳도 있습니다.

[2] 막스 플랑크는 독일의 이론물리학자로 아인슈타인과 함께 현대 물리학의 토대를 만든 인물이다. 특히 에너지의 최소단위인 '양자' 개념을 제시해 1918년 노벨물리학상을 받았다.

©한국과학기술단체총연합회 (회장 권오남, 서울대 교수)

차미영 단장은 기조강연에서 요즘 AI 분야에서 가장 주목받는 연구는 거대언어모델의 블랙박스를 들여다보는 'AI 메커니즘 해석 연구'라고 했습니다. 뇌 활동에 따른 혈류와 산소 포화도의 변화를 통해 활성화된 영역을 간접적으로 파악하는 fMRI처럼, 거대언어모델이 질문을 처리하고 답변을 만들어내는 과정에서 어떤 개념과 정보, 연산 경로가 활성화되는지, 인공 신경망의 내부를 추적하는 연구입니다.

Q 기조강연 때 AI관련해서는 요즘 '메커니즘 해석 연구' 즉 거대언어모델의 블랙박스 연구가 가장 각광받는 연구라고 하셨는데요.

'AI 메커니즘 해석 연구'의 목적은 AI가 요즘 중요한데 의사 결정이 어떻게 되는지 도저히 알 수 없는 블랙박스처럼 베일에 가려 있어서 그 안을 들여다보는 것에서 시작됐어요. 신경과학이나 뇌과학에서 엔그램(engram)[3]이라고 하면 우리가 어떤 생각을 할 때 기억이 머릿속에서 어떤 신경망을 타고 흘러가서 뭔가를 결정할 텐데, 그 결정의 자취를 찾아는 것이 엔그램이거든요. 같은 원리를 AI 신경 모델에 적용하는 거죠. 수조 개가 되는 많은 파라미터 중에 어떤 입력 값이 나왔을 때 '이 영역을 지나서 어떤 계산을 했을거야' 하고 추리를 정확하게 알 수 있다면 계산이 잘못됐어도 그 부분을 고치면 되거든요. 그래서 그 '메커니즘 해석 연구'라는 것이 AI가 어떻게 결정하는지 속을 들여다볼 수 있게 도와주는 툴입니다. 이 연구는 이제 막 시작됐고요. 세계 곳곳에서 다양한 아이디어가 나오고 있는데, 앞으로 굉장히 많은 혁신이 이쪽에서 나올 것이라고 예측하고 있습니다.

[3] 엔그램이란 어떤 경험이나 정보가 기억으로 저장되면서 뇌에 남긴 물리적·신경학적 흔적, 즉 기억의 흔적을 의미한다.

 

특히 보안의 관점에서는 AI기술이 가미되면서 허위조작정보의 추적이 더 어려워지고 수법이 더 고도화되고 있다고 했습니다. 예를 들어 과거에는 '봇넷[4]과 트롤 팜[5]'이라고 해서 특정 조직이 사람들을 동원하든 자동화된 계정을 활용하든 여러 계정을 만들어 여론을 조작했는데, 그때는 여론을 조작하는 조직만 추적이 되면 해결이 될 수 있었습니다. 그리고 이 단계에서는 패턴이 비교적 단순했습니다. 동일한 문장, 비슷한 게시 시간, 반복적 리트윗 구조 등이 나타났기 때문입니다.

[4] 봇넷(Botnet)이란 악성 봇 네크워크로 번역되며 악성코드에 감염되어 해커의 조종을 받는 컴퓨터들의 네트워크를 말한다.
[5] 트롤 팜(Troll Farm)은 흔희 '댓글부대'라고도 번역되며 특정 정치적·상업적 목적을 갖고 조직적으로 가짜 뉴스, 악성 댓글, 비방글을 유포하는 집단이나 기관을 뜻한다.

그러다 단순 거짓말의 유포뿐 아니라 거기에 인지조작이 가미돼 예를 들어 분노할 경우 사람들이 더 많이 확산한다는 점을 이용해 사람들의 분노를 자아내는 방식이 덧붙여지는가 하면 일반인들에게도 돈을 주어 광고를 작성케 하기 시작했습니다.

하지만 AI 시대 가장 우려해야 하는 방식은 '사용자 가장 AI의 집합'입니다. 여러 AI 에이전트가 서로 정보를 주고받으며 역할을 나눠 주변을 에워싸고 거짓 허위 정보를 내보내는 경우입니다. 에이전트들이 네트워크 안에서 군집으로 전략을 짜고 협력하여 공격하면 우리는 그것이 AI에 의한 것인지 아닌지 구별이 거의 되지 않은 상황에서 가짜 다수의 의견이 합의된 내용이라 믿게 될 수 있다는 것인데요. 실제 이렇게 되면 '나는 많은 사람들과 얘기를 나누고 있다'고 생각하고 있었는데, 사실은 '나 혼자 사람일 수도 있는 상황이 도래할 수 있다'고 했습니다. 차미영 교수는 이처럼 실제 사용자를 가장하는 AI 집합이 여론을 조직적으로 조작할 경우, 민주주의 자체가 와해될 수도 있다고 올해 초 '사이언스'에 발표한 공동 논문에서 경고했습니다.

Q. 아까 허위조작 정보 기술 얘기하신 것도 아까 기조 강연에서 굉장히 인상적으로 봤는데요. 끝에 말씀하신 '사용자인 척 가장하는 AI 집단'에 둘러싸여서 그들이 사람인지 아닌지도 모르는 상태에서 뭔가 허위 정보에 계속 둘러싸여 속을 수밖에 없게 될 수도 있겠다는 두려움이 생겼는데 그런 식의 시대가 된다고 어떻게 해야 하나요?

지금 '그런 시대가 온다면'이라고 말씀하셨는데, 이미 그런 서비스가 여러 개가 존재하고 있습니다. 그런 채팅방에 들어가면 모두 자신을 환영하고 내가 하는 말은 다 옹호해 주는데, 학계에서는 이것을 '합성적 관계(Synthetic relationship)'[6]이라고 표현합니다. 인간이 아닌 어떤 객체와 같이 대화를 하기 시작하면서 그 객체는 나에게 항상 긍정적으로 말하고 내가 어떤 말을 하든 반응을 해 주기 때문에 더 이상 진짜 사람과 대화를 하지 못하는 극의 현상으로 갈 수도 있다는 우려가 나오고 있고요. 보통 우리가 인간과 인간 사이에서는 소통 중 어떤 매끄럽지 않은 부분을 깨닫고 조율해가면서 점점 성숙해 가는데 그런 걸 못하는 사람이 될 수도 있습니다. 또 계속 인간이 아닌 객체와만 대화를 하면 여기에 의존적으로 될 수밖에 없을 수도 있지 않을까하는 우려도 나오고 있습니다.

[6] 합성적 관계는 인간과 AI사이의 지속적으로 형성되는 관계를 의미하며 이 단계가 되면 AI는 단순한 도구가 아니라 조언자, 동료, 보호자, 친구처럼 관계 속 역할을 맡게 돼 AI의 의존도가 높아지는 것으로 나타나고 있습니다.

Q. 교수님은 2012년 저희 SDF 연사시기도 했는데요. 그때만 해도 SNS가 막 커가고 있는 때라 '파라 소셜[7]에서 소셜로'라는 제목 아래 SNS 시기 어떻게 공존하면서 잘 살아갈 수 있을까를 당시에는 논의를 해 주셨었는데요. 그때만 해도 사실 SNS에 대해서 저희가 굉장히 희망적으로 더 많이 생각했던 것 같은데, 지금 뒤돌아서 생각하면 분열, 중독, 허위정보 확산 등 반성할 점도 많은 것 같아요. AI기술도 초기인데 SNS의 교훈에 힘입어 무엇을 지금 들여다봐야 할까요?

AI기술은 초기지만 SNS와 비교하면 사회 전체를 바꿔놓을 수도 있고, 국가 전체를 뒤흔들 수도 있잖아요. 지금 가장 큰 문제로 떠오른 것 중에 하나는 AI 모델을 외국에 의존하다 보니까 (앤트로픽이 출시한 최첨단 AI 모델 시리즈) '미토스'나 '페이블' 같이 갑자기 못 쓰게 하는 경우가 있으면 우리는 최첨단 모델에 대한 액세스조차 없는 상태가 될 수 있는 거잖아요. 그러니까 1등은 아니더라도 차선의 모델 2등 3등의 모델을 갖고 있는 것 자체는 너무 중요한 것 같아요.

그리고 AI 시대에는 스스로 사유하는 능력을 기르는 것이 너무 중요하다고 생각합니다. 저만 해도 긴 이메일이 오면 예전에는 다 읽고 내가 빠르게 답을 해야지 하는 마음이 있었는데, 이제는 AI에게 이메일 주고 요약해줘 하고, 답장을 쓸 때도 AI에게 답장을 쓰라고 할 때가 있어요. 어떻게 보면 우리가 진짜 사유를 하고 있는 것인지 아니면 AI가 몇 가지 제안을 해주면 그중에서만 고르고 있는 것은 아닌지 생각하게 됩니다. 그러다보니 요즘 중, 고등학생들 중에는 AI를 혐오하고 안 쓰는 새로운 신종 트렌드도 나오고 있다고 최근 다나 보이드[8]라는 유명한 사회학자는 보고하고 있기도 합니다.

[7] 파라소셜이란 1956년 사회학자와 심리학자들이 TV 진행자와 시청자의 관계를 설명하기 위해 처음 사용한 개념으로, 시청자는 진행자를 잘 아는 친구처럼 느끼지만, 진행자는 시청자를 전혀 알지 못하는 일방향의 친밀감을 의미한다.

[8] 다나 보이드는 디지털 사회를 연구하는 가장 영향력 있는 사회과학자 중 한 명으로 특히 소셜미디어, 청소년 문화, 알고리즘, AI, 디지털 권력을 연구해 왔다. 마이크로소프트 연구소에서 16년 넘게 활동하다 현재는 코넬대 커뮤니케이션 교수로 재직중이다.

차미영 교수는 독일 막스 플랑크 연구소에서 일하면서 다양한 다학제적 전문가, NGO들과 일할 수 있는 기회가 있는 것도 큰 장점이지만 가장 큰 차이는 연구비 구조라고 했습니다. 막스 플랑크 연구소에서는 정년 퇴임 때까지 해마다 연구비를 안정적으로 받게 되어 있는 구조라고 했는데요. 그렇다 보니 연구비를 딸 만한 주제를 연구로 삼는 게 아니라 사회에 최대한 많이 환원하려면 뭘 해야 할까 하는 방식으로 생각을 하게 된다고 했습니다. 그러다 보니 인류의 존속에 더 중요한 문제는 무엇인지, 인류가 다 같이 오랫동안 행복하게 살아가기 위해 더 중요한 문제는 무엇인가를 생각하게 된다고 하는데요. 그런 관점에서 현재 가장 관심을 갖는 연구는 'AI 메커니즘 해석 연구'이고, 그 연구를 통해 인공지능의 편견과 편향을 바로잡을 수 있을 것이라 기대한다고 했습니다.

그러면서 연구원들도 최근 AI가 코딩도 더 빠르고 우수하게 하면서 분석도 잘 하다보니 나의 역할은 무엇인가 우려하기도 하는데, 전 세계로 봤을 때는 인공지능 기술을 제대로 알고 쓰고 있는 사람, 실제 코딩을 돌려본 사람은 극히 소수일 것이라고 생각된다고 했습니다. 세계 인구의 4분의 1은 아직 인터넷도 못 쓰고 있는 현실이라면서 말입니다. 그러면서 AI가 인간의 역할을 빼앗을 것이라는 생각에만 머물기보다는 인류 전체의 관점에서 기술을 어떻게 하면 더 많은 사람에게 연결할 수 있을지를 고려한다면 우리가 어떤 역할을 해야하는지 더 희망적인 관점을 가질 수 있게 될 것이라고 강조했습니다.

(글: 이정애 기자, calee@sbs.co.kr)