[취재파일] AI 시대, 우리가 진짜 준비해야 할 것은?

코로나19가 일상을 멈추고, 아무도 예상하지 못한 방향으로 세상을 바꾸어 놓는 사이에도 진격의 발전으로 우리 삶을 변화시키고 있는 존재가 있습니다. 바로 AI, 인공지능 기술입니다. AI(인공지능)는 이미 제조, 의료, 금융 등 우리 사회 각 분야에서 다양하게 활용되고 있습니다. 하지만 아직 그 활용 범위와 영향을 가늠할 수 없기에 늘 막연한 두려움과 기대감이 공존하는 영역이기도 합니다. 앞으로 더 거대해질 'AI 시대'를 살아갈 우리는 무엇에 주목해야 할까요? 카이스트 전산학부 김주호 교수에게 들어봤습니다.


SBS 미래팀에서 카이스트 전산학부 김주호 교수를 화상으로 만났습니다.

김주호 교수는 사람과 기술을 함께 고민하는 '인간-컴퓨터 상호작용(HCI)'을 연구하는 학자로 집단지성, 데이터 마이닝, 인공지능 등의 기법을 활용하고 설계하며 사람과 기계가 윈-윈하며 공존할 방법을 모색하고 있습니다.
"인공지능 기술이 이제 단순히 '와우 팩터(wow factor)'를 넘어 실제 제품 서비스, 우리 피부에 와 닿는 무엇인가로 오기 위한 언덕을 넘는 단계로 보인다"고 진단한 김주호 교수는 앞으로 AI의 '설명 가능성', '투명성'이 큰 화두가 될 것으로 내다봤습니다.

빅데이터와 복잡한 알고리즘에 기반해 사용자의 일상에 영향을 미치는 의사결정, 추천, 예측을 내놓는 머신러닝 기술에서 그 결과의 근거와 과정의 타당성을 제공하지 못하는 '블랙박스' 현상이 일부 벌어지면서 '편향성'에 대한 논란이 끊이지 않고 있기 때문입니다. 김주호 교수는 이를 최근 인공지능 기술의 트렌드와 연관해 설명합니다.


'설명 가능한 AI' XAI (Explainable AI) 중요성 대두


김주호 카이스트 전산학부 교수 :
"최근의 인공지능 기술 트렌드는 데이터를 거의 양과 규모로 승부하는 규모의 경제로 가고 있는 추세인데요, 지금 사실 딥러닝의 기술이 조금 그런 분위기가 있거든요. 기술적으로 새로운 패러다임이 완전히 등장하지 않는 이상은 그 기술적인 추세를 당장 뒤집기는 어려울 것 같습니다. 사실 '양'을 쏟아 부어서 잘 된다고 하면 뭔가 멋있어 보이지는 않지만, 한편으로는 굉장히 잘 되는 측면이 있죠. 그렇다 보니 일단 데이터가 어마어마하게 필요하고, 그 안에서 '편향성'에 대한 고려를 충분히 해서 데이터를 잘 모으는 것이 더 중요해지는 것 같습니다.

그런 것들을 해결하기 위한 여러 가지 시도들이 있습니다. 최근에 유럽에는 GDPR(개인정보보호규정)에서 점점 그런 규제들이 추가되고 있더라고요. '설명 가능성'이 담보가 돼야 한다. 예를 들면 누가 카드 신청을 했는데 '거절당했다'고 하면 그 알고리즘이 어떤 기준으로 판단해서 (거절)했는지를 설명해 줘야 할 의무가 있고, 그런 규정들이 점점 생기는 것 같아요. 기업에서 회계감사를 하듯이 '알고리즘과 데이터에 대한 감사를 하겠다'라는 움직임도 점점 나오고 있고요. '투명하게 보겠다'라는 것이죠. AI가 너무 복잡하고 많은 데이터를 활용하다 보니까 자기가 판단을 내려도 '왜?'에 대한 설명을 할 수가 없기 때문에 제대로, 중요한 의사결정에 쓰이는 알고리즘들이 과연 편향성으로부터 자유로운지, 이런 것들을 이제 제3자가, 정부 기관이나 에이전시 같은 데서 감사를 하겠다는 얘기도 나옵니다.

특히 미국 같은 경우는 실제로 법원에서도 재소자의 구속 여부를 결정하는 인공지능이 활용되고 있고, 정부의 자원 같은 것들을 배분하는, 예를 들면 무료급식 대상자를 선정한다든가, 생활보호 대상자를 선정하는 그런 것들도 다 AI로 하고 있고요. 그런 것들이, 점점 중요한 결정들이 이렇게 AI로 많이 넘어가는 상황에서, 투명성과 설명 가능성이 굉장히 큰 화두가 될 것으로 봅니다."
 
세계적인 베스트셀러 '대량살상 수학무기'의 저자, 캐시 오닐 박사(데이터 과학자) 역시 SDF2018에서 "데이터 알고리즘이 기존의 사회적 편견과 선입견을 강화해 우리 삶에 영향을 끼칠 수 있다"고 강력히 경고한 바 있습니다. 빅데이터를 기반으로 한 알고리즘 모형의 한계가 민주주의를 위협하고, 나아가 우리 인류를 위협하는 '대량살상 수학무기'가 될 수 있다는 것입니다. 알고리즘이 많은 것을 판단하는 상황이라면 이 알고리즘이 어떻게 작동하는지, 또 공정한지, 어떤 데이터에 기반한 것인지 우리는 알아야 하고 그 권리를 주장해야 한다는 것이죠. 그는 대중들이 생각하는 것처럼 알고리즘은 전혀 객관적이지도 않으며, 흔히 생각하는 과학적 도구, 진실이 아니라고 강조 합니다.


일상화 되는 인공지능, 사람과 AI의 관계는?
"AI를 보는 관점의 전환 필요"

꽤 오래전부터 예고됐던 인공지능발 일자리 지형 변화도 팬데믹과 맞물려 가속화되고 있습니다. AI라는 기술이 우리 일상에 더 깊이 스며들 미래, 인간이 느낄 무력감에 대한 우려도 나오는데요. 김주호 교수는 AI와 인간의 관계에 '담론'을 바꿀 것을 제안합니다.


김주호 카이스트 전산학부 교수 :
"제일 좀 걱정되는 것 중의 하나가 언론의 영향이 있을 수 있고 대중의 막연한 두려움 때문일 수도 있는데 'AI가 사람을 대체 할 것이다' 혹은 AI와 사람이 대결구도로 가서 '누가 누구를 이길 것이다' 아니면 '어떤 영역에서는 이미 이겼고 계속 더 이겨나갈 것이다' 이런 식의 이야기가 계속 흘러가는 게 저는 좀 위험한 부분이 있다고 생각합니다.

이게 누가 누구를 이기는 문제가 아니라 사실은 AI라는 굉장히 가능성이 높고 잘 될 수 있는 도구를 우리가 어떻게 사용해서 더 새로운 산업을 만들고 새로운 가치를 제공할 것인가가 중요한데, 그런 얘기들 보다 AI의 성능 자체, '사람보다 잘한다, 못한다' 이런 쪽에 너무 담론이 치우쳐 있어서 그런 것들이 좀 제대로 잡히지 않으면 AI가 점점 더 (확장) 적용이 되는 상황에서도 결국에는 좀 악영향이 많이 있지 않을까…

그런 측면에서 보면 저는 자동차가 생각나더라고요. 옛날 백 몇 십 년 전에 자동차가 처음 나왔을 때 말을 타고 다니고 인력거를 타고 다니고 하다가 너무나 빠르고 너무나 멋진 기계가 나와서, 누가 봐도 '와, 이런 게 정말 이제 퍼지면 완전히 다른 세상이 되겠구나'라고 생각을 했을 텐데, 사람보다 자동차가 빠르니까 처음에 당연히 저항도 있고 어려움도 있었지만 결국에는 자동차라는 굉장한 도구를 활용해서 새로운 산업들이 엄청나게 생기고 파급효과가 굉장히 커서 산업이 다음 단계로 넘어가는 어떤 중요한 역할을 한 것이죠.


우리의 생각 자체가 자꾸 AI와 대결 식으로 생각하다 보니까 AI한테 밀리면 어떡하지? 나를 대체하면 어떡하지? 약간 그런 적대적인 감정도 갖게 될 수 있고, 그러다 보니까 좀 (AI라는 도구를) 생산적으로 활용할 수 있는 이야기들보다 걱정이나 우려 이런 것들이 너무 앞서게 되는 측면이 있는 것 같아요. "


"AI 교육, 데이터‧개인정보‧윤리적 이슈 배우는 것이 더 중요"

김주호 카이스트 전산학부 교수 :
"작년에 제일 많이 들었던 질문 중 하나는, 그래서 'AI 교육'은 어떻게 해야 하는가? 입니다. '초등학교 때부터 학생들한테 딥러닝을 가르쳐야 하는가?' AI도 처음 배우는 과정은 비슷하거든요. 딥러닝 기초 배우고, 수식도 좀 나오고 하는데요. 그런데 나에게 필요한 AI는 이론적인 것이 아닐 수 있잖아요. 물론 이론적 배경을 알면 좋지만, 솔직히 이야기하면 AI에 이론적인 면에 기여할 가능성이 있는 사람은 그렇게 많지는 않은데 왜 다들 'AI를 배운다'라고 하면 원리, 이론적인 것을 배우고 있는가? 오히려 저는 '이루다' 사례 같은 데서 보는 데이터 사용의 이슈, 개인정보 보호의 이슈, 윤리적 이슈, 그런 것들이 어떻게 보면 더 중요할 수 있고 혹은 우리 도메인에 AI를 어떻게 접목할지에 대한 부분에서 새로운 교육 콘텐츠들을 만들어내고 가르치고, 혹은 'AI를 활용해서 어떻게 하면 더 내가 하던 일을 잘 할 수 있을까? AI 교육과 관련해 이런 것들을 생각해야 하는 것이 아닌가?'라는 생각을 합니다.

지금은 다들 AI를, 나를 넘어설 수도 있는 무서운 존재로 보기 때문에 'AI의 원리를 까보자!' 라는 식의 교육만 있는 상황인 것 같아요. 그게 AI를 대결구도로 인지하기 때문에 오는 단점 중의 하나라고 생각하고, 그래서 이제 AI의 교육 측면에서도 그런 환기가 필요하지 않을까? 하는 생각이 들었습니다"

기계‧기술의 발전의 역사를 따라 인간의 삶의 형태는 크게 변화해 왔습니다. 그리고 우리는 지금 변화의 한복판에 서 있습니다. SBS 미래팀은 기술을 활용해 긍정적인 미래를 열어갈 수 있는 방법을 더 깊이 고민하고 함께 찾아가겠습니다.


*** SBS 보도본부 미래팀의 취재파일은 SBS의 대표 사회공헌 지식나눔플랫폼 <SBS D포럼>을 중심으로, SBS 보도본부 미래팀원들이 연중 작성합니다. 우리 사회가 관심을 가져야 할 화두를 앞서 들여다보고, 의미 있는 새로운 관점이나 시도들을 전하는 뉴스레터 <SDF다이어리>를 기반으로 하고 있는데요. 매주 수요일, 지혜를 모으는 담론의 장이 펼쳐집니다. 매주 SBS 미래팀의 취재파일을 접하고 싶은 분은 SDF다이어리를 구독해주세요!

▶ SDF다이어리 구독하러 가기