[취재파일] '흙수저'만 노리는 온라인 광고, 어디서 오나

다음 달 열릴 'SBS D포럼'의 주제는 '새로운 상식, 개인이 바꾸는 세상'입니다. 정권 교체를 부른 촛불집회부터 국내외를 달군 미투(MeToo) 운동까지 목소리를 낸 개인에 주목하자는 취지입니다. 포럼 연사들의 면면을 미리 살펴보는 '인물 탐구' 시리즈 두 번째 순서. 그 주인공은 민주주의를 위협하는 빅데이터 알고리즘의 위험성을 경고한 수학자 캐시 오닐입니다.

● 알고리즘은 모두에게 공평하다?

매일 아침식사 메뉴를 고민하고 선택하는 일이 번거롭게 느껴지시나요? 그럴 때 누가 대신 골라줬으면 하고 생각하시나요?

자, 여러분이 가족의 아침식사 메뉴를 추천하는 알고리즘을 직접 짠다고 생각해봅시다.

뭐가 필요할까요? 지금 냉장고에 있는 식재료 데이터는 물론이고 지난주 섭취했던 영양분 내역, 현재 가족들의 몸무게와 건강 상태 등이 알고리즘에 포함돼야겠죠.

또 하나 중요한 게 있습니다. 바로 알고리즘이 달성하려는 '목표'입니다.

만약 여러분이 엄마라면 알고리즘 목표는 아이들의 건강한 영양 섭취일 겁니다. 라면이나 싸구려 샌드위치 같은 인스턴트 음식은 추천 과정에서 처음부터 배제하도록 짰을 테죠.

반면, 여러분이 아이였다면 엄마의 바람과 정반대로, 인스턴트 음식이 매일 아침 추천되길 강력히 원했을 겁니다. 컴퓨터는 이렇게 짠 알고리즘에 맞춰 데이터를 분석하고 계산해서 최적의 메뉴를 보여줄 겁니다.

문제는 알고리즘을 누가 짰느냐에 따라 건강한 자연식이나 인스턴트 음식이 추천될 거라는 점입니다. 즉, 특정한 가치관이나 의도가 알고리즘에 반영돼 있다는 거죠.
여러분의 구직을 돕는 도우미 알고리즘이 있다고 생각해봅시다. 이 알고리즘은 여러분의 학력과 각종 스펙, 가정환경, 비슷한 수준의 구직자 합격 데이터 등을 파악한 뒤 합격권에 들만한 기업을 추천해줄 겁니다.

만약 여러분이 가난한 가정에서 태어나서 평범한 대학을 졸업했고, 특별한 스펙을 갖출 수 없었다면 알고리즘은 좋지 않은 일자리를 추천할 가능성이 높습니다.

과연 이 알고리즘은 여러분의 구직을 진짜로 돕는 걸까요?

아닙니다.

알고리즘의 달성 목표는 여러분을 위한 게 아닙니다. '진짜' 목표는 구직 도우미 업체의 매출을 높이는 데 있습니다. 그러기 위해서는 구직자들의 단기적인 취업 성공률을 높여야 합니다. 여러분이 지닌 잠재력이나 개성은 추천 과정에서 무시됩니다.

문제는 그런 추천을 부당하다고 여기거나 불만을 품는 구직자가 없다는 겁니다. 왜냐하면 사람이 아닌, 알고리즘이 추천했기 때문이죠. 알고리즘은 객관적이고 공정하다고 믿으니까요.

하지만, 알고리즘은 마케팅 목표에 충실하게 움직일 뿐, 사람들 믿음과 달리 전혀 공정하지 않다는 게 수학자 캐시 오닐이 문제를 제기하는 대목입니다.

● 만약 페이스북이 정보를 조작한다면?

캐시 오닐은 사회적 약자인 '흙수저'들만 노리는 온라인 광고를 나쁜 알고리즘의 대표 사례로 꼽습니다.

급전이 필요해서 인터넷에서 대출이나 은행, 금리 등을 검색한 사람은 어느 순간부터 고금리 단기 소액 대출을 권하는 팝업 광고에 둘러싸입니다. 알고리즘이 개인의 온라인 활동 행적을 분석한 뒤 마케팅에 말려들 '표적'을 찾아내는 겁니다.

미국의 대다수 영리 대학들은 이러한 방법을 통해 학위를 갖고 싶지만 돈과 정보가 부족한 사람들을 귀신같이 찾아냅니다.

극빈층 거주 지역에 살면서 단기 대출 광고나 할인 쿠폰 등을 클릭했거나 자녀 복지 정보를 찾아본 한부모, 외상후 스트레스 관련 정보를 찾아본 전역 군인 등이 대상입니다. 그리고 그들에게 취업 보장과 손쉬운 학자금 대출 등을 미끼로 유혹한 뒤 바가지 등록금를 씌웁니다.

캐시 오닐은 "겉으로는 고객이 원하는 맞춤형 정보를 제공하는 것처럼 보이지만, 실은 절박한 환경에 처한 사람들을 위험에 빠뜨려 불평등을 심화시킨다"라고 말했습니다.
알고리즘이 때로는 민주주의를 위협하는 도구가 될 수 있다고도 경고합니다.

페이스북은 지난 2010년 미국 총선 때 '투표 메가폰'이라는 캠페인을 진행했습니다. 투표 당일 페이스북 사용자가 '나는 투표했다'는 게시물을 올리면 친구들의 뉴스피드에 해당 게시물이 우선적으로 노출되도록 알고리즘을 조정했던 겁니다.

그랬더니 6천만 명이 투표 독려에 참여했고, 이러한 캠페인은 34만 명의 유권자를 투표소로 더 불러낸 것으로 추산됐습니다. 이는 전국적인 선거 결과에 유효한 영향을 끼칠 수 있는 규모입니다. 투표 당일 페이스북이 알고리즘을 어떻게 조정하느냐에 따라 판도를 바꿀 수 있다는 것을 입증한 겁니다.

캐시 오닐은 여기서 근본적인 의문을 제기합니다.

"페이스북이 실제로 정보를 조작한다면 대중은 그 사실을 알 수 있을까?"

그녀는 앞서 투표 독려 캠페인은 페이스북이 대중에 공개한 자료의 일부일 뿐이며, 그들이 사용한 알고리즘은 지금까지도 베일에 가려져 있다고 지적했습니다. 거대 인터넷 기업이 유권자들의 정치적 성향을 조종해 선거 판도를 바꿀 수 있다는 사실만으로도 언제든지 민주주의를 위협하는 요인이 될 수 있다는 겁니다.
● 월스트리트에서 목격한 '추악한 현실'

캐시 오닐은 아주 어렸을 때부터 수학자가 되는 걸 꿈꿨습니다. 수학을 좋아했던 이유는 아주 단순했습니다.

"수학을 근본적으로 좋아했던 이유 중 하나는 참이 아니면 거짓이라는 방식, 질문이 명쾌해질 수 있고, 해답 또한 명쾌해질 수 있는 수학의 방식이 마음에 들었기 때문이에요."

성인이 되자 꿈은 현실이 됐습니다. 미국 UC 버클리 대학에 입학해 수학을 전공한 뒤 하버드대에서 박사 학위를 받았습니다. 이후 바너드 칼리지 수학과에서 조교수로 부임하면서 그토록 원해마지 않던 꿈을 이룬 듯했습니다.

하지만, 대학 강단에서 학생들을 가르치던 그녀는 '과연 이것이 나의 길일까'라는 회의감에 시달리기 시작했습니다. 교수직에 머물기보다 자신이 좋아하는 수학을 통해 세상에 기여하길 바랐던 겁니다. 2007년 결국, 교수직을 관두고 월스트리트의 유명 헤지펀드에 입사해 금융 시장 분석가인 '퀀트'로 활동하기 시작했습니다.
그녀는 헤지펀드에서 핵심 업무를 맡았습니다. 급변하는 시장의 패턴을 시시각각 분석하면서 특정한 자산에 투자했을 때의 위험도를 분석하고, 최적의 투자처를 찾아내는 일이었습니다.

수학 이론을 현실과 접목할 수 있는 좋은 기회처럼 보였습니다. 하지만, 그녀는 거기서 큰 충격을 받았습니다. 헤지펀드가 저지르는 추악한 행위를 목격하게 된 겁니다.

헤지펀드가 최신 수학 이론으로 돈을 벌어들이는 타깃은 다름 아닌, 연금을 비롯한 대형 펀드였기 때문입니다.

당시 금융 시장에서는 패턴 분석을 통한 투자 기법이 대세였지만, 시장 변화가 갈수록 복잡해져서 사실상 분석이 불가능했습니다. 그러자 상대적으로 분석이 용이한 연금 펀드 등을 먹잇감으로 삼았던 겁니다.

연금 펀드 관리자들의 주인 의식이 약하고, 투자 결정이나 행동이 굼뜨다는 점에서 헤지펀드는 연금 펀드를 '눈먼 돈'이라고 불렀습니다. 캐시 오닐은 자신이 몸 담았던 헤지펀드의 비열한 전략을 이렇게 설명했습니다.

"헤지펀드가 가진 아이디어는 이런 거였어요: '눈먼 돈'이라고 불리는 것들을 찜해두자. 눈먼 돈을 관리하는 자들의 게으른 투자 행동이나 패턴을 예상해보자. 그들을 앞질러두자. 연금이나 무추얼 펀드, 그 무엇이든 간에 대형 펀드들의 알맹이를 벗겨먹기 위해 그들이 투자할 것들을 선점해두자."

연금 펀드의 게으른 투자 패턴을 분석한 뒤 이를 역이용해 한 발 먼저 투자하고 되파는 방식으로 손쉽게 이득을 불렸던 겁니다.

문제는 헤지펀드가 거머리처럼 달라붙어 이익을 취하던 타깃이 대부분 서민들의 노후 자금 등이 담긴 연금이라는 점입니다. 가령, 옆집 월급쟁이 아저씨가 매달 용돈을 붓는 펀드라든가 작은 가게를 하는 이웃 할머니가 쌈짓돈을 넣는 연금 등이 헤지펀드의 먹잇감으로 전락한 겁니다.

캐시 오닐은 "그들은 자기 보너스를 위해 서민들의 돈을 빼먹었다"라고 표현했습니다. 그러면서 헤지펀드에 몸 담았던 어느 누구도 돈을 벌어야 한다는 욕심에 사로 잡혀 있었기에 그런 행태가 비양심적이라고 생각하지 않았다고 전했습니다.

데이터 과학자로서 알고리즘을 이용해 천문학적 규모의 자금을 거래하던 그는 2년 만에 환멸을 느끼고 사직서를 제출했습니다. 월스트리트가 이용했던 수학은 그녀가 좋아했던 수학이 아니었기 때문입니다.
● 알고리즘의 배신…"대량살상무기가 될 수 있다"

헤지펀드에서 근무하면서 캐시 오닐은 알고리즘이 차별을 정당화하고 민주주의를 위협할 수 있는 위험한 무기라는 점을 깨달았습니다.

그녀는 이런 알고리즘을 "인간의 편견과 무지, 오만을 코드화한 것"이라고 정의하고 '대량살상 수학무기(Weapons of Math destruction)'라고 명명했습니다.

대량살상 수학무기는 폭탄을 장착한 진짜 무기는 아니지만, 오히려 눈에 보이지 않기 때문에 우리가 위험을 체감하지 못하는 사이에 확산되고 있고 여기에 대해 이의를 제기하거나 이를 무력화시키기란 불가능하다고 지적했습니다.

2016년에는 저서 '대량살상 수학무기'를 출간하고 다양한 사회 분야에 걸쳐 불평등을 조장하는 알고리즘의 이면을 종합적으로 폭로했습니다. 저소득층이나 소수자 등에게 언제나 불리하게 적용되는 경찰의 범죄 퇴치 모형, 구직자들의 인성과 적성으로 채용 여부를 판가름하는 취업시스템, 임금 삭감에 악용되는 건강 검진 등이 도마에 올랐습니다.
그녀는 부의 불평등을 야기하는 월스트리트 자본에 반대하는 시민운동인 '월스트리트 점거 운동(Occupy Wall Street)'에도 참여했습니다. 2011년에 시작된 이 운동은 미국을 경제위기에 빠뜨리고도 수백만 달러의 퇴직금을 챙겨 떠난 월가 최고경영자들에게 분노한 시민들이 일으킨 시위였습니다.

당시에는 수천 명이 참여한 거리 시위였으나, 이후 여러 갈래로 분화된 하위 조직들이 다양한 활동을 벌이고 있습니다. 캐시 오닐은 그중에서 '대안금융그룹'이라는 조직을 이끌며 젊은 수학, 공학도들과 금융 개혁에 대해 토론하고 알고리즘의 투명성을 어떻게 제도적으로 보장할 수 있을지를 모색해왔습니다.

다음 달에는 'SBS D포럼' 연사로 나섭니다. 알고리즘이 그동안 인종과 부, 민족, 문화와 얽힌 편견을 어떻게 재생산해왔는지를 설명하고, 실천적인 대안을 제시할 전망입니다.

SBS D포럼은 11월 2일(금) 동대문디자인플라자에서 열립니다. 그녀의 강연을 직접 들으려면 홈페이지에서 미리 참가 신청을 해야 합니다. 비용은 무료입니다.