족집게처럼 내 마음을 알아채는 온라인 광고, 어떻게 이런 일이 가능할까요? 그건 바로 알고리즘이 여러분의 온라인 활동 행적을 낱낱이 분석하고 있기 때문입니다.
여러분이 어젯밤 무엇을 검색하고, 어떤 사이트를 방문했는지 다 알고 있는 겁니다.
실제로 미국의 대다수 영리 대학들은 이러한 알고리즘을 이용해 학위를 갖고 싶지만 돈과 정보가 부족한 사람들을 귀신같이 찾아냅니다.
가난한 동네에 살면서 할인 쿠폰을 클릭한 청년이나 자녀 복지 정보를 검색한 한 부모, 외상 후 스트레스 관련 정보를 찾아본 전역 군인 등이 마케팅 표적이 됩니다.
그리고는 취업 보장과 손쉬운 학자금 대출을 미끼로 유혹한 뒤 바가지 등록금을 씌웁니다.
수학자이자 데이터 과학자인 캐시 오닐은 사회적 약자인 '흙수저'들을 표적 삼는 온라인 마케팅 광고를 나쁜 알고리즘의 대표 사례로 꼽습니다.
그녀가 걱정하는 알고리즘의 위험성은 이뿐만이 아닙니다.
페이스북처럼 수많은 이용자를 거느린 거대 인터넷 기업이 선거 당일 어떤 유형의 콘텐츠를 더 노출할지 알고리즘을 몰래 조작하는 것만으로도 선거 결과를 뒤바꿀 수 있다고 합니다.
민주주의 근간까지 무너뜨릴 수 있는 일인데도 조작 여부는 아무도 알 수 없다는 겁니다.
2007년부터 월스트리트 헤지펀드에서 데이터 분석가로 일하던 캐시 오닐은 알고리즘이 차별을 정당화하고 민주주의를 위협할 수 있는 위험한 무기라는 점을 깨달았습니다.
그녀는 알고리즘을 '대량살상 수학무기(Weapons of Math destruction)'라고 명명했죠.
대량살상 수학무기는 폭탄을 장착한 진짜 무기는 아니지만, 오히려 눈에 보이지 않기 때문에 우리가 위험을 체감하지 못하는 사이에도 확산되고 있고 여기에 대해 이의를 제기하거나 이를 무력화시키기란 불가능합니다.
월스트리트 자본의 첨병에 섰다가 시민 운동가로 돌아선 '괴짜 수학자' 캐시 오닐.
인간 무의식까지 통제하는 알고리즘의 위험성을 알려야겠다고 결심한 그녀는 저술 활동과 시민운동을 통해 알고리즘의 투명성을 어떻게 제도적으로 보장할 수 있을지를 모색하고 있습니다.
다음 달(11월) 'SBS D포럼'에서는 알고리즘이 불평등과 차별을 어떻게 재생산해왔는지를 설명하고, 대안을 제시할 전망입니다.
(기획 : 임태우 기자, 디자인 : 이하나)
동영상 기사
