"이 자가 돈 갚을 상인가?"…편견 담긴 AI 결정 거부권 생긴다

"이 사람이 내 돈을 갚을 상(相)인가? 지금은 이런 '관상'이 개인정보라고 생각되지 않죠. 그런데 인공지능이 발달한 미래에는 '이런 부류의 얼굴을 한 사람은 돈을 잘 갚더라'라는 빅데이터 분석으로 개인 정보화할 가능성도 있습니다. 이런 자동화된 결정에 대해 대응할 수 있는 권리가 도입됩니다."

이정현 한국인터넷진흥원(KISA) 개인정보제도팀장은 오는 9월 15일부터 개인정보보호법 개정안이 시행됨에 따라 달라지는 내용에 관해 오늘(8일) 이같이 설명했습니다.

개정안에 담긴 '자동화된 결정에 대한 대응권'은 다가오는 AI 활용 시대에 데이터 프로파일링을 통해 기계가 내리는 신용평가, 인사 채용 등 결정에서 인간이 편견에 따른 차별과 감시 같은 피해를 보지 않도록 한 조치입니다.

개정안은 자동화된 결정이 정보 주체에게 법적 효력을 미치거나 생명·신체·정신·재산에 중대한 영향을 미치는 경우 이 결정에 대해 거부 또는 이의제기, 설명 요구 등 권리를 갖도록 했습니다.

또 개인정보 수집이나 처리에서 사전 동의 제도에 따라 형식적 동의가 남발되는 '동의 만능주의' 관행이 계속됐다고 보고 동의 제도를 개선합니다.

동의 외에 개인정보를 적법하게 처리할 수 있는 요건을 확대하고 기업 등의 개인정보 처리 방침 평가제를 도입하는 것입니다.

아울러 소셜 미디어, 온라인 지도 등에서 민감하고 많은 양의 개인정보가 일상적으로 처리되지만 위험성에 관한 고지가 제대로 이뤄지지 않고 있다고 보고, 이용자에게 민감한 정보가 공개될 가능성을 알리거나 비공개를 선택할 수 있도록 고지하는 의무가 신설됐습니다.

아울러 현행 개인정보보호법이 CCTV에 대해서만 운영 기준이 마련된 점을 보완해 드론, 자율주행차처럼 최근 발달하고 있는 이동형 영상정보처리기기에 관해서도 규정을 마련했습니다.

공개된 장소에서 업무를 목적으로 이들 기기를 사용해 동의 없이 개인 영상 정보를 촬영하는 행위는 원칙적으로 제한하기로 했습니다.

이런 개인정보 보호 법령을 지키지 않았을 때 기존 법에서 위반 행위와 관련한 매출액의 3% 이하로만 과징금을 매기던 것을 전체 매출액의 3% 이하로 높였습니다.

정부는 이달 안으로 개인정보보호법 시행령 개정안을 입법 예고할 방침입니다.