<앵커>
다음 달부터는 이용자가 커뮤니티에 이미지를 올리면 AI가 먼저 검사하게 됩니다. 불법 촬영물 유통 방지 조치가 동영상뿐 아니라 이미지까지 확대적용되면서 구글과 메타, 네이버 같은 사업자는 이용자가 개시하려는 이미지에 문제가 없는지, AI로 필터링해야 합니다 커뮤니티 이용자들 사이에선 사적 데이터에 대한 감시나 사전 검열이 될 수 있다는 반발이 나오고 있습니다.
<기자>
사실 이 법은 이른바 'N번방 방지법'으로 개정된 전기통신 사업법에 그 뿌리를 두고 있습니다.
이 법은 2020년 6월 N반방 사건을 계기로 디지털 성범죄물의 유통을 막기 위해 개정되었는데요.
이 법에 따라 인터넷 사업자는 플랫폼 내에서 불법 촬영물이 공유되지 않도록 기술적으로 관리할 의무가 생겼습니다.
그동안은 동영상 파일에만 적용됐지만 곧 이미지 파일도 포함된다는 사실이 알려지면서 화제로 떠오른 건데요.
[손지원/법무법인 혁신 변호사 : 식별 및 게재 제한 조치라고 해서 이용자가 어떤 정보나 콘텐츠를 게시하려고 할 때 게시 전에 해당 정보의 내용을 식별하고 필터링하는 사전 필터링 조치가 가장 핵심적인 조치인데요. 쉽게 말씀드리면 방미통신위가 인터넷 사업자들에게 불법 촬영물의 디지털 식별 정보를 제공을 하고 인터넷 사업자들이 이용자가 정보나 콘텐츠를 업로드하려고 할 때 이 데이터와 대조를 해서 일치하는 경우에는 업로드가 안 되도록 하는 시스템인 거죠.]
이 법령에서 조치의무사업자는 전년도 매출액 10억 원 이상이거나 하루 평균 이용자수가 10만 명 이상의 사업자로 정의되기 때문에 구글, 메타, X, 카카오톡 오픈 채팅 등은 물론 DC인사이드, 더쿠 등 유명 커뮤니티들이 모두 그 대상입니다.
① 사전 검열이다?
일각에서는 이 규제를 두고 사전 검열이라는 점을 지적하는데요.
실제로 일부 단체들이 해당 법령이 위헌이라며 헌법 소원을 청구했는데 헌법 재판소는 이를 입법 목적이 정당하고 수단의 적합성이 인정된다며 재판관 전원 일치 의견으로 기각했습니다.
당시 방송미디어통신위원회 역시 이미 불법으로 판명된 영상의 식별값과 업로드된 영상의 식별값만을 단순 비교하는 것으로 검열과는 거리가 멀다고 설명했지만.
[손지원/법무법인 혁신 변호사 : 디지털 성폭력물이나 불법 촬영물 같은 경우에는 피해가 너무 심각하고 한국 사회에서 큰 문제가 되었기 때문에 이런 강력한 제도가 도입이 된 배경이 된 건데 사실 인터넷 공간에서 이런 사전 필터링을 의무화하고 있는 법제는 전 세계적으로 없다고 보시면 되고요. 일종의 '사전 검열적 성격을 가진 법이다' 라고 해서 이런 우려가 이번 확대 시행에서 다시 한번 표출이 된 것이 아닌가.]
② 실효성... 있을까?
[김민호/성균관대학교 법학전문대학원 교수 : 두 번째는 아직까지 기업들이 이미지 DNA DB가 부족하거든요. 이런 이미지 DNA DB가 충분해야만 AI 필터링이 가능한데 이게 부족한 상태에서는 오류가 발생하겠죠. 오류가 발생한다는 얘기는 멀쩡한 영상도, 멀쩡한 이미지도 업로드가 안 되고 게재가 안 된다는 얘기예요. 그러면 이용자는 당연히 불편을 느낄 수밖에 없지 않을까 그런 생각이 듭니다.]
③ 비용은 어떻게 감당해요?
함께 지적되는 또 다른 문제 바로 비용인데요.
이 조치가 시행되면 인공지능 딥러닝이 가능한 고가의 GPU 서버가 필요합니다.
[김민호/성균관대학교 법학전문대학원 교수 : 이미지는 그 양이 엄청나지 않겠습니까? 엄청난 양에 대해서 기술적 필터링을 한다는 것이 기업 입장에서는 상당히 부담이 될 수 있다는 점.]
방미통위는 사업자들이 장비를 구축하고 검증 절차를 마칠 수 있도록 연말까지 계도기간을 운영할 계획이며 이달 중 온라인 설명회를 열어 기술적 준비를 지원할 계획이라고 밝혔습니다.
[김민호/성균관대학교 법학전문대학원 교수 : 결국은 이러한 법이 당연히 이용자 보호를 위해서 시행해야 되는 정책이긴 하지만 잘못 시행하면 결국은 국내 사업자들만 어려움에 빠질 수 있고 또 하나는 이용자의 불편을 초래할 수 있다는 점 이런 점들이 우려되고 있습니다.]
[손지원/법무법인 혁신 변호사 : 결국은 일반적인 시민의 기본권에도 큰 영향을 끼칠 수밖에 없는 제도거든요. 저작권 침해물이라든지 명예훼손 콘텐츠같이 다른 불법 정보에 대한 검열 제도에까지 확대되는 것으로 기능하지 않았으면 좋겠다는 바람이 있고 이런 디지털 성폭력물 근절과 관련해서는 처벌을 조금 엄격히 해서 위하 효과로 예방하는 것이 가장 필수적이다.]
많은 우려 속 오는 7월 시행될 예정인 AI 기반 이미지 필터링 제도 여러분은 어떻게 생각하시나요?