메인 주요뉴스 편성 - SBS 뉴스

생성형 인공지능(AI)과 사회관계망서비스(SNS)의 확산으로 허위 이미지·영상 등 조작 콘텐츠 유통 우려가 커지는 가운데 일정 규모 이상의 플랫폼은 허위조작정보 대응 운영정책을 마련하고 신고 접수·처리 절차, 이용자 통지, 투명성 보고서 공개 등 자체 대응 체계를 갖춰야 합니다.

정부는 불법성이 확인된 허위조작정보를 반복 유통하며 수익을 얻는 행위를 막고 이용자 피해를 줄이기 위한 최소한의 대응 체계라고 설명하지만, 일각에서는 플랫폼 판단에 따른 표현 위축이나 과잉 삭제 가능성을 우려합니다.

특히 허위정보와 의견·비판의 경계가 모호한 사안에서 신고 남발이나 플랫폼별 판단 차이가 나타날 수 있어 투명한 운영 기준 마련과 실효성 있는 이의제기 절차가 제도 안착의 핵심 과제가 될 전망입니다.

최근 생성형 AI 확산으로 허위 이미지와 영상, 조작 콘텐츠 제작이 쉬워지면서 온라인 허위정보 문제가 새로운 사회적 과제로 떠올랐습니다.

허위정보는 명예훼손과 사기, 재난 상황 혼란, 선거 관련 허위 주장 등 다양한 형태로 확산하며 사회적 비용을 초래해 왔습니다.

특히 광고와 후원 수익을 노린 허위정보 유통이 반복되면서 제도적 대응 필요성이 꾸준히 제기됐습니다.

그동안 피해자가 작성자를 특정하거나 손해배상을 받기 어렵다는 지적도 적지 않았습니다.

이에 국회는 지난 1월 정보통신망법을 개정해 허위조작정보 유통 방지 의무와 피해 구제 절차를 마련했습니다.

해외에서도 유럽연합(EU) 디지털서비스법(DSA)이나 독일의 네트워크집행법(NetzDG) 등 대형 플랫폼의 책임을 강화하는 입법이 확산하는 추세입니다.

허위조작정보에 대한 1차 판단과 조치가 플랫폼의 운영정책에 맡겨지면서 플랫폼의 사회적 책임과 게시물 관리 역할이 더욱 중요해졌다는 평가가 나옵니다.

정부가 직접 허위 여부를 판정하지 않고 플랫폼이 자체 운영정책과 민간 사실확인(팩트체크) 결과 등을 토대로 판단하는 구조입니다.

전년도 말 기준 직전 3개월 하루 평균 이용자 수가 100만 명 이상인 대규모 플랫폼 사업자는 허위조작정보 대응 운영정책을 마련하고 신고 접수·처리 절차를 운영해야 합니다.

이용자 규모를 고려하면 유튜브, 인스타그램, 엑스(X), 페이스북, 디시인사이드 등이 포함될 가능성이 큽니다.

또 신고가 접수되면 처리 결과와 이유를 통지하고 이의신청 절차를 제공해야 합니다.

운영 현황을 담은 투명성 보고서도 정기적으로 공개해야 합니다.

과징금 부과 대상은 플랫폼 사업자가 아니라 법원에서 불법 또는 허위조작정보로 확정된 내용을 반복 유통해 수익을 얻은 일정 규모 이상의 정보 게재자입니다.

정부는 과징금이나 가중 손해배상 역시 광고·후원 수익을 얻는 일정 규모 이상의 게재자에게 적용되는 만큼 일반 이용자와는 적용 범위가 다르다고 설명합니다.

그러면서 단순한 의견 표명이나 비판, 정치적 주장 자체는 규제 대상이 아니며 카카오톡과 같은 사적 메시지도 적용 대상이 아니라고 덧붙였습니다.

다만 실제 운영 과정에서는 허위정보와 의견·비판의 경계를 어디까지 볼 것인지가 핵심 쟁점이 될 전망입니다.

플랫폼마다 운영정책과 판단 기준이 달라 유사한 게시물에 대해서도 서로 다른 조치가 이뤄질 가능성이 있다는 지적도 나옵니다.

사업자들이 법적 위험을 우려해 게시물을 과도하게 삭제할 경우 표현의 자유 침해 논란이 불거질 수 있다는 우려도 제기됩니다.

허위정보 신고가 정치적·이념적 갈등의 수단으로 악용되거나 특정 게시물을 집중 신고하는 이른바 '신고 폭탄' 문제가 발생할 가능성도 제기됩니다.

결국 새 제도의 성패는 플랫폼이 게시물 처리 기준을 얼마나 투명하게 공개하고, 이용자 이의신청 절차를 실효성 있게 운영하느냐에 달렸다는 평가가 나옵니다.

실제 플랫폼이 급증하는 신고를 안정적으로 처리하면서 허위정보 억제와 표현의 자유 보장 사이의 균형을 유지할 수 있을지가 제도 안착의 관건이 될 전망입니다.

(사진=연합뉴스)

▶ 이 기사의 전체 내용 확인하기

▶ SBS 뉴스 앱 다운로드

▶ 뉴스에 지식을 담다 - 스브스프리미엄 앱 다운로드