'인공지능 생성물에 워터마크' AI 기본법 연내 제정될 듯

지난 21일 인강지능(AI) 기본법이 국회 과학기술정보방송통신위원회 법안소위원회를 통과해 연내 제정될 것으로 전망됩니다.

이 법안은 오픈AI, 네이버처럼 AI 기본 모델을 제공하거나 AI 모델에서 파생된 다양한 AI 기능을 서비스하는 'AI 사업자'에 불법 딥페이크물 생성을 막을 의무를 강화한 것이 주요 내용입니다.

이 법안이 통과되면 AI 사업자는 이용자가 인공지능 기술로 합성 이미지, 영상 등을 만들 때 AI생성물임을 알리는 워터마크를 넣도록 기술적 기반을 제공하고 안내할 의무를 집니다.

워터마크는 눈에 보이는 가시적 표식과 눈에 보이지 않고 주파수나 메타데이터 등을 활용한 비가시적 표식으로 나뉩니다.

AI 기본법은 성착취 딥페이크물과 같은 타인의 권리 침해 가능성이 큰 합성물에는 눈에 보이는 워터마크를 달도록 했습니다.

이미지를 합성한 생성물이라도 불법 요소가 없고 문화적·창작적인 가치가 높은 경우에는 비가시적인 워터마크를 붙여 AI 사용으로 인한 문제가 사후 발견됐을 경우 구별만 할 수 있도록 했습니다.

다만, AI 생성물 중에 보호가 필요한 창의적·예술적인 콘텐츠의 범위가 어디까지인지 등 세부 사항은 AI 기본법 제정안에 포함하지 않았고, 심도 있는 논의를 거쳐 추후 대통령령을 통해 기준을 정할 방침입니다.

AI 기본법에 플랫폼 기업들이 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화하는 내용을 넣는 방안도 논의됐지만 최종 제정안에는 포함되지 않은 것으로 알려졌습니다.

성 착취, 선거법 위반 등 불법 소지가 있는 AI 생성물은 현행 형법, 선거법으로 처벌하거나 정보통신망법에 따라 플랫폼이 삭제하도록 규제할 수 있다는 이유에섭니다.

AI 기본법은 오픈AI 등 해외 대형 AI 기업이 국내에서 영업할 때는 정부와 소통할 수 있는 국내 대리인을 지정하도록 했고, 인간의 생명이나 신체 안전과 관련한 AI 기술은 '고영향 인공지능'으로 분류해 정부가 관련 사업자에 신뢰성·안전성 확보 조치를 요구할 수 있게 했습니다.

법을 위반했을 경우 과학기술정보통신부 장관이 사실 조사에 나서 시정명령 및 최대 3천만 원 과태료를 부과할 수 있도록 했습니다.

AI 기본법 제정안에 대해 업계에서는 향후 막대한 영향을 끼칠 수 있는 AI 기본법 논의에 국회가 할애한 시간이 너무 짧았다는 지적도 나옵니다.

한국인터넷기업협회 관계자는 "규제 대상이 넓어져 영향을 받는 사업자가 늘어날 것으로 보인다"며 "딥페이크 범죄 방지 취지에는 동의하지만, 타인에게 피해를 주지 않는 합성 콘텐츠에까지 표시 의무를 지운 것은 사업자에게 부담이 될 수 있다"고 우려했습니다.

(사진=연합뉴스 TV 제공, 연합뉴스)