AI 해킹 비상…정부, 민간 보안 총력 대응

정부가 인공지능(AI) 기반 사이버위협에 민관이 공동으로 대응하기 위한 정보보호 추진계획을 내놨습니다.

과학기술정보통신부는 29일 제9회 과학기술관계장관회의에서 'AI 기반 사이버위협에 대응하기 위한 민간 정보보호 추진계획(안)'을 발표했습니다.

최근 미국 빅테크들은 보안 전문가 수준의 사이버보안 역량을 갖춘 AI 모델을 일부 기업에만 제공하는 프로젝트를 운영해 주목받고 있습니다.

지난 23일 발표된 앤트로픽 '프로젝트 글래스윙' 1차 보고서에 따르면 참여사 소프트웨어 및 오픈소스에서 1만 6천 건 이상의 취약점이 발견됐습니다.

고성능 AI를 통한 취약점 대량 발굴이 일상화될 경우 실제 보안 조직의 부담은 커질 것으로 우려됩니다.

특히 발굴된 취약점이 사이버 공격에도 활용될 가능성이 있어 개인과 기업, 기관 모두가 AI 위협 영향권에 놓일 수 있다는 지적이 나옵니다.

이번 계획은 민간 분야의 AI 보안 위협 대비를 위한 긴급조치와 함께 정보보호 체계를 AI 기반으로 전환하기 위한 중장기 방향성을 제시하는 데 초점을 맞췄습니다.

우선 국가안보실을 중심으로 AI 취약점 공개 및 패치, 위협 상황 등을 신속 공유·전파하고, 침해사고 발생 시 합동대응이 가능한 긴급체계를 구축합니다.

과기정통부 내에는 총괄상황반을, 민간 분야에는 소관 부처별 상황반을 가동할 예정입니다.

또한 한국인터넷진흥원(KISA) 내 취약점 관리센터를 설치해 취약점·패치 관리를 일원화하고, 관계부처 및 기업 기술지원도 추진합니다.

KISA 취약점 정보포털(KNVD)을 중심으로 취약점과 패치를 수집·분석해 약 2만 8천 개 기업 정보보호최고책임자(CISO)와 민간 협력채널, 부처별 상황반·관군 전체에 신속 공유 및 조치를 권고하는 긴급 대응체계도 구성합니다.

특히 과기정통부가 국제 협력을 통해 확보한 최신 고성능 AI 모델을 이러한 취약점 패치 업무와 기업 지원 전반에 시범적으로 적용할 방침입니다.

피해 파급력이 큰 주요 기업에 대해서는 각 소관부처 주관 아래 자산관리 및 취약점 점검, 패치 대응을 자체 추진하도록 하고 정부가 분야별 이행점검을 추진합니다.

중소기업에는 IT 자산식별 및 현 보안 수준 진단, 보안투자 가이드 및 조치실행 추천 웹 도구를 배포하고, 소프트웨어 구성 명세서 생성·분석 기술지원도 추진합니다.

AI 기반 사이버 위협에 선제 대응하기 위해 하루 약 3억 5천만 건의 전 세계 도메인을 상시 모니터링하고, AI 기반 악성 행위와 도메인을 생성 즉시 탐지해 대응합니다.

AI 서비스 관련 침해사고 경황이 의심되는 경우에는 '침해사고조사심의위원회'를 즉각 가동해 신속한 조사와 피해확산 차단에 나섭니다.

국제 협력 측면에서는 오픈AI의 정부·기관용 신뢰기반 접근프로그램(GTAC) 확보를 시작으로 글로벌 빅테크와 AI 보안 프로젝트 참여 및 정보 획득을 위한 협력을 이어가고, 우방국 사이버보안 기관과 AI 기반 위협대응 및 정보공유 협력도 강화합니다.

2027년부터는 국내 정보보호 체계를 독자 AI 기술 기반으로 대전환하고, AI 보안주권 확립을 위한 다양한 프로젝트를 기획·실행할 예정입니다.

배경훈 부총리 겸 과학기술정보통신부 장관은 "최고 수준의 해커와 견줄 정도로 사이버보안 분야의 AI 발전 속도가 빠른 상황으로, 우리나라도 AI 시대에 걸맞은 보안 체계와 글로벌 협력을 갖추지 못한다면 AI 3대 강국 도약도 흔들릴 수밖에 없다"고 지적했습니다.

이어 "이번 대책을 통해 AI 발 대규모 취약점 공개에 대응하기 위한 긴급체계를 마련하고, 우리의 기술과 모델을 기반으로 한 AI 보안주권 확립도 속도감 있게 추진해 나가겠다"고 강조했습니다.

(사진=과학기술정보통신부 제공, 연합뉴스)