AI도 '인간 중심'으로…과기부, '대한민국 AI 윤리원칙' 제정

정부가 인공지능(AI)의 건전한 개발·활용을 위한 공통 기준을 제시하는 윤리원칙을 제정했습니다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 오늘(24일) 과학기술관계장관회의에서 '대한민국 인공지능 윤리원칙'이 심의·의결을 거쳐 지난 21일 확정됐다고 밝혔습니다.

윤리원칙은 AI를 개발·제공하고 이용하는 공급자와 이용자, 정부·사회 등 다양한 주체가 함께 지켜야 할 공통의 가치와 원칙을 제시한 것입니다.

윤리원칙에는 AI 시대에 추구해야 할 3대 가치로 ▲ 인간의 존엄성 ▲ 사회의 공공선 ▲ 인류의 지속가능성이 제시됐습니다.

이를 실현하기 위한 7대 원칙으로는 ▲ 인간 중심성 ▲ 프라이버시 보호 ▲ 공정성·포용성 ▲ 책임성 ▲ 안전성 ▲ 신뢰성 ▲ 투명성을 담았습니다.

인간 중심성은 AI가 사람의 판단과 창의성, 문제 해결 능력을 지원하는 방향으로 활용돼야 한다는 내용입니다.

프라이버시 보호는 개인정보를 필요한 범위에서 처리하고 정보 주체의 자기 결정권을 존중하도록 했습니다.

공정성·포용성에서는 AI의 편향에 따른 부당한 차별을 방지하고 모든 사람이 AI의 혜택과 기회에 공평하게 접근할 수 있도록 노력할 것을 제시했습니다.

책임성은 각 주체가 역할과 책임을 명확히 이행하고 문제가 발생하면 책임 소재를 밝히고 피해를 구제하도록 하는 내용입니다.

안전성은 생명·신체·정신적 건강과 재산상 피해를 방지하고 오남용이나 외부 공격에 대비하도록 했습니다.

신뢰성을 위해서는 목적과 활용 맥락에 맞는 성능 기준을 설정하고 점검하도록 했으며, 투명성 원칙에서는 AI 활용 여부와 수준, 한계 등 필요한 정보를 이해하기 쉽게 제공하도록 했습니다.

정부는 AI가 생산성을 높이고 새로운 서비스를 창출하는 동시에 노동·일자리 변화, 저작권, AI 과의존, 채용·평가 등 중요한 판단을 AI에 맡기는 데 따른 우려도 커지고 있어 윤리원칙을 마련했다고 설명했습니다.

특히 AI 공급자뿐 아니라 이용자도 책임 있는 AI 활용의 주체로 보고 역할을 함께 제시했습니다.

AI 역량과 자원을 많이 가진 국가와 기업은 영향력에 상응하는 책임을 져야 하며, AI의 혜택이 특정 국가·지역·집단에 편중되지 않아야 한다는 국제사회를 향한 제언도 담았습니다.

과기정통부는 앞으로 사례 중심의 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 마련하고 윤리원칙을 지속해 보완할 계획입니다.

배경훈 과기정통부 부총리 겸 장관은 "AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "대한민국 인공지능 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 말했습니다.

(사진=과학기술정보통신부 제공, 연합뉴스)