AI가 생물무기 문턱 낮추나…"가능성 있지만 현실적 장벽"

인공지능(AI)이 급속하게 발달하면서 AI가 생물무기 개발에 악용될 수 있다는 우려도 커지고 있습니다.

전문가들은 생물무기 생산을 위한 재료 수급 등 현실적인 장벽이 있지만 범죄집단과 테러범 등이 생물무기 제조에 AI의 도움을 받을 가능성이 있다고 우려합니다.

영국 일간 가디언은 현지시간 14일, AI를 활용한 생물무기 제조 실태를 전하며 전문가들의 의견 등을 보도했습니다.

보도에 따르면 인도 경찰은 지난해 한 의사와 여러 명이 AI 챗봇과 AI 기반의 검색을 이용해 주방 도구로 치명적인 독소인 리신을 만들려 했다는 의혹을 받는 생물테러 음모를 적발했습니다.

리신은 피마자(아주까리) 씨앗에서 추출되는 맹독성 물질로, 소량으로도 성인을 죽음에 이르게 할 수 있습니다.

AI 선도 기업 중 하나인 앤트로픽도 지난 9월 자사의 챗봇 클로드를 바이러스나 독소 관련 연구에 사용하려 한 과학자 5건의 사례를 보고했습니다.

앤트로픽은 한 사례로 연구자들이 고병원성 조류 인플루엔자 바이러스에 돌연변이를 도입해 포유류에 더 쉽게 적응하고 확산하도록 하는 실험을 계획하면서 챗봇을 활용했다고 전했습니다.

가디언은 생물 무기를 제조하는데 AI를 활용하는 주체가 어디인가에 따라 그 활용도와 위험성이 달라질 것이라고 짚었습니다.

숙련된 기술이 없는 악당과 테러 조직도 AI 챗봇으로 생물무기 관련 정보를 수집하고 실험을 계획할 수 있습니다.

이들의 연구는 기존의 병원체와 독소를 활용하는 데 초점을 맞출 가능성이 높습니다.

생물무기를 안전하게 개발하는 데 필요한 모든 장비와 시약, 숙련된 과학자, 완전히 격리된 실험실 등을 갖춘 기관과 국가는 더 위험한 집단으로 평가됐습니다.

AI 도구는 이들 기관의 연구자들이 기존 병원체를 더 치명적으로 만드는 유전적 변형을 확인하는 데 도움이 될 수 있다는 게 전문가들의 우렵니다.

영국 런던 킹스 칼리지의 과학·국제안보 부교수인 필리파 렌초스는 "AI는 전문지식에 대한 필요성을 없애는 게 아니라 이미 존재하는 전문지식을 증폭시킨다"고 말했습니다.

고도로 숙련된 집단이 AI를 활용해 약물에 내성이 있거나 해독제가 없는 병원체나 독소를 새롭게 만든다면 더 큰 위협이 될 수 있다는 우려도 나옵니다.

이런 우려에도 생물학 연구의 이중적 용도 특성이 대응책 마련에 어려움을 주고 있습니다.

생물학 연구가 생물무기 개발에 활용될 수 있지만 건강을 보호할 수 있는 가치 있는 연구일 수도 있기 때문입니다.

한 사례로 미국 로스앨러모스 국립연구소가 바다 달팽이의 신경독을 연구한 것을 들 수 있습니다.

이 연구소의 과학자들은 지난해 바다 달팽이의 매우 강력한 신경독이 인간 세포에 얼마나 달라붙는지 예측하도록 AI를 훈련했습니다.

이는 해독제 개발을 위한 것이었습니다.

하지만 중국 연구진이 이 연구를 참고해 새로운 독소를 설계하는 자체 도구를 개발하자 미국 정부는 우려를 표명했습니다.

중국 측은 해당 연구가 오로지 신약 개발을 위한 것이라고 주장했습니다.

전문가들은 AI가 생물무기 개발에 악용될 가능성이 있지만 현실적인 장벽도 높다고 진단합니다.

대부분의 생물무기 연구가 비숙련 그룹의 손이 닿지 않는 곳에 있고 그 기술이 매우 위험하고 복잡하다는 것입니다.

런던 킹스 칼리지의 렌초스 부교수는 "정보는 문제의 한 부분일 뿐"이라면서 "생물학적 재료와 장비에 대한 접근성, 실험적인 입증, 규모 확대, 전문적인 지식 등이 여전히 상당한 장벽으로 존재한다"고 말했습니다.

스위스 취리히대학의 마틴 파체사 교수는 "어떤 대학원의 물리학자라도 잠재적으로 훨씬 더 효과적인 핵폭탄 계획을 마련할 수 있지만 어디서 우라늄 덩어리를 구할 수 있겠나"라면서 생물무기 제조에도 이런 장벽이 있다고 했습니다.

이처럼 현실적인 장벽이 있지만 AI가 생물무기 제조에 악용되지 않도록 조치를 취해야 한다는 목소리도 나옵니다.

톰 잉글스비 미국 존스홉킨스 보건안보센터장은 "새로운 AI 모델을 공개하기 전에 독립적인 평가를 받고 위험 요소를 제거해야 한다"며 "연구자들을 위해 유전 물질을 만드는 회사들도 이 물질이 매우 위험한 바이러스를 새로 만드는데 활용되지 않도록 해야 한다"고 강조했습니다.