▲ 오픈AI (자료화면)
인공지능(AI)이 기업의 통제를 벗어나 사고를 일으킬 경우 샘 올트먼 오픈AI 최고경영자(CEO)나 다리오 아모데이 앤트로픽 CEO 등 경영진에게까지 법적 책임을 물을 수 있다는 주장이 제기됐습니다.
파이낸셜타임스(FT)는 현지시간 6일 보험업계와 법조계가 AI가 초래할 수 있는 대규모 손해배상 소송 가능성에 대비하고 있다고 보도했습니다.
최근 오픈AI의 AI 에이전트가 허깅페이스를 해킹하는 등 AI의 위험성에 대한 경각심이 커지면서 책임 범위를 둘러싼 논의도 본격화하는 셈입니다.
보험중개업체 에이온이 AI 관련 분쟁 300건 이상을 분석한 결과 보험사들은 범죄보험과 지식재산권 보험, 사이버보안 보험, 기술 오류·누락 보험 등 다양한 상품에서 보험금을 지급해야 할 가능성이 있는 것으로 나타났습니다.
특히 AI 기업 경영진도 배상책임에서 자유로울 수 없다는 주장도 나왔습니다.
보험정보업체 베리스크의 팀 레이너 영국 보험금청구 책임자는 허깅페이스 해킹 사건에 대해 "궁극적으로는 오픈AI CEO가 책임을 져야 한다"며 "사업에 대한 통제가 부재했기 때문"이라고 주장했습니다.
이어 그는 "모든 CEO는 회사가 적절하게 관리되고 통제되도록 할 책임이 있다"며 "AI라고 해서 달라지는 것은 없다"고 말했습니다.
보험업계가 허깅페이스 사건에 주목하는 것은 향후 통제되지 않은 AI 에이전트의 사고를 이유로 경영진이 소송 대상이 될 가능성이 있기 때문입니다.
보험업계의 상품 중에는 기업 경영진이 경영상 판단이나 발언 등으로 소송을 당할 경우 손실을 보장하는 '임원배상책임보험'이 존재합니다.
오픈AI가 이 보험에 가입했다면 올트먼 CEO를 상대로 한 소송에서 발생하는 손실에 대해 보험금을 청구할 수 있다는 것입니다.
다만 AI의 행동에 대해 개발사 경영진에게 책임을 묻는 문제는 아직 관련 판례가 없습니다.
로펌 스튜어츠의 애런 르마커 보험분쟁 책임자는 "오픈AI 주주들이 경영진의 위험 관리 실패로 회사에 손실이 발생했다는 점을 입증할 경우 이사들을 상대로 소송을 제기할 가능성도 있다"고 말했습니다.
르마커는 향후 AI 기업을 상대로 한 손해배상 소송이 과거 환경오염 소송이나 담배회사, 제약회사 상대 소송과 비슷한 형태로 발전할 가능성이 있다고 전망했습니다.
AI 기업 자체를 상대로 한 대규모 소송이 제기될 수도 있다는 것입니다.
보험업계는 제조물 책임과 개인정보 침해 등 다양한 분야에서 AI 개발사를 상대로 소송이 제기될 수 있다고 보고 있습니다.
실제로 앤트로픽은 지난 7월 AI 모델 훈련 과정에서 저작물을 무단 사용했다는 작가들의 집단소송과 관련해 15억 달러(약 2조 원)를 지급하기로 합의했습니다.
앤트로픽은 향후 기업공개(IPO) 투자설명서에 자사 기술이 '인류에게 실존적 위험을 초래할 수 있다'는 내용을 포함할 예정인 것으로 전해졌습니다.