오픈AI가 최근 공개한 새 AI(인공지능) 모델 'GPT-4o(포오)'의 음성이 미국 유명 배우 스칼렛 요한슨의 목소리를 모방했다는 논란에 휩싸인 가운데, 오픈AI의 AI 모델 투명성이 크게 낮은 것으로 나타났습니다. 유럽연합은 세계 최초의 포괄적 AI 규제법을 2026년부터 전면 시행하기로 했습니다.
무슨 상황인데?
스칼렛 요한슨은 챗GPT 신규 음성 서비스 중 하나인 '스카이'가 자신의 목소리를 모방했다고 주장하고 있습니다. 요한슨은 스카이의 음성이 자신의 친구와 미디어도 구분할 수 없을 정도로 자기 목소리와 흡사하다며, '충격과 분노'를 느꼈다고 밝혔습니다. 요한슨은 오픈AI CEO 샘 올트먼이 GPT-4o 발표 이틀 전에 자신의 목소리를 쓰고 싶다고 전화해 왔지만 거절했다고 밝혔습니다. 요한슨은 오픈 AI에 스카이가 만들어진 과정을 자세히 설명해 달라는 편지를 보냈다고 합니다. 또 변호사를 고용했다며 법적 대응까지 시사했습니다.
오픈 AI는 스칼렛 요한슨의 목소리와 비슷한 챗GPT 음성 사용을 일시 중단하고, '스칼렛 요한슨을 모방한 것이 아니라 다른 전문 배우의 목소리'라고 주장하고 있습니다. 하지만 '개인정보 보호를 위해' 이 성우가 누구인지는 공개하지 않고 있습니다.
좀 더 설명하면
이런 가운데 미국 스탠퍼드대의 인간중심인공지능연구소(HAI)가 현지시각 21일 주요 14개 AI 모델의 투명성 지수(FMTI)를 평가한 보고서를 발표했습니다. 아니나 다를까, 오픈AI는 14개 모델 중 11위로, 투명성이 다른 모델에 비해 많이 처지는 것으로 나타났습니다.
이 연구소는 지난해 10월 처음으로 이 지수를 발표했는데요, HAI의 투명성 지수는 사회적으로 영향력 있는 AI 개발자들이 개발 과정 등을 더 많이 공개하도록 장려하기 위한 것으로, 매개변수와 훈련 방식, 데이터 공개 여부, 설명 가능성 등의 지표를 기준으로 100점 만점으로 평가합니다.
이번 평가에서 조사 대상 14개 AI 모델 중 허깅페이스-서비스나우의 스타코더가 85점으로 가장 높은 점수를 받았습니다. 49점으로 11위를 기록한 오픈AI의 GPT-4는 지난해 10월에는 48점을 받았습니다. 별다른 개선이 없었다는 얘기입니다.
구글의 1.0 울트라는 47점으로 12위, 역시 하위권입니다. 앤스로픽의 클로드3(51점)는 10위, 마이크로소프트 파이-2(62점)는 5위, 메타 라마-2(60점)는 6위를 각각 기록했습니다. 조사 대상 모델의 평균 점수는 58점으로 나타났습니다.
연구진은 "데이터의 투명성이나 실제 영향력 측면에서 (지난해 10월에 비해) 거의 진전이 없다는 사실에 다소 실망했다"면서, "AI 개발자들은 모델 학습에 사용하는 저작권이 있는 데이터, 해당 데이터에 액세스할 수 있는 사람, AI 가드레일이 얼마나 효과적인지는 계속 비밀로 하고 있다"고 말했습니다.
한 걸음 더
EU 27개국으로 구성된 교통·통신·에너지이사회는 현지시각 21일 벨기에 브뤼셀에서 열린 회의에서 'AI법'을 최종 승인했다고 밝혔습니다. 이 법은 다음 달부터 발효되는데요. 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되며 12개월 이후부터는 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대한 규제가 시행됩니다. 2026년 중반 이후부터는 전면 시행됩니다.
(남은 이야기는 스프에서)