생성형 AI의 '은밀한 연령 편향'…"노인에 대해 미묘한 고정관념"

한국과학기술원(KAIST)은 오픈AI의 챗GPT-4o가 생성하는 문장 속에 노인에 대한 미묘한 고정관념이 내재돼 있음을 정량적으로 분석했다고 밝혔습니다.

과학기술정책대학원 최문정 교수 연구팀이 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하도록 하는 중립적 프롬프트를 활용해 GPT-4o가 생성한 텍스트 900개를 수집하고, 사회심리학 분야의 대표 이론인 고정관념 내용 모델을 적용해 분석한 결과입니다.

이 분석에서 60세 이상 고령자 집단은 친절함과 배려심 같은 사회적 호감도를 나타내는 특성인 '따뜻함' 점수는 높았던 반면, 전문성과 효율성 등을 의미하는 특성인 '역량' 점수는 젊은 연령층에 비해 상대적으로 낮게 나타나는 경향이 확인됐습니다.

또, 생성된 응답에서는 인간의 생애 주기가 청년층(10∼20대), 중년층(30∼50대), 노년층(60대 이상)의 세 집단으로 구분돼 표현되는 경향이 나타났습니다.

연구팀은 자신감과 주도성을 나타내는 '자기주장성'에도 주목했습니다.

분석 결과, 자기주장성을 나타내는 표현의 빈도는 연령이 높아질수록 감소하는 경향을 보였습니다.

이는 챗GPT-4o가 노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있음을 시사한다고 연구팀은 설명했습니다.

연구 결과는 생성형 AI가 노인을 '따뜻하지만 역량은 상대적으로 낮은' 집단으로 묘사하는 경향을 보여주며, 이는 대중매체에서 반복적으로 나타나는 전형적인 노인 고정관념과 유사한 양상이라고 연구팀은 덧붙였습니다.

연구팀은 이러한 표현이 대화형 AI 서비스를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다고 설명했습니다.

나아가 이러한 현상이 고령층의 디지털 참여를 저해하는 '디지털 연령차별', 디지털 에이지즘으로 이어질 가능성도 제기했습니다.

최문정 교수는 "AI의 편향은 기술의 문제가 아니라 사회의 문제"라며 "포용적 AI를 위해 다양한 세대가 개발 과정에 참여해야 한다"고 말했습니다.

(사진=한국과학기술원(KAIST) 제공, 연합뉴스)