[SDF] 삶의 '공동 저자' 된 AI…내 판단은 온전히 내 것일까? (필립 코랄루스 옥스퍼드대 인간중심 AI 연구소 창립소장)

인공지능(AI)이 인간의 판단을 대신하는 시대에 인간의 자율성을 지키려면 AI가 정답을 제시하는 대신 스스로 생각하도록 질문을 던지는 방향으로 개발돼야 한다는 주장이 나왔습니다.

영국 옥스퍼드대학교의 필립 코랄루스 철학·AI 교수는 오늘(5일) 서울 동대문디자인플라자(DDP)에서 열린 'SBS D포럼(SDF) 2026'에서 AI 시대 인간의 자율성을 지키기 위한 방안을 제시했습니다.

코랄루스 교수는 옥스퍼드대 인간중심AI연구소(HAI Lab) 창립소장으로, 철학과 인지과학을 바탕으로 인간의 추론과 판단, AI와 인간의 관계를 연구해 온 학자입니다.

프린스턴대학교에서 철학과 신경과학을 전공해 박사학위를 받았으며, AI가 인간의 판단 능력을 대체하는 대신 강화하도록 만드는 '자율성을 보존하는 지능 증강'을 연구하고 있습니다.

코랄루스 교수는 이날 강연에서 "AI 시스템이 단순히 인간의 판단을 자신의 판단으로 대체한다면, 어떤 의미에서는 인간 자체를 부분적으로 대체하는 것"이라고 지적했습니다.

그는 AI가 인간의 취향과 선호를 만족시키는 데 집중할 경우, 오히려 인간이 스스로 판단하고 선택하는 능력을 약화시킬 수 있다고 경고했습니다.

대표적인 사례로 이용자가 원하는 콘텐츠를 끊임없이 추천하는 알고리즘을 들었습니다.

이러한 시스템은 당장의 선호를 충족시킬 수 있지만, 이용자가 정말 원하는 것이 무엇인지 스스로 생각하고 판단할 기회를 빼앗을 수 있다는 설명입니다.

코랄루스 교수는 AI가 인간의 삶 전반에 개입해 판단을 대신하는 현상을 '인생의 자동완성(Autocomplete for life)'이라고 표현했습니다.

그는 "인생의 자동완성은 경험을 통해 자신의 진정한 우선순위를 알아가는 과정을 방해할 위험이 있다"고 경고했습니다.

또 AI 개발자가 무엇이 이용자에게 가장 좋은 선택인지를 미리 결정하고, AI가 이용자를 그 방향으로 유도하는 '온건한 온정주의(Soft paternalism)' 역시 인간의 자율성을 훼손할 수 있다고 지적했습니다.

코랄루스 교수는 이를 극복하기 위한 대안으로 AI가 답을 대신 제시하는 것이 아니라, 인간이 자신의 판단을 점검할 수 있도록 적절한 질문을 추천하는 시스템을 제안했습니다.

그는 "AI는 단순히 답을 제공하거나 다른 사람의 관점으로 우리를 유도하는 대신, 우리 자신의 판단에 중요한 질문들을 검토하도록 도울 수 있다"고 설명했습니다.

예를 들어 물건을 구매할 때 AI가 어떤 제품을 사라고 추천하는 데 그치지 않고, 같은 돈으로 다른 무엇을 할 수 있는지 질문한다면 이용자가 자신의 선택을 다시 검토할 수 있다는 것입니다.

중요한 투자나 경영 판단에서도 전문가들이 고려할 만한 질문을 AI가 제시해, 이용자가 충분한 검토를 거쳐 스스로 결론을 내리도록 도울 수 있다고 설명했습니다.

코랄루스 교수는 이러한 방식을 '질문 추천 시스템(Erotetic recommender system)'이라고 소개했습니다.

단순히 질문을 많이 던지는 것이 아니라, 판단에 중요한 질문을 선별해 자신의 결론이 충분한 검토를 거친 뒤에도 유지될 수 있도록 돕는 것이 핵심이라고 강조했습니다.

또 인간의 자율성을 지키는 AI를 개발하려면 AI 자체에도 일정 수준의 자율성이 필요하다고 주장했습니다.

이용자가 듣고 싶어 하는 말만 반복하거나 개발자가 미리 정한 결론으로 유도하지 않고, 인간의 판단을 독립적으로 점검할 수 있어야 한다는 취지입니다.

이 과정에서 AI가 이용자의 판단과 취약성을 파악한 정보를 악용하지 못하도록 개인이 자신의 데이터에 대한 충분한 통제권을 갖는 것도 중요하다고 강조했습니다.

코랄루스 교수는 인간의 판단을 강화하는 AI가 특정한 하나의 관점만을 강요해서는 안 된다며, 다양한 사람들이 각자의 판단과 가치관을 발전시킬 수 있도록 여러 형태의 AI 시스템이 개발돼야 한다고 제안했습니다.

※ 자세한 내용은 영상으로 확인하실 수 있습니다.