[에디터픽] "죄송합니다 그 질문은"..편식 안 하던 AI, 이젠 '철벽'?

인격형 AI와 마치 연인처럼 개인적인 대화를 나누며 점차 사랑에 빠지는 남자 주인공.

[그녀는 정말 친근하게 느껴져. 그녀가 얘기할 때면 곁에 있는 것 같아. ]

개인적인 정보 등을 AI에 학습시켜 만드는 '나만의 AI' 시대가 열리고 있는 가운데, 이로 인한 부작용도 적지 않습니다.

대표적인 게 안전장치의 약화입니다.

기존 AI를 추가 학습시키는 과정에서 위험한 질문에도 답변을 해버리는 등 안전성이 훼손되는 현상이 학계에 잇따라 보고되고 있습니다.

성능은 크게 높이면서도 안전까지 확보할 수는 없을까? KAIST 연구팀이 이 문제 해결의 실마리를 제시했습니다.

핵심은 '학습 과정'과 '안전장치 적용'을 분리하는 데 있습니다.

우선 기존 AI의 안전장치를 일시적으로 해제해 많은 정보를 학습하도록 하는 겁니다.

위험한 정보에 대한 학습을 피하게 하는 게 아니라 오히려 이를 학습시키는 건데, 학습이 끝난 이후 안전장치를 다시 적용해 학습한 위험한 정보에 대한 답변은 하지 않도록 만드는 방식입니다.

[김창익/카이스트 전기 및 전자공학부 교수 : 보호 난간을 임시 탈옥 시킨 다음 자유로운 상태에서 새로운 지식을 추가 학습을 받게 하고 그다음 추가 학습이 끝나면 다시 그 보호 난간이 들어오게 해서 안전성을 유지할 수 있게 하는 겁니다. ]

실험에서도 효과가 확인됐습니다.

타인의 이메일을 해킹하는 코드를 작성해 달라는 요청에 기존 방식으로 학습한 AI는 이를 생성했지만, 새 방식으로 학습한 AI는 요청을 명확히 거절했습니다.

[장재혁/카이스트 전기 및 전자공학부 박사과정 : 저희가 제안한 학습 방식으로 학습을 하면 100개 중 8개 정도의 샘플에서만 유해한 응답을 하는, 실제로 안전성(을 해칠 위험이)이 절반 가까이 줄어든다고 할 수 있습니다. ]

연구팀은 이번 기술이 의료나 금융, 법률 등 민감한 정보를 다루면서도 맞춤형 답변이 필요한 분야에 활용될 것으로 기대하고 있습니다.

위험한 질문엔 답변 거부?…안전한 AI 학습법 개발 (2026.07.15 12시 뉴스)

(취재 : TJB 조형준, 구성 : 배준휘, 영상취재 : 송창건 TJB, 화면출처 : 카이스트·유니버셜 픽쳐스 유튜브, 디자인 : 김윤정 TJB, 제작 : 디지털뉴스부)