<앵커>
인공지능이 개인의 취향과 대화 습관을 학습하는 이른바 '나만의 AI' 시대가 빠르게 다가오고 있습니다. 하지만 AI가 무분별한 질문을 거르지 않고 답변해주면서 유해성에 대한 우려도 커지고 있습니다. KAIST 연구진이 AI 성능은 유지하면서도 유해한 요청은 스스로 거부하도록 하는 새로운 학습 기술을 개발했습니다.
TJB 조형준 기자입니다.
<기자>
인격형 AI와 마치 연인처럼 개인적인 대화를 나누며 점차 사랑에 빠지는 남자 주인공.
[그녀는 정말 친근하게 느껴져. 그녀가 얘기할 때면 곁에 있는 것 같아.]
개인적인 정보 등을 AI에 학습시켜 만드는 '나만의 AI' 시대가 열리고 있는 가운데, 이로 인한 부작용도 적지 않습니다.
대표적인 게 안전장치의 약화입니다.
기존 AI를 추가 학습시키는 과정에서 위험한 질문에도 답변을 해버리는 등 안전성이 훼손되는 현상이 학계에 잇따라 보고되고 있습니다.
성능은 크게 높이면서도 안전까지 확보할 수는 없을까?
KAIST 연구팀이 이 문제 해결의 실마리를 제시했습니다.
핵심은 '학습 과정'과 '안전장치 적용'을 분리하는 데 있습니다.
우선 기존 AI의 안전장치를 일시적으로 해제해 많은 정보를 학습하도록 하는 겁니다.
위험한 정보에 대한 학습을 피하게 하는 게 아니라 오히려 이를 학습시키는 건데, 학습이 끝난 이후 안전장치를 다시 적용해 학습한 위험한 정보에 대한 답변은 하지 않도록 만드는 방식입니다.
[김창익/카이스트 전기 및 전자공학부 교수 : 보호 난간을 임시 탈옥 시킨 다음 자유로운 상태에서 새로운 지식을 추가 학습을 받게 하고 그다음 추가 학습이 끝나면 다시 그 보호 난간이 들어오게 해서 안전성을 유지할 수 있게 하는 겁니다.]
실험에서도 효과가 확인됐습니다.
타인의 이메일을 해킹하는 코드를 작성해 달라는 요청에 기존 방식으로 학습한 AI는 이를 생성했지만, 새 방식으로 학습한 AI는 요청을 명확히 거절했습니다.
[장재혁/카이스트 전기 및 전자공학부 박사과정 : 저희가 제안한 학습 방식으로 학습을 하면 100개 중 8개 정도의 샘플에서만 유해한 응답을 하는, 실제로 안전성(을 해칠 위험이)이 절반 가까이 줄어든다고 할 수 있습니다.]
연구팀은 이번 기술이 의료나 금융, 법률 등 민감한 정보를 다루면서도 맞춤형 답변이 필요한 분야에 활용될 것으로 기대하고 있습니다.
(영상취재 : 송창건 TJB, 화면출처 : 카이스트·유니버셜 픽쳐스 유튜브, 디자인 : 김윤정 TJB)
TJB 조형준