문화체육관광부 국정감사장에서 유 장관의 음성 학습시켜 만든 ‘딥페이크’ 영상 시연

유인촌 문화체육관광부 장관이 10일 국회 문화체육관광위원회에서 열린 문화체육관광부 국정감사에서 질의를 받고 있다. 사진=연합뉴스

10일 문화체육관광부 국정감사장에서 느닷없이 김광석의 ‘서른즈음에’가 울려 퍼졌다. 영상을 보니 부르는 이가 유인촌 장관이다.

김광석의 영상에 유 장관의 얼굴을 합성하고 유 장관의 음성을 학습시켜 만든 ‘딥페이크’ 영상이었다. 이상헌 문화체육관광위원장이 최근 AI 기술 접목으로 더욱 정교해진 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해 시연한 것이다. 

연합뉴스 보도에 따르면, 이 영상은 이상헌 국회 문화체육관광위원장이 최근 AI 기술 접목으로 더욱 정교해진 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해 시연한 것이다. 이 위원장은 이날 유 장관에게 “가수 김광석을 아느냐”고 물었고, “잘 안다”는 유 장관에게 “즐겨듣는 김광석 노래가 있느냐”고 재차 질문했다.

유 장관이 “예전에는 많이 들었다”고 하자, 이 위원장은 “그러면 위원장이 장관의 목소리로 김광석 노래를 흉내 내겠다”고 했다. 회의장 스크린에는 유 장관이 기타를 들고 '서른즈음에'를 부르는 영상이 상영됐고, 유 장관은 웃음을 터뜨렸다.

이 위원장은 “AI(인공지능)에 유 장관 목소리를 학습시켜서 만들어 보았다. 그럴듯하지 않으냐”고 질문했고, 유 장관은 “비슷하다”고 답했다. 이 위원장은 “생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 있다”고 우려를 표했다. 이 위원장은 자신이 지난 5월 AI를 사용해 제작한 콘텐츠엔 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다면서 “법안을 긍정적으로 검토해달라”고 당부했다.

유 장관은 “그렇게 하겠다”고 답하면서 “이 위원장께 부탁하고 싶은 것이 있다. 예전에도 뭘 바꾸고 개혁하자는 이야기가 나오면 정치적으로 해석해 항상 정말 힘들었다”면서 “AI 문제도 해결해야 할 미래 과제라 많이 협조해 주시면 개정이 잘될 것”이라고 덧붙였다.

<문화경제 안용호 기자>