지난주 공개된 이후 '넷플릭스 시리즈 1위'를 달리고 있는 화제작 '살인자ㅇ난감'. 이 시리즈의 인상적인 장면 중 하나가 주인공 장남감(손석구 분)이 어린 시절을 떠올리는 회상 신이다. 현재의 장난감 얼굴과 어린시절 모습이 오버랩되는 장면인데, 이를 본 시청자들은 '어디서 저렇게 손석구와 꼭 닮은 배우를 구했냐'는 반응을 보였다.

실제 드라마에서 대역이 없었던 것은 아니지만, 손석구의 어린시절 얼굴 사진을 조합해 만들어 낸 딥페이크 영상으로 확인됐다. 이같은 사실이 알려진 뒤 '소름끼친다' '대반전'이라며 놀라움을 표하는 이들이 적지 않다.

딥페이크(deepfake)란 인공지능(AI) 기술인 딥러닝(deep learning)과 '가짜'를 의미하는 단어인 페이크(fake)의 합성어로, AI 기술을 이용해 사람의 이미지·영상·음성을 합성하는 기술이다.

딥페이크 기술은 실제 영상과 구분하기 어려울 정도로 정교해지고 있다. 예전에는 딥페이크 영상에서 얼굴 표정이나 동작이 부자연스러운 게 많았다면 요즘은 자세히 살펴봐야만 가짜라는 걸 아는 경우가 많다는 게 전문가들의 진단이다. 또 사람의 모습과 행동이 담긴 단 몇 분짜리 영상과 말한 문장 100여개만 있으면 딥페이크로 가짜 영상을 만들 수 있다.

딥페이크 서비스의 진입장벽도 확 낮아지고 있다. 스마트폰 앱 스토어에서 '딥페이크'라고 검색하면 수십여개의 관련 서비스 앱이 뜰 정도다. 누구나 쉽게 스마트폰에서 딥페이크 서비스를 이용할 수 있다. 이들 서비스는 '얼굴 바꾸기·성별바꾸기' '목소리전환' 등의 기능도 제공한다.

문제는 육안으로 진위 여부를 판단하기 어려울 정도로 딥페이크 영상 기술이 발전하면서 이를 악용하는 범죄도 증가하고 있다.

최근 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 사회관계망서비스(SNS) 엑스(X, 구 트위터)에서 확산돼 미국사회 뿐만 아니라 전 세계가 발칵 뒤집혔다.

지난해 11월 헐리우드 배우 스칼렛 요한슨은 자신의 사진과 목소리를 AI 기술로 변조, 이를 광고에 사용한 AI 앱 제작사에 법적 조치를 취했으며, 미국 유명배우 톰 행크스도 자신의 얼굴을 무단 도용한 AI 아바타가 치과 보험을 홍보하는 영상이 무단 유포되고 있다고 경고했다.

앞으로는 딥페이크 기술이 일반인들을 겨냥한 피싱 범죄에도 악용될 소지도 다분하다. AI가 개인정보를 광범위하게 수집한 결과로 만들어낸 피싱메일은 마치 잘 알고 지낸 사람이 보낸 인사메일로 둔갑할 수 있고, 짧은 인사말 한마디로 복제한 음성은 가족들을 속여 몸값을 받아내는데 활용될 것이란 게 보안 전문가들의 경고다.

가장 큰 문제는 딥페이크 기술의 오남용 여부를 판단할 기준조차 없다는 점. 곽진 아주대학교 교수는 "이것이 악의적인 콘텐츠인지, 그렇지 않은지 판단할 기준이 없는 상황"이라며 "그렇다고 '여기서 여기까지는 악용' 이런 식의 경직된 기준은 적합하지 않기 때문에 많은 고민이 필요한 상황"이라고 말했다. 이어 "이 때문에 플랫폼 기업들이 자체적인 규칙을 만들고 'AI 콘텐츠' 임을 표기를 하자는 것이 최근의 글로벌 대응 동향"이라고 말했다.

실제 인스타그램, 페이스북을 운영하는 메타와 구글, 틱톡 등 글로벌 빅테크들은 최근 진짜처럼 보이는 생성형 AI 콘텐츠에 별도의 라벨을 부착하겠다고 앞다퉈 발표했다.

정부도 올해 AI 프라이버시 유형·용례별 리스크 평가 모델을 마련키로 했다. 딥페이크 영상 등으로부터 초상권 등 정보주체의 권리를 보장할 수 있는 일종의 가이드라인을 제시한다는 방침이다.

[관련기사 : https://www.newsis.com/view/?id=NISX20240216_0002629672]