Board

공직선거법은 선거일 90일 전부터 선거운동을 위한 AI 영상 제작과 유포를 금지하고 있다. 위반했을 땐 최대 징역 7년까지 선고할 수 있도록 했을 정도로 강력하다. 이러한 처벌조항을 비웃기라도 하듯, 대선을 앞두고 딥페이크 기술로 만든 허위 영상들이 버젓이 판치는 실정이다. 지난해 총선 당시 선관위가 적발한 딥페이크 선거운동 게시물은 391건, 삭제조치한 것만 388건이다. 총선보다도 민감한 대선에서는 얼마나 더 늘어날지 가늠조차 어렵다.

국내 대표적 사이버보안 전문가인 곽진 아주대 사이버보안학과 교수는 “해외의 규제는 보다 선제적이고 강력한 측면이 있다”면서 “현재로서는 플랫폼의 자율적 규제와 함께 유권자 스스로 올바른 리터러시(문해력)를 갖는 것이 중요하다”고 강조했다. 이번 21대 대통령 선거는 사실상 딥페이크 시대가 도래한 이래 치러지는 첫 대선이다.

- 대선 국면에서 딥페이크 영상이 벌써 선거전에 이용되는 모양새인데.

“아직까지 국내에서 선거 관련해서 딥페이크가 대규모로 유포된 사례는 없지만, 최근 들어 딥페이크가 청소년 성범죄에 악용되는 등의 문제가 있었다. 대선 국면에 들어서면 더할 것이다. 우리 선관위나 행정부가 모니터링 체계 강화를 천명하지만 말처럼 쉬운 부분은 아니다. 이번 미국 대선 때도 조 바이든 당시 대통령의 음성을 모방해 ‘투표를 하지 말라’는 전화가 나돌았던 사건이 있었고, 러시아 선전조직이 허위 정보를 담은 딥페이크 영상을 제작해 유포하는 사건도 있었다. 정치 관련 딥페이크는 민주적 선거 질서를 크게 해칠 우려가 있다.”

- 선관위는 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 ‘3단계 대응’을 천명하면서, 실제와 오인할 가능성이 있다면 법 위반에 해당하니 ‘삭제 요청’을 하겠다고 한다. 실효성이 있을까.

“기술적 탐지나 전문가 감별은 필요한 부분이고 유용할 수 있다. 다만 단기간에 효과를 보기는 쉽지 않을 것이다. 시각적 탐지는 어설픈 형태의 합성에 대해선 효과가 있겠지만 정교한 영상에는 한계가 있다. 범용 프로그램은 양적인 측면에서 효과를 보겠지만 고도화와 학습이 필요하다. 딥페이크를 탐지하는 AI조차 최신 딥페이크에는 80~90% 정확도밖에 내지 못한다는 연구 결과도 있다. 자문위원을 동원하는 것도 좋지만, 소셜미디어(SNS)상에서 확산 속도가 감별·삭제 조치보다 훨씬 빠르다. 전반적으로 사후적 조치에 머무를 가능성이 크다. ‘오인 가능성만 있어도 삭제하겠다’는 엄격한 기준은 긍정적이다.”

- 비전문가도 쉽게 만드는 프로파간다형 딥페이크를 정치 유튜버들이 삽시간에 퍼뜨린다. 또 대선 후보들은 학습할 얼굴과 목소리도 너무 많다. 대응이 쉽지 않을 것 같다.

“맞다. 딥페이크 생성 도구들은 오픈소스로 쉽게 구할 수 있다. 게다가 말 그대로 학습 데이터가 엄청나게 많은 것이 대선 후보들이다. 일반인보다 훨씬 고도화된 고급 딥페이크 영상들이 엄청나게 나올 것이다. 시각적 탐지 말고도 음성, 메타데이터 등 다양한 탐지 기법을 병행해야 한다. 최신 생성 기법에 대응할 수 있게 탐지 알고리즘의 업데이트도 필요하다. 그러나 대선까지 한 달 남짓 남은 상황인데, 유효한 기간 내에 대응이 될지 미지수다. 사실 더 큰 문제는 글로벌 빅테크가 분명히 따를 수 있도록 법적 근거를 확보하는 게 될 것이다. 우리 법의 강제력에는 한계가 있다.”

- KISO(네이버, 카카오 등 포털과 커뮤니티가 회원사로 가입한 한국인터넷자율정책기구)를 포함해 플랫폼의 자율규제가 중요한 부분 같다. 하지만 딥페이크 성범죄 논란이 있을 때부터 한계가 있다는 지적이 나왔는데.

“KISO 같은 민간 자율 규제 기관은 필수적이지만 강제력이 약하다. 광고 수익이나 사용자 유입 등 경제적 이해를 우선시할 가능성도 있고. 특히 국내 기업들이 적극적이더라도 구글(유튜브), 페이스북(인스타그램) 같은 해외 빅테크도 그럴 것인지 걱정스럽다. 해외 플랫폼은 사실상 직접 규제가 어려울 수 있는데, 이로 인해 생기는 규제의 비대칭 문제도 있다. 유럽연합은 ‘허위정보, 딥페이크 탐지 및 차단 의무’를 플랫폼에 부과하고 위반 시 최대 연 매출의 6%까지 거액의 과징금을 부과할 수 있도록 규정했다.”

- 유럽연합은 ‘디지털서비스법’을 통해 플랫폼 사업자가 불법 콘텐츠를 의무적으로 삭제하고 법적 책임까지 지도록 하고 있다. 이처럼 플랫폼의 책임을 명시하는 입법은 어려운 것일까.

“유럽연합은 말씀대로 ‘디지털서비스법’으로 일정 규모 이상의 플랫폼에 법적 책임과 투명성 보고를 의무화했다. 딥페이크 콘텐츠에 대해 명확한 표시 의무를 부과하고, 위험 평가와 완화 조치를 강제했다. 미국도 플랫폼 사업자는 사용자가 만든 콘텐츠에 대한 법적 책임이 면제되기는 하지만, 자율규제만으로는 부족하다는 여론에 일부 주 정부가 딥페이크 금지법 등의 직접 규제를 도입했다. 우리도 내년 1월부터 ‘AI 기본법’이 시행되면 변화는 있겠지만 플랫폼의 책임을 명시하지는 못했다. 해외 플랫폼을 규제하기 위해서 국내 산업까지 위축시키는 게 아니냐라는 의견이 있는 것도 사실이다.”

- 이런 규제가 표현의 자유와 상충할 수 있는데, 어떤 식으로 기준을 마련할 수 있을까.

“매우 중요하고 민감한 문제다. 결국 딥페이크 규제의 핵심은 표현의 자유와 공익 보호 사이의 절충이다. 다만 선거는 민주주의의 중요한 부분인 만큼, 공공의 이익에 심각한 손해를 끼치는 것이 아니냐는 부분을 중점적으로 고민해볼 수 있을 것이다. 어떻게 이를 구분할 것이냐가 문제인데, 콘텐츠가 사실로 오인될 가능성이 있는지, 목적성이 비방인지 풍자인지, 사용된 맥락이 코미디인지 선거공보인지, 피해가 발생했는지, 가짜 여부가 식별이 가능한 콘텐츠인지를 종합적으로 따져봐야 할 것이다. 유럽연합의 디지털서비스법은 플랫폼 사업자가 ‘허위 콘텐츠’를 제거하라고 요구하고 있는데, ‘풍자적 목적’의 콘텐츠는 삭제 명령에서 제외한다. 허위정보라도 풍자나 비판적 논평임이 명확하면 표현의 자유를 우선 보호하기도 한다. 미국 캘리포니아주에서도 비슷한 조항이 있다. 우리도 이런 이중 기준을 마련할 필요가 있다.”

- 워터마크 등 식별표시 의무화를 골자로 하는, 내년 1월에 시행되는 ‘AI기본법’이 더 일찍 시행됐다면 상황이 나았을까.

“그렇다. 찾아보니 선관위가 AI에 대응하는 인력이 전국적으로 최대 500여명 정도다. 이 대응팀이 삭제나 차단을 직접 할 수 있는 권한이 있는 것도 아니다. 삭제 요청을 하는 것이지. 현행 공직선거법은 선거일 90일 전부터 허위사실 공표 등을 규제하지만 딥페이크 기술 자체에 대한 직접적 규정은 없다. 선거법상 허위 여부 판단은 고의성이나 허위성을 충족했는지 여부에 따라 결정되니 초기 확산을 차단하는 것에는 한계가 있다. AI기본법에는 AI 콘텐츠에 워터마크 등의 식별 표시를 의무화하는 등의 내용이 담겨 있다. 유럽연합의 경우 워터마크 도입으로 선거기간 중 허위 딥페이크 확산율이 30% 감소했다는 평가도 있다. 지금 상황에서는 만만치 않을 것이다.”

- 이번 대선에서 유권자들이 지켜야 할 ‘딥페이크 선거 리터러시’ 같은 것이 있다면.

“어렵다. 일반적이고 당연한 이야기지만 실제로는 지켜지지 않는 것들이라서. 일단 처음 보는 충격적 영상은 무조건 의심해야 할 것이다. 출처가 공신력 있는 언론인지 불분명한지도 따져봐야 한다. 의심되는 콘텐츠는 적극적으로 신고하는 것도 도움이 된다. 사실 음성이나 얼굴에 대한 진위 판별보다 정보에 대한 진위 판별이 중요하다. 기술만으로는 충분하지 않다. 만드는 사람이 제일 문제다. 그러나 유권자의 정보 분별 능력이 민주주의를 지키는 첫 번째 방어선이다.”

[관련출처: 주간조선]