News[ISAA Lab.] 동아일보(26.07.27) 파일 클릭하자 1초 만에 뜬 글씨 성 착취물 확률 80.9% (교수님 인터뷰)
Author 관리자시스템Date 2026-07-27Views 320
국가수사본부, 영상 분석 AI 도입
대검-성평등부도 AI 실전 투입… 민간 보험사기-대포통장 감지도
AI 악용한 사기-해킹 점차 기승… 위조문서 검거 2년 새 84.7%↑
‘사기GPT’가 검열 우회해 해킹… “규제 샌드박스로 혁신 주도해야”
24일 서울 서대문구 경찰청 국가수사본부 사이버수사대 사무실. 한 수사관이 모니터 앞에 앉아 PC 폴더를 열었다. 파일명만 봐선 평범한 문서함 같았지만, 검색을 돌리자 ‘숨김 처리’된 파일과 확장자명을 일부러 바꿔 동영상이 아닌 척 위장한 파일까지 총 10개의 동영상이 딸려 나왔다. 재생 시간을 다 합치면 11시간 분량. 예전 같으면 수사관이 처음부터 끝까지 눈으로 확인하느라 하루 종일 매달려야 했을 분량이다.
하지만 이날은 달랐다. 수사관이 마우스를 두 번 클릭하자 10초 만에 화면에 숫자가 떴다. 영상 10개 각각이 성 착취물일 확률이었다. 얼굴이나 겨드랑이 등 어느 신체 부위가 감지됐는지도 함께 표시됐다. 주요 부위가 노출된 영상에는 별표까지 붙었다. 한 영상엔 ‘가슴 노출 확률 80.9%’라고 떴다. 국수본이 개발한 인공지능(AI) 기반 ‘성 착취물 탐지 프로그램’을 시연하는 장면이다.
● 성 착취물 분석, AI로 하니 320→3시간
이 프로그램은 성 착취물로 분류한 영상의 제목, 파일 위치, 증거 자료 제출용 캡처본까지 엑셀 파일 형태로 자동 정리해 준다. 범죄일람표를 작성할 때 수사관이 일일이 손으로 옮겨 적을 필요가 없어진 것이다.
개발 계기는 2024년 1월부터 지난해 10월까지 발생한 ‘아이피(IP) 카메라 12만 대 해킹 및 영상 유포 사건’ 수사였다. 처음 검거된 피의자가 주택이나 사업장에 설치된 IP 카메라를 해킹해 저장한 동영상 파일은 4215개. 이를 하나하나 눈으로 확인해 분류하는 데 약 320시간이 걸렸다. 그런데 뒤이어 검거한 다른 피의자로들부터는 이보다 많은 1만여 건의 동영상이 나왔다. 사람의 힘만으로는 감당하기 어렵다고 판단한 경찰이 더 정확하고 빠른 분류법을 찾아 나선 게 이 프로그램의 시작이었다.
프로그램에 쓰인 기술은 ‘객체 탐지’다. AI가 사진이나 동영상 속 물체를 감지해 특정 카테고리로 구분하는 기술로, 산업 현장에서 근로자의 안전모 착용 여부를 가려내거나 자율주행차가 보행자를 인식할 때 쓰인다. 경찰청은 수작업으로 320시간 걸리던 일을 이 프로그램으로 3시간 만에 끝낼 수 있다는 효과를 확인하고 9일 전국 경찰서에 배포했다.
● 감시망 뚫는 AI… 위조문서 범죄 기승
경찰이 이처럼 AI를 수사에 적극적으로 활용하기로 한 것은 거꾸로 AI를 악용한 범죄가 실생활 깊숙이 파고들 만큼 심각해졌기 때문이다. 5월 제주시에서 발생한 절도 사건이 대표적이다. 경찰을 사칭한 30대 남성이 ‘압수수색을 하러 왔다’며 혼자 사는 여성의 집에 들어간 뒤 금품을 턴 혐의로 검거됐다. 알고 보니 내보인 경찰 신분증은 생성형 AI로 위조한 가짜였다.
사법 절차를 유리하게 끌고 가려고 AI로 문서를 위조해 제출한 사례도 있다. 대구지검은 AI로 조작한 카카오톡 대화와 현금 출금 내역을 경찰에 제출한 20대 남성을 16일 구속 기소했다. 그는 피해자 명의로 1900만 원을 대출받아 빼돌려 놓고, 마치 빌려줬던 돈을 돌려받은 것처럼 꾸몄다. 경찰은 이를 불송치 결정했지만, 검찰은 보완수사를 통해 혐의를 포착했다고 밝혔다. 지난해 7월 제주시에서는 구속 수사를 피하기 위해 챗GPT로 위조한 진료 기록부를 검사에게 제출했다가 발각된 피의자도 있었다. 그는 “연극 소품으로 쓸 예정”이라는 거짓말로 챗GPT의 검열을 우회한 것으로 조사됐다.
이런 위조문서 사건이 최근 들어 증가하고 있다. 경찰청이 더불어민주당 윤건영 의원에게 제출한 자료에 따르면 지난해 공문서나 사문서를 위조해 행사한 혐의로 검거된 인원은 205명으로 2021년 111명보다 84.7% 증가했다. AI로 위조한 신분증이나 명함을 앞세워 관공서나 기업을 사칭해 대규모 예약을 잡은 뒤 돈을 뜯어내는 ‘노쇼 사기’ 피해도 커지고 있다. 경찰청에 따르면 올 1∼5월 노쇼 사기 피해액은 988억 원으로, 5개월 만에 지난해 피해액(1256억 원)의 80% 수준에 이르렀다. 경찰청 전기통신금융사기 통합대응단 박상현 경정은 “AI 기술 발전으로 위조문서가 정교해지면서 속기 쉬워졌다”고 설명했다.
● AI, 해킹-보이스피싱 문턱도 낮춰
AI는 사이버 해킹의 문턱도 낮추고 있다. 온라인에는 챗GPT나 제미나이 등 상용 AI의 검열을 우회해 해킹용 악성 코드나 피싱 e메일 작성을 돕는 AI 챗봇 ‘웜GPT’나 ‘프로드(사기)GPT’ 등이 등장했다. 마이크로소프트는 3월 보고서에서 북한 연계 사이버 범죄 조직들이 △범죄 취약점 조사 △가짜 신원·이력서 제작 △피싱·악성코드 개발 등에 생성형 AI를 활용하고 있다고 밝혔다.
AI의 음성 변조와 이미지 생성 기능은 피싱 범죄에도 쓰인다. 지난해 4월 서울에서는 딸의 목소리를 AI로 변조해 딸이 납치된 것처럼 꾸며 1000만 원을 요구하는 보이스피싱이 발생했다. 지난해 11월 대구경찰청은 AI 딥보이스와 딥페이크로 여성 행세를 하는 등의 수법으로 136명에게 64억 원을 뜯어낸 로맨스스캠(연애 빙자 사기) 일당 26명을 검찰에 송치했다.
미국의 사이버 보안 업체 라우드스트라이크에 따르면 지난해 AI 기반 사이버 해킹은 전년 대비 89% 증가했다. 해커가 최초로 내부 시스템에 침투한 뒤 다른 내부 시스템으로 이동하기까지 걸린 시간도 2023년 평균 62분에서 지난해 29분으로 줄었다. 곽진 아주대 사이버보안학과 교수는 “AI가 보안 시스템 우회로를 스스로 판단하는 단계에 접어들면 해킹 피해가 커질 수 있다”고 우려했다.
● 범죄 막는 민관 ‘AI 방패’
이에 맞선 민관의 ‘AI 방패’도 정교해지고 있다. 대검찰청은 마약의 주된 유통 경로인 다크웹과 소셜네트워크서비스(SNS)에서 AI 기반으로 마약 광고를 감시하는 ‘E-drug 모니터링 시스템’을 사용하고 있다. 2024년 연간 총 1557건의 불법 광고를 찾아냈고, 이를 토대로 실제 10건의 마약 유통 사건을 수사했다. 성평등가족부는 아동·청소년 성 착취물을 탐지하는 AI 기술을 4월 도입했는데, 한 달 시범 운영 만에 수집 실적이 3배 가까이 증가했다.
경찰청은 고소·고발 사건 폭증에 대비해 거대언어모델(LLM) 방식의 수사지원AI(KICS-AI)도 개발 중이다. 피의자나 참고인, 피해자를 조사하기 전 질문 내용을 추천받거나, 이를 수사 결과 통지서 작성 및 신종 범죄 조기 탐지 등에 활용할 방침이다.
민간에서도 AI가 방패로 쓰인다. 금융보안원은 인터넷은행 3사(카카오뱅크·토스뱅크·케이뱅크)의 이상 거래 탐지 시스템을 결합한 ‘보이스피싱 탐지 AI 공동모델’을 이달부터 현장에 투입했다. 거액이 여러 통장을 거쳐 가는 패턴을 학습해 대포통장이나 피해 통장을 실시간으로 잡아낸다. 한국신용정보원의 ‘AI 인슈어테크 플랫폼’은 보험 사건 당사자 간 공모 가능성을 수치화한 지수로 보험 사기를 예방하고, 보험개발원은 차량 손상 사진만으로 견적비를 자동 산출해 허위·과다 청구를 걸러낸다.
● “허위 판례 걸러내고 혁신의 장 만들어야”
다만 부작용도 만만치 않다. 지난해 경기 용인동부경찰서는 챗GPT가 만들어낸, 존재하지 않는 판례와 법리를 불송치 결정문에 인용한 사실이 국회 국정감사에서 드러났다. AI가 그럴듯한 거짓 정보를 내놓는 ‘할루시네이션(환각)’을 검증 없이 받아들인 결과였다.
전문가들은 이런 부작용을 최소화하면서도 ‘AI 방패’를 적극 키우려면 정부가 혁신의 장과 공공 안전망을 함께 확충해야 한다고 제언한다. 안준모 고려대 행정학과 교수는 “중국은 경찰용 휴머노이드를 납품하는 업체가 있을 정도로 AI 발전 속도가 빠르다”며 “우리나라도 ‘규제 샌드박스’를 조성해 민관이 AI 신기술을 보안에 적극 개발·활용할 수 있는 환경을 만들어야 한다”고 말했다.