경찰, AI 범죄 대응체계 고도화…딥페이크 제작·유포 과정까지 추적

영상·음성·문자 종합 분석하는 멀티모달 탐지기술 개발
허위조작물 판별 91억·AI 포렌식 기술개발 100억 투입
딥페이크 성범죄부터 투자

경찰청./박성일 기자

경찰이 딥페이크 성범죄를 비롯해 투자사기와 보이스피싱 등으로 확산하는 인공지능(AI) 악용 범죄에 대응하기 위해 조작물 탐지·분석체계를 강화한다. 영상과 음성, 문자 등을 종합적으로 분석하는 기술을 도입하고 범죄에 사용된 AI 프로그램과 조작·유포 과정까지 추적할 수 있는 수사 역량을 확보한다는 방침이다.

경찰청 국가수사본부는 이 같은 내용을 담은 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립하고 본격 시행한다고 15일 밝혔다.

이번 계획은 AI 기술 발전으로 허위 조작물이 정교해지고 범죄 유형도 다양해지는 상황에 대응하기 위해 마련됐다. 경찰은 조작 여부를 신속하고 정확하게 판별하는 동시에 조작물 생성부터 유포까지 범행 전 과정을 분석하는 데 중점을 두고 있다.

이를 위해 AI 조작물 정밀 탐지 시스템 구축, 자동화 분석 도구 개발, AI 전문분석관 운영, 표준 절차 정립, 전문가 그룹 운영 등 기술·시스템·인력·조직 분야의 8대 과제를 추진한다.

우선 영상과 이미지뿐 아니라 음성과 문자까지 종합적으로 분석하는 '멀티모달(Multi Modal)' 기반 딥페이크 탐지 기술을 도입한다. 영상 속 인물의 입 모양과 음성이 일치하는지, 음성과 자막 내용이 부합하는지 등을 함께 분석해 조작 여부를 판별하는 방식이다.

경찰은 2024년부터 해외 딥페이크 탐지 시스템을 도입해 활용하고 있으며, 한국인 특성에 맞는 학습자료를 적용해 탐지 성능을 개선하고 있다. 현재 2025년부터 2027년까지 총 91억원을 투입하는 허위조작 콘텐츠 진위 판별 시스템 연구개발 사업도 진행 중이다. 연구개발이 완료되면 경찰을 비롯한 수사기관이 공동 활용할 수 있는 시스템 구축을 추진할 계획이다.

AI를 이용한 범행 과정을 추적하는 기술도 강화한다. 주요 생성형 AI 서비스의 프로그램 실행 이력과 명령어 기록을 분석하고, 조작에 사용된 프로그램을 식별하는 수사기법을 개발한다. 이를 통해 단순히 조작 여부를 판별하는 수준을 넘어 조작물이 어떤 방식으로 생성되고 유포됐는지까지 확인한다는 구상이다.

불법 조작물의 생성·유포 과정에서 디지털 증거를 자동으로 추출하는 도구도 개발한다. 경찰은 올해부터 2029년까지 총 100억원을 투입하는 '로컬환경 인공지능 모델 대상 포렌식 기술개발' 사업을 진행하고 있다.

전문인력과 협력체계도 확충한다. 전국 시도경찰청에 AI 전문분석관을 배치·운영하고 현장 수사관과 분석관을 대상으로 전문교육을 확대한다. 민간·정부·학계 전문가 그룹을 운영해 최신 AI 기술 동향과 탐지 사례, 신규 프로그램 분석 성과도 공유할 예정이다.

김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"며 "AI로 만든 가짜를 신속하게 찾아내는 것은 물론 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖추겠다"고 말했다.