“나는 괜찮겠지”라고 생각했다면 지금 당장 읽어야 합니다
SNS에 셀카 한 장 올린 적 있으신가요? 유튜브에 얼굴이 나온 영상을 업로드한 적 있으신가요? 그렇다면 이미 당신의 얼굴은 AI 딥페이크 범죄에 악용될 수 있는 재료가 된 상태입니다. 이건 과장이 아닙니다. 경찰청과 방통위의 최근 통계는 충격적입니다.
2024~2025년 사이 딥페이크 성범죄 신고 건수는 전년 대비 312% 폭증했습니다. 피해자 중 절반 이상은 자신이 피해를 당했다는 사실조차 모르고 있습니다. 지금 이 순간에도 누군가의 얼굴이 범죄에 쓰이고 있습니다.
딥페이크 범죄, 지금 어느 수준까지 왔나
사진 1장으로 30초 만에 완성되는 영상
불과 3년 전만 해도 딥페이크 영상을 만들려면 수백 장의 사진과 고성능 GPU, 수십 시간의 렌더링이 필요했습니다. 지금은 다릅니다. 스마트폰 앱 하나로 사진 1장만 있으면 30초 안에 딥페이크 영상이 완성됩니다. 텔레그램에서는 자동 생성 봇이 공공연하게 운영되고 있으며, 클릭 몇 번으로 누구의 얼굴이든 원하는 영상에 합성할 수 있습니다.
이 봇 중 일부는 하루 수만 건의 합성 요청을 처리하는 것으로 알려져 있습니다. 이미 수십만 명의 얼굴이 본인 모르게 합성됐을 가능성이 있습니다.
피해 대상은 연예인만이 아니다
초기 딥페이크 피해는 연예인에게 집중됐습니다. 하지만 지금은 일반 여성, 직장 동료, 같은 학교 학생, 심지어 교사와 교수까지 피해 대상이 됐습니다. 2024년 적발된 사건 중에는 중·고등학교 남학생들이 같은 반 여학생의 SNS 프로필 사진으로 딥페이크 영상을 제작해 단체 채팅방에 유포한 사례가 다수 포함됩니다.
피해자의 연령대도 낮아지고 있습니다. 10대 피해자 비율이 처음으로 30%를 넘어섰습니다.
2차 피해: 협박과 금품 갈취
딥페이크 영상을 제작한 뒤 피해자에게 직접 접근해 “유포하겠다”며 금품을 요구하거나 추가 피해를 강요하는 2차 범죄도 급증하고 있습니다. 이른바 ‘딥페이크 협박’입니다. 피해자가 수치심 때문에 신고를 꺼리는 점을 악용하는 것입니다. 한 사건에서 피해자는 6개월간 총 3,700만 원을 갈취당했습니다.
법은 따라가고 있을까? 처벌 현실은 충격적
2020년 딥페이크 성범죄 처벌법이 신설됐습니다. 비동의 합성물 제작·유포 시 최대 5년 이하 징역 또는 5,000만 원 이하 벌금에 처할 수 있습니다. 그런데 실제 처벌은 어떨까요?
2023년 딥페이크 성범죄 1심 판결 분석 결과, 실형 선고 비율은 18%에 불과했습니다. 나머지는 집행유예, 벌금, 심지어 기소유예로 마무리됐습니다. 법원은 “초범”, “반성”, “합성물 유포 범위 제한적”을 이유로 관대한 판결을 내리는 경우가 많습니다. 피해자는 평생 트라우마를 안고 살아가는데, 가해자는 집에서 전자발찌 차고 일상을 보내는 경우가 허다합니다.
전문가들은 현행 처벌 수위가 범죄 억제력을 상실했다고 지적합니다. “딥페이크 제작 자체를 중범죄로 처벌해야 한다”는 목소리가 높아지고 있습니다.
AI 기업들은 책임이 없나?
딥페이크 생성 AI를 서비스하는 기업들의 책임론도 뜨겁습니다. 대부분의 AI 기업들은 “악용 금지” 약관을 명시하고 있지만, 실질적인 차단 시스템은 허술하다는 비판을 받습니다.
실제로 해외 딥페이크 생성 플랫폼 여러 곳이 국내 이용자에게 서비스를 제공하고 있으며, 방통위의 접속 차단 요청 이후에도 우회 접속이 가능한 상태입니다. 일부 플랫폼은 차단 후 도메인만 바꿔 수일 내에 재오픈하는 방식으로 규제를 피하고 있습니다.
EU는 AI법(AI Act)에서 딥페이크 생성 시 반드시 워터마크(생성물 표시)를 삽입하도록 의무화했습니다. 한국은 아직 관련 입법이 논의 단계입니다.
내 얼굴이 이미 피해를 입었는지 확인하는 법
안타깝게도 현재로선 완벽한 탐지 방법이 없습니다. 그러나 다음 방법으로 일부 확인이 가능합니다.
- 구글 이미지 역검색: 본인 사진을 구글 이미지 검색에 올려 유사 이미지가 있는지 확인
- Pimeyes, FaceCheck.ID: 얼굴 기반 이미지 검색 엔진으로 인터넷 전반을 탐색 가능
- 방심위 신고센터: 방송통신심의위원회(1377)에 딥페이크 피해 신고 및 삭제 요청 가능
- 디지털 성범죄 피해자 지원센터(02-735-8994): 무료 상담 및 삭제 지원 서비스 제공
피해를 예방하려면 지금 당장 해야 할 것
- SNS 계정 비공개 전환: 공개 게시물은 누구나 수집 가능합니다
- 얼굴 사진 업로드 최소화: 특히 고화질·정면 사진은 합성에 최적화된 재료입니다
- 워터마크 삽입: 불가피하게 업로드할 경우 이름이나 날짜 워터마크 삽입
- 미성년 자녀 SNS 점검: 10대 피해가 급증하고 있어 부모의 관심이 필수입니다
- 피해 발생 즉시 경찰 신고: 사이버범죄 신고시스템(ecrm.police.go.kr) 활용
결론: 분노해야 할 타이밍
딥페이크 성범죄는 더 이상 연예인만의 문제가 아닙니다. 내 딸이, 내 친구가, 내가 피해자가 될 수 있습니다. 솜방망이 처벌, 허술한 플랫폼 규제, 느린 입법 속도가 지금 이 범죄를 키우고 있습니다.
피해자는 모든 것을 잃고, 가해자는 집행유예로 풀려나는 현실. 우리가 더 크게 목소리를 내지 않으면 바뀌지 않습니다. 이 글을 읽었다면 공유해 주세요. 더 많은 사람이 알아야 합니다.