딥페이크 앱 규제, 한국은 어디까지 불법? 제작·소지·시청 처벌 총정리
미네소타의 누디파이 앱 금지법이 시행되며 xAI가 기능을 제한했습니다. 한국의 딥페이크 처벌 기준과 AI 표시 의무, 피해 시 삭제 지원 절차를 한 번에 정리했습니다.
딥페이크 나체 이미지는 한국에서 만드는 것만으로도 7년 이하 징역 대상이고, 유포하지 않아도, 심지어 알면서 보기만 해도 처벌 규정이 있습니다.
미국 미네소타주의 이른바 ‘누디파이 앱’ 금지법이 2026년 8월 1일 시행됐습니다. 일론 머스크의 xAI가 시행을 막아 달라며 낸 긴급 신청은 7월 31일 연방법원에서 기각됐고, xAI는 미네소타 이용자 대상으로 그록 이미지 편집 기능 일부를 제한하겠다고 밝혔습니다. 미국 이야기지만, 한국 이용자가 실제로 궁금해할 지점은 따로 있습니다. “그럼 한국에서는 어디까지가 불법인가.”
미네소타에서 무슨 일이 있었나
핵심만 추리면 이렇습니다. 미네소타주는 동의 없는 나체 딥페이크 생성 기술 제공을 금지하는 법을 통과시켰고, 이미지 한 장당 50만 달러 수준의 민사 제재를 규정한 것으로 알려졌습니다. xAI는 표현의 자유 침해를 주장하며 시행 정지를 요청했지만, 담당 판사는 법 서명 후 석 달 가까이 지나 시행 사흘 전에야 신청서를 냈다는 점을 들어 “피해가 임박했다고 보기 어렵다”며 기각했습니다.
다만 이건 본안 판단이 아닙니다. 법원은 이 사건을 가처분 심리로 전환해 8월 중 구두변론을 열기로 했습니다. 위헌 여부는 아직 결론이 나지 않았습니다.
한국의 딥페이크 처벌 기준
한국은 미국처럼 “앱 제공 금지” 방식이 아니라, 행위자를 직접 형사처벌하는 방식입니다. 근거는 성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포 등)입니다.
| 행위 | 법정형 |
|---|---|
| 성적 형태로 편집·합성·가공 (제작) | 7년 이하 징역 또는 5천만원 이하 벌금 |
| 편집물·복제물 반포·판매·전시 | 7년 이하 징역 또는 5천만원 이하 벌금 |
| 영리 목적으로 정보통신망 통해 반포 | 3년 이상 유기징역 |
| 알면서 소지·구입·저장·시청 | 3년 이하 징역 또는 3천만원 이하 벌금 |
2024년 개정으로 법정형이 올라갔고, 소지·시청 처벌 조항이 새로 들어간 것이 가장 큰 변화입니다. 피해자가 아동·청소년이면 청소년성보호법이 적용돼 훨씬 무겁게 처벌됩니다. 구체적 조문과 최신 개정 내용은 국가법령정보센터에서 확인하세요.
AI 생성물 표시 의무 — 2026년 1월 시행
인공지능 기본법이 2026년 1월 22일 시행되면서 생성형 AI 결과물에 표시 의무가 생겼습니다. 일반 생성물은 워터마크·메타데이터 같은 기계 판독 방식도 인정되지만, 딥페이크에 해당하는 결과물은 이용자가 눈으로 명확히 알아볼 수 있는 가시적 표시를 요구합니다.
단, 정부는 1년 이상 계도기간을 두겠다고 밝힌 상태라 과태료가 실제 부과되는 시점은 아직 유동적입니다. 사업자라면 시행령·가이드라인 최신본을 과학기술정보통신부 공지에서 확인하는 편이 안전합니다.
피해를 당했다면 — 순서가 중요합니다
- 증거 확보 먼저. URL, 게시 계정, 게시 일시, 화면 캡처. 삭제 요청을 먼저 넣으면 증거가 사라질 수 있습니다.
- 국번 없이 1366. 365일 24시간 상담이 연결되고, 디지털성범죄피해자지원센터의 삭제지원으로 이어집니다.
- 삭제지원 신청. 유포 현황 모니터링, 무료 법률지원 연계, 심리 상담 연계를 함께 받을 수 있습니다.
- 경찰 신고(112). 삭제 지원과 수사는 동시에 진행 가능합니다.
흔히 하는 오해
- “장난으로 만든 건 괜찮다” — 목적과 무관하게 편집·합성 행위 자체가 구성요건입니다.
- “저장만 했으니 안 걸린다” — 소지·시청 처벌 조항이 2024년부터 시행 중입니다.
- “AI가 만들었으니 내 책임 아니다” — 도구가 AI라도 지시하고 생성한 사람이 행위자입니다.
- “해외 앱이라 추적 불가” — 국내 이용자는 국내법 적용 대상이며, 결제·접속 기록이 남습니다.
정리 — 체크리스트
- 딥페이크 성적 합성물은 제작만으로 7년 이하 징역 대상 (성폭력처벌법 14조의2)
- 소지·구입·저장·시청도 3년 이하 징역 — 2024년 개정으로 신설
- AI 기본법상 딥페이크 결과물은 가시적 표시 의무, 계도기간 운영 중
- 피해 발견 시 증거 확보 → 1366 → 삭제지원 → 경찰 신고 순서
- 미네소타 사건은 아직 진행 중 — 위헌 여부는 가처분 심리에서 다시 다뤄집니다
해외 규제 뉴스는 멀게 느껴지지만, 같은 기술이 한국에서는 이미 형사처벌 영역에 들어와 있습니다. “만들어만 봤다”가 통하지 않는 구조라는 점이 핵심입니다.
자주 묻는 질문
딥페이크 이미지를 만들기만 하고 아무에게도 안 보냈으면 괜찮나요?
아닙니다. 성폭력처벌법 제14조의2 1항은 '반포 목적'과 무관하게 대상자 의사에 반해 성적 형태로 편집·합성·가공하는 행위 자체를 처벌 대상으로 규정합니다. 유포하지 않았다는 사실은 양형에서 고려될 수 있을 뿐, 범죄 성립 자체를 없애지는 않습니다.
해외 서버 AI 앱으로 만들면 한국 법을 피할 수 있나요?
제작자가 국내에 있다면 한국 형사법이 적용됩니다. 앱이나 서버가 해외에 있다는 점은 수사 협조를 어렵게 만들 뿐 처벌 근거를 없애지 않습니다. 실제로 해외 플랫폼을 이용한 사건에서도 국내 제작·유포자가 기소된 사례가 이어지고 있습니다.
내 사진으로 만든 딥페이크를 발견하면 가장 먼저 뭘 해야 하나요?
삭제 요청 전에 URL·계정명·화면 캡처 등 증거부터 확보하세요. 그다음 국번 없이 1366으로 전화하면 24시간 상담과 함께 디지털성범죄피해자지원센터의 삭제지원·유포현황 모니터링으로 연결됩니다. 경찰 신고(112)와 병행할 수 있습니다.