딥페이크

딥페이크 (Deepfake)

딥페이크(Deepfake)는 딥러닝(Deep learning)과 페이크(Fake)의 합성어로, AI·기계학습 기술을 이용해 실존 인물의 얼굴·음성·영상을 다른 인물이나 상황에 합성·조작하는 기술 및 그 결과물을 가리킨다. 2017년 레딧 커뮤니티에서 처음 주목받았으며, 이후 AI 기술의 발전과 함께 생성 품질이 급격히 향상되어 일반인도 손쉽게 생성할 수 있게 됐다. 2020년대 중반부터는 유명인 사기, 성범죄, 정치적 허위정보 등 심각한 사회 문제로 대두되고 있다.

기술적 원리

딥페이크는 주로 다음 기술을 활용한다.

• GAN(생성적 적대 신경망): 생성기(Generator)와 판별기(Discriminator)가 경쟁적으로 학습하며 점점 정교한 합성물 생성
• 오토인코더(Autoencoder): 두 인물의 얼굴 특징을 교차 학습해 얼굴 교체
• 확산 모델(Diffusion Model): 2023년 이후 딥페이크 생성에 확산 모델이 적극 활용되며 품질이 비약적으로 향상
• 음성 클로닝: 수십 초 분량의 음성 샘플만으로 타인의 목소리를 완벽 복제

피해 유형

성범죄

딥페이크 기술을 이용한 불법 합성 성범죄물 제작·유포가 가장 심각한 피해 유형이다. 2024년 9월 한국에서는 성폭력처벌법 개정으로 딥페이크 성범죄물 소지·시청만으로도 3년 이하 징역 또는 3,000만 원 이하 벌금에 처하도록 강화됐다. 2024년 11월~2025년 10월 국내 사이버성폭력 발생 건수 4,413건 중 딥페이크 범죄가 1,553건(35.2%)으로 전년 대비 35% 증가했다.

허위정보·정치 공작

선거철 정치인의 발언을 조작하거나, 전쟁 상황을 날조한 딥페이크 영상이 SNS를 통해 확산되는 사례가 급증하고 있다. 행정안전부는 2026년 6월 전국동시지방선거를 앞두고 국립과학수사연구원과 함께 AI 딥페이크 탐지 분석모델을 개발·적용했다.

금융 사기

기업 CEO나 유명인의 영상·음성을 조작해 직원에게 송금을 지시하는 '딥페이크 BEC(비즈니스 이메일 침해)' 사기가 빠르게 확산되고 있다.

광고 사기

유명인의 얼굴을 무단 도용해 투자 사기·가짜 상품 광고에 활용하는 사례가 증가하고 있다.

규제 동향

한국

공정거래위원회는 2026년 4월, AI·딥페이크로 생성된 가상 인물이 등장하는 광고에 '가상인물' 표시를 의무화하는 규정을 시행했다. 성폭력처벌법, 정보통신망법 등을 통해 딥페이크 성범죄물 제작·유포·소지에 대한 처벌이 지속적으로 강화되고 있다.

미국

'테이크 잇 다운 법(Take It Down Act)'에 따른 첫 유죄 판결이 나왔다. 동 법은 비동의 친밀한 이미지·영상을 범죄로 규정하고, 메타·구글 등 플랫폼이 피해자 요청 시 해당 콘텐츠를 삭제하도록 의무화했다.

EU

AI법(AI Act) 및 디지털서비스법(DSA)에 따라 딥페이크 콘텐츠 레이블링 의무화, 플랫폼 삭제 의무 등 규제가 강화됐다.

탐지 기술

딥페이크 탐지는 영상 내 미세한 결함(눈 깜빡임 이상, 피부 색조 불일치, 조명 불균형 등)을 AI로 분석하는 방식이 주류다. 그러나 생성 기술이 탐지 기술을 앞서나가는 군비 경쟁 구도가 지속되고 있으며, 사이버보안 기업들이 딥페이크 탐지 솔루션 시장에 대거 진출하고 있다.

관련 항목

• AGI - 딥페이크 생성 기술의 기반
• 메타 - 딥페이크 콘텐츠 플랫폼 책임 당사자
• 사이버보안 - 딥페이크 탐지 및 대응
• 암호화폐 - 딥페이크를 활용한 가상화폐 투자 사기
• 블록체인 - 콘텐츠 진위 검증에 블록체인 활용 논의