본문 바로가기

pulse.re.kr

언론연구원

2001년 설립

언론을 이해하는 지식, 신뢰를 높이는 연구.

딥페이크 영상은 어떻게 알아볼 수 있나요? C2PA 콘텐츠 자격증명과 역검색, AI 표시 의무로 확인하는 다섯 겹

여민혁 · 책임연구원

딥페이크 영상은 어떻게 알아볼 수 있나요?

결론부터 말하면 한 가지 방법으로는 못 가립니다. 눈으로 찾는 단서, 출처와 맥락 확인, 역검색, C2PA 콘텐츠 자격증명, SynthID 같은 보이지 않는 워터마크를 겹겹이 쌓아야 판정에 가까워집니다. 2026년 1월부터는 AI 기본법 시행령에 따라 딥페이크를 포함한 AI 생성 콘텐츠에 표시가 의무화됐습니다. 제도가 생겼다고 해서 표시 없는 영상이 사라지지는 않습니다. 오히려 표시가 붙은 영상과 붙지 않은 영상을 구분하는 눈이 더 필요해졌습니다. 확인의 출발점은 영상 자체가 아니라 그 영상이 어디서 왔는지입니다.

목차

제보 영상 한 편을 두 시간 동안 붙잡은 이유

미디어 리터러시 교육 자료를 만들면서 실제 검증 과정을 그대로 기록해 본 적이 있습니다. 소재는 공공기관 간부가 특정 발언을 하는 42초짜리 영상이었습니다. 메신저로 돌던 파일이었고 "회의 녹화본 유출"이라는 설명이 붙어 있었습니다.

처음 10분은 영상을 들여다봤습니다. 입 모양과 음성이 어긋나는 구간이 두 곳 있었지만 압축 때문일 수도 있는 수준이었습니다. 목 아래 그림자가 고개를 돌릴 때 어색하게 따라오는 것도 보였는데 확신하기는 어려웠습니다. 이 단계에서 결론을 내렸다면 반반 확률의 추측이었을 겁니다.

방향을 바꿔 파일 자체를 봤습니다. 메타데이터에 촬영 장비 정보가 없었습니다. 메신저를 거치면 메타데이터가 지워지니 그것만으로는 단서가 되지 않습니다. 그래서 전달 경로를 거꾸로 올라갔습니다. 보내 준 사람에게 출처를 물었고 세 단계를 거슬러 올라가니 익명 계정이 올린 게시물이 처음이었습니다. 게시 계정은 개설 11일째였고 다른 게시물이 네 개뿐이었습니다.

결정적인 단서는 다른 곳에서 나왔습니다. 영상에 보이는 회의실 배경이 해당 기관의 공개된 회의실 사진과 창문 위치가 달랐습니다. 기관 보도자료에 실린 사진과 대조하는 데 걸린 시간은 15분이었습니다. 두 시간을 쓴 작업 중 결론을 만든 건 이 15분이었고, 영상 화질을 들여다본 70분은 거의 기여하지 않았습니다.

이 기록에서 남은 교훈이 이 글의 핵심입니다. 영상을 보지 말고 영상 주변을 보라는 것입니다.

육안 단서만으로는 왜 부족한가요?

몇 해 전까지 통용된 단서들이 지금은 거의 작동하지 않습니다. 눈을 깜빡이지 않는다, 손가락 개수가 이상하다, 귀 모양이 비대칭이다 같은 지적은 초기 생성 모델의 약점이었습니다. 모델이 바뀌면 약점도 바뀝니다.

남아 있는 단서가 아예 없지는 않습니다. 다만 성격이 달라졌습니다.

  • 경계면: 얼굴과 머리카락, 턱선과 목이 만나는 지점에서 미세한 번짐이나 떨림이 보일 수 있습니다. 고개를 빠르게 돌리는 구간에서 잘 드러납니다.
  • 치아와 혀: 말하는 동안 치아 개수나 모양이 미묘하게 변하는 경우가 있습니다.
  • 음성의 호흡: 합성 음성은 숨을 들이쉬는 소리나 문장 사이 멈춤이 지나치게 균일할 수 있습니다.
  • 조명 일관성: 얼굴에 닿는 빛의 방향이 배경 조명과 어긋나는 경우입니다.

문제는 이 단서들이 모두 압축으로도 생길 수 있는 현상이라는 점입니다. 메신저와 소셜미디어를 여러 번 거친 영상은 화질이 깨져 있어 진짜와 가짜의 흔적이 섞입니다. 그래서 육안 관찰은 의심을 시작하는 계기로만 쓰고 판정 근거로는 쓰지 않는 편이 안전합니다.

출처를 증명하는 기술: C2PA와 워터마크

기술적 대응은 가짜를 찾아내는 방향에서 진짜를 증명하는 방향으로 옮겨갔습니다. 무한히 변하는 생성 기법을 따라가기보다 원본의 이력을 붙여 두는 쪽이 효율적이라는 판단입니다.

방식작동 원리강점한계
C2PA 콘텐츠 자격증명파일에 출처·편집 이력을 암호학적으로 서명해 첨부변조하면 서명이 깨져 탐지 가능플랫폼을 거치며 메타데이터가 제거될 수 있음
SynthID 등 비가시 워터마크픽셀 안쪽에 눈에 안 보이는 신호를 심음자르기·필터·밝기 조절·스크린샷 재압축에도 잔존해당 모델로 만든 콘텐츠에만 적용
판별 모델학습된 분류기로 생성 흔적 추정자격증명이 없는 파일에도 적용새 생성 모델에 취약, 확률값만 제시

C2PA를 실제로 확인하는 방법

C2PA 콘텐츠 자격증명은 파일에 붙는 위변조 불가 영수증에 가깝습니다. 어디서 만들어졌고 중간에 어떤 수정을 거쳤는지가 기록되고 그 기록이 서명돼 있습니다. 누군가 파일을 손대면 서명이 맞지 않게 됩니다.

확인은 생각보다 간단합니다. 브라우저 확장 프로그램을 설치하면 오른쪽 클릭 메뉴에 자격증명 확인 항목이 추가됩니다. OpenAI가 제공하는 검증 도구에 이미지를 올리면 C2PA 자격증명과 SynthID 워터마크를 함께 확인해 줍니다.

결과를 해석할 때 주의할 점

자격증명이 없다는 사실은 가짜라는 증거가 아닙니다. 대부분의 기존 사진과 영상에는 자격증명이 붙어 있지 않습니다. 반대로 자격증명이 있고 서명이 유효하면 출처에 대한 상당한 확인이 됩니다. 즉 이 기술은 진위를 양방향으로 판정하지 않고 한 방향으로만 강한 근거를 줍니다.

다섯 겹으로 확인하는 절차

1겹 — 출처와 맥락

누가 처음 올렸는지, 계정 개설 시점과 과거 게시물이 어떤지 봅니다. 영상에 붙은 설명이 사실과 맞는지도 확인합니다. 앞 사례처럼 전달 경로를 거꾸로 올라가는 작업이 가장 생산성이 높습니다.

2겹 — 역검색

프레임을 캡처해 이미지 역검색을 돌립니다. 같은 장면이 다른 날짜, 다른 설명으로 이미 돌았는지 확인합니다. 오래된 영상을 최근 사건으로 둔갑시키는 사례가 생성 영상보다 흔합니다.

3겹 — 자격증명과 워터마크

C2PA 확인 도구와 워터마크 검출 도구를 돌립니다. 결과가 나오면 강한 근거이고 안 나와도 다음 단계로 갑니다.

4겹 — 교차 확인

같은 내용을 다른 매체나 당사자가 언급했는지 봅니다. 공적 발언이라면 공식 기록이나 영상이 어딘가 남아 있습니다. 앞 사례에서 회의실 창문 위치를 대조한 것이 이 단계입니다.

5겹 — 육안 단서

마지막에 영상 자체를 봅니다. 순서가 중요합니다. 먼저 보면 선입견이 생겨 다른 단서를 놓칩니다.

단계소요 시간결정력
출처와 맥락5~20분높음
역검색5분높음
자격증명·워터마크3분조건부 높음
교차 확인10~30분높음
육안 단서10분낮음

왜 딥페이크가 늘어나고 있나요?

제작 비용이 거의 0에 가까워졌다는 점이 가장 큰 변화입니다. 몇 해 전에는 그래픽 카드와 수십 시간의 학습, 어느 정도의 기술 지식이 필요했습니다. 지금은 사진 몇 장과 몇 분의 조작으로 짧은 영상이 나옵니다. 공급 측 비용이 내려가면 공급량은 늘어납니다.

수요 쪽 구조도 작동합니다. 소셜 플랫폼은 체류 시간을 늘리는 콘텐츠를 더 많이 노출합니다. 놀라움과 분노를 유발하는 영상이 그 조건에 잘 맞습니다. 사실 여부와 전파력이 연동되지 않는 구조에서는 가짜가 유리한 쪽으로 기울어집니다.

유형을 구분해 두면 대응이 쉬워집니다

유형목적흔한 형태
금전 사기송금 유도지인·유명인 음성 합성, 투자 권유 영상
평판 공격특정인 피해발언 조작, 성적 합성물
정치 선동여론 조작선거 시기 후보 발언 조작
광고 사칭제품 판매의사·전문가 추천 영상 사칭

네 유형 중 일상에서 가장 자주 마주치는 건 마지막 두 가지입니다. 특히 의사나 유명인이 특정 건강 제품을 추천하는 형태의 광고 사칭이 반복적으로 신고되고 있습니다. 이 유형은 판별이 비교적 쉽습니다. 그 사람이 실제로 그런 추천을 한 기록이 다른 곳에 있는지만 보면 됩니다.

AI 표시 의무는 무엇을 바꿨나요?

2026년 1월부터 시행된 AI 기본법 시행령은 딥페이크를 포함한 AI 생성 콘텐츠에 표시를 붙이도록 했습니다. 이용자가 스스로 진짜와 가짜를 판별할 수 있게 하자는 취지입니다.

이용자 입장에서 달라지는 점은 세 가지입니다.

첫째, 플랫폼에서 "AI 생성" 라벨을 보는 빈도가 늘어납니다. 라벨이 붙은 콘텐츠는 그 자체로 정보입니다. 둘째, 사업자가 워터마크나 자격증명을 심을 유인이 커집니다. 의무 이행을 입증해야 하기 때문입니다. 셋째, 표시를 고의로 제거한 행위가 별도의 문제로 다뤄집니다.

제도가 메우지 못하는 틈

반면 기대를 조정해야 하는 부분도 분명합니다. 해외 서비스로 만들어 국내로 유입되는 콘텐츠, 개인이 공개 모델을 받아 직접 생성한 콘텐츠에는 표시가 붙지 않습니다. 또 표시는 대체로 메타데이터나 화면 라벨 형태인데 스크린 녹화나 재업로드 과정에서 떨어져 나갑니다. 그래서 제도는 확인 비용을 낮추는 장치이고 확인 행위 자체를 없애 주지는 않습니다.

보도와 공유에서 지킬 원칙

보도하는 쪽

  • 검증되지 않은 영상은 보도하지 않습니다. 보도할 경우 "검증되지 않았다"는 문구를 제목과 본문 앞에 둡니다. 본문 뒤쪽에 적으면 전달되지 않습니다.
  • 원본 영상을 기사에 그대로 붙이지 않습니다. 기사가 유통 경로가 됩니다. 필요하면 정지 화면에 표시를 넣어 씁니다.
  • 검증 과정을 공개합니다. 어떤 방법으로 무엇을 확인했고 무엇을 확인하지 못했는지 적는 편이 신뢰를 만듭니다.

공유하는 쪽

  • 분노나 통쾌함이 먼저 올 때가 가장 위험한 순간입니다. 감정 반응이 강한 콘텐츠일수록 전파를 노려 만들어진 가능성이 큽니다.
  • 공유 전에 출처 한 단계만 올라가 봅니다. 10초면 되는 작업입니다.
  • 이미 공유했고 가짜로 확인됐다면 삭제보다 정정이 낫습니다. 같은 사람들에게 수정 정보가 닿아야 합니다. 삭제만 하면 이미 본 사람들은 가짜를 사실로 기억한 채 남습니다.

피해자가 된 경우

본인이나 가족이 등장하는 합성 영상이 유통되면 경찰과 방송통신심의위원회에 신고할 수 있습니다. 성적 합성물은 삭제 지원 제도가 따로 운영됩니다. 신고 전에 유통 링크와 게시 시각을 캡처해 두면 처리가 빨라집니다. 영상 자체를 내려받아 보관하는 일은 권하지 않습니다. 링크와 화면 캡처만으로 신고 요건이 충족됩니다.

자주 묻는 질문

딥페이크 탐지 서비스 결과를 믿어도 되나요?

확률값으로 받아들이는 편이 맞습니다. 판별 모델은 학습하지 않은 새 생성 기법에 약하고, 압축이 심한 영상에서 정확도가 떨어집니다. 탐지 결과는 다섯 겹 중 한 겹이며 단독 근거로 쓰기에는 불안정합니다.

목소리만 합성된 경우는 어떻게 확인하나요?

음성은 영상보다 단서가 적어 더 까다롭습니다. 통화 사기 상황이라면 사전에 가족끼리 정한 확인 질문을 쓰는 방법이 실효적입니다. 녹음 파일이라면 같은 발화가 다른 자리에서 확인되는지, 배경 소음이 상황과 맞는지를 봅니다.

오래된 진짜 영상을 최근 일처럼 쓰는 것도 딥페이크인가요?

생성 기술이 쓰이지 않았으므로 딥페이크는 아닙니다. 다만 허위정보로서의 효과는 동일하거나 더 큽니다. 실제 유통량으로 보면 이런 유형이 합성 영상보다 많습니다. 역검색 한 번으로 걸러지는 유형이라 확인 비용도 가장 낮습니다.

교실이나 가정에서 가르칠 때 무엇부터 다루면 좋을까요?

탐지 기술보다 출처 확인 습관이 먼저입니다. 영상을 보여 주고 "이게 진짜일까"를 묻기보다 "누가 처음 올렸을까"를 묻는 질문으로 시작하는 편이 전이가 잘 됩니다. 역검색 실습은 10분이면 익힐 수 있습니다. 아이가 직접 캡처해서 검색창에 넣어 보는 경험이 설명 열 번보다 오래 남습니다.

선거 시기에는 무엇을 더 조심해야 하나요?

투표일에 가까워질수록 정정이 도달할 시간이 짧아집니다. 그래서 선거 막바지에 등장하는 미확인 영상은 확인 전 공유를 멈추는 원칙이 특히 중요합니다. 공직선거법상 허위사실 공표에 해당할 수 있어 공유자도 책임 범위에 들어갈 수 있습니다.

같이 읽으면 좋은 것들

출처