생성형 AI로 만든 사진이나 일부를 AI로 지우고 바꾼 사진이 증거로 제출되는 일이 늘고 있습니다. "AI 판별 프로그램에 넣으면 바로 알 수 있지 않나요?"라는 질문을 받는데, 실제로는 여러 근거를 나눠 보고 종합해야 합니다.
세 가지 층위로 나누어 봅니다
- 파일 기록: 촬영 정보(메타데이터), 콘텐츠 출처 인증(C2PA) 정보, 생성·편집 도구가 남기는 기록을 확인합니다.
- 화소 특징: 카메라 센서는 고유한 잡음과 색 보간 흔적을 화면 전체에 남깁니다. 생성 이미지는 이런 흔적이 없거나, 생성 과정에서 생긴 반복 패턴이 주파수 분석에서 드러나기도 합니다.
- 장면 일관성: 빛의 방향, 그림자, 원근, 눈동자에 비친 반사가 하나의 장면으로 설명되는지 봅니다. 손가락, 글자, 반복 무늬처럼 생성 이미지에서 어긋나기 쉬운 부분도 함께 봅니다.
기록이 없다고 해서 AI 사진은 아닙니다
메신저나 SNS를 거치면 촬영 정보가 지워지고 다시 압축됩니다. 촬영 정보가 없다는 사실만으로 생성 이미지라고 판단할 수 없습니다. 반대로 촬영 정보가 남아 있어도 나중에 덧붙였을 수 있습니다. 파일 기록은 다른 근거와 함께 봐야 합니다.
검출 프로그램의 점수는 확률이 아닙니다
AI 검출 도구가 내놓는 점수는 "이 사진이 생성 이미지일 확률"이 아닙니다. 도구마다 학습한 자료와 약한 지점이 다르고, 새로 나온 생성 도구는 놓치기도 합니다. 그래서 여러 방법의 결과를 함께 보고, 서로 어긋나면 그 이유를 기록합니다. 감정서에는 사용한 도구와 기준, 분석 시점을 적습니다.
재전송 파일은 판단 범위가 좁아집니다
여러 번 다시 저장된 파일은 화소 특징이 약해집니다. 가능하면 처음 사진을 보낸 사람의 파일, 또는 받은 그대로의 파일을 확보하는 것이 좋습니다.
결론은 근거별로 나누어 적습니다
감정서는 "AI다, 아니다"만 적지 않습니다. 확인된 근거, 근거가 되지 못하는 사항, 판단할 수 없는 부분을 나누어 적습니다. 그래야 상대방이 반박할 때도 어느 근거를 다투는지 분명해집니다.