이미지가 AI로 생성되었는지 확인하기: 판별 도구가 볼 수 있는 것과 볼 수 없는 것

이미지 판별은 피사체를 알아보거나 손가락 개수가 이상한 것을 찾아내는 방식으로 작동하지 않습니다. 실제로 분석하는 것은 노이즈 분포, 주파수 아티팩트, 생성 모델의 업샘플링 과정이 남기는 흔적 같은 저수준 통계 구조입니다. 이런 신호는 육안으로는 보이지 않으며 가벼운 편집을 거쳐도 남아 있습니다. 그래서 지극히 평범해 보이는 이미지에서 판별 도구가 이상 신호를 잡아내기도 하고, 반대로 사람 눈에는 명백히 합성으로 보이는 이미지를 놓치기도 하는 것입니다.

이미지 판별 결과가 신뢰할 수 없게 되는 가장 흔한 원인은 파일이 재압축을 거쳤다는 데 있습니다. 스크린샷을 다시 캡처한 이미지, 메신저 앱에서 저장한 사진, SNS 플랫폼이 재인코딩한 사진은 판별 도구가 의존하는 바로 그 저수준 구조가 일부 덮어써진 상태입니다. 언제나 구할 수 있는 가장 고화질의 원본을 검사해야 합니다. 갖고 있는 것이 다운로드한 썸네일뿐이라면, 정직한 답은 그 파일을 판정할 수 없다는 것입니다.

JPG, PNG, WebP 같은 일반적인 포맷은 사용 가능한 신호의 양이 서로 다릅니다. 무손실 포맷은 더 많은 정보를 보존하고, 강한 JPEG 압축은 더 많은 정보를 지워버립니다. 해상도가 중요한 이유도 같습니다. 작은 이미지일수록 담고 있는 통계적 증거가 적기 때문입니다. 그래서 같은 사진이라도 크기에 따라 결과가 달라질 수 있는데, 이는 판별 도구가 일관성이 없어서가 아니라 파일마다 실제로 담고 있는 증거의 양이 다르기 때문입니다.

판별 도구와 사람은 서로 다른 방식으로 실패하기 때문에 함께 쓸 때 더 유용합니다. 사람은 의미적으로 말이 안 되는 부분, 즉 형태로 뭉개지는 글자, 앞뒤가 안 맞는 반사, 피부와 뒤섞여버린 장신구, 방향이 서로 어긋나는 그림자를 잘 찾아냅니다. 판별 도구는 사람 눈에는 전혀 띄지 않는 통계적 잔여물을 잘 찾아냅니다. 둘 다 돌려보고 결과가 엇갈리면 더 파고들어야 한다는 신호로 받아들이는 편이, 어느 한쪽만 믿는 것보다 훨씬 신뢰할 수 있습니다.

출처 증거를 확보할 수 있다면, 그것은 어떤 점수보다도 우선합니다. 이 파일이 처음 등장한 곳은 어디인지, 누가 게시했는지, 최초 게시자에게 이력이 있는지, 다른 곳에 더 이전 버전이 있는지, 삽입된 메타데이터가 남아 있는지를 확인해야 합니다. 2년 전에 이미 게시된 사진임을 찾아내는 역방향 이미지 검색은 어떤 확률 수치도 해내지 못하는 방식으로 문제를 매듭짓습니다. 판별이 가장 가치 있는 순간은 바로 출처를 확인할 수 없을 때이며, 그럴 때일수록 결과에는 불확실성을 함께 명시해야 합니다.

판정 결과를 공유하거나 그에 따라 조치를 취할 것이라면, 무엇을 검사했고 무엇을 발견했는지를 기록해야 합니다. 파일 버전, 해상도와 포맷, 점수, 눈에 띈 시각적 이상, 그리고 확인한 출처 증거까지 모두 남겨야 합니다. NotGPT 같은 도구는 업로드한 이미지에 대해 확률을 반환하며, 검사 이력을 짧게라도 남겨두면 시간이 지나도 결과를 서로 비교할 수 있습니다. 근거를 함께 기록해 둔 결론은 나중에 다시 검토할 수 있지만, 채팅 메시지 속 숫자 하나만 남은 결론은 그럴 수 없습니다.