AI 생성물 표시 의무, 8월 2일 EU서 발효 — 워터마킹은 왜 못 막나

작성자:

Key Takeaways

AI 생성물 표시 의무는 2026년 8월 2일 EU AI법 제50조가 적용되면서 본격 시행됩니다. 챗봇은 사람에게 ‘AI’임을 알리고, 딥페이크는 조작 사실을 공개하며, 이미지·오디오·영상·텍스트를 만든 생성형 AI는 산출물에 기계 판독 가능한 표시를 넣어야 합니다. 이전부터 시장에 나와 있던 생성형 AI 시스템은 2026년 12월 2일까지 유예를 받습니다. 다만 법이 요구하는 ‘견고하고 신뢰할 수 있는’ 표시를 현재 워터마킹·C2PA 기술이 완전히 충족하지 못한다는 것이 이 글의 핵심입니다.

  • 제50조 투명성 의무 발효일: 2026년 8월 2일 (기존 생성형 AI는 12월 2일 유예)
  • 대상 4종: 챗봇 고지·합성 콘텐츠 기계판독 표시·딥페이크 공개·감정인식/생체분류 고지
  • 위반 시 최대 1,500만 유로 또는 전 세계 연매출 3% 과징금
  • 핵심 간극: 스크린샷 한 번에 지워지는 메타데이터, 소급 불가능한 워터마킹

19일. 유럽연합(EU)이 챗봇·딥페이크·AI 생성 이미지에 ‘이건 AI가 만들었다’는 표시를 법으로 강제하기까지 남은 날입니다. 2026년 8월 2일, AI 생성물 표시 의무를 규정한 EU AI법 제50조가 발효됩니다. 지난 5년간 규제 논의만 무성했던 ‘AI 콘텐츠 라벨링’이 마침내 집행 가능한 법적 의무로 바뀌는 순간입니다.

그런데 조문을 뜯어보면 이상한 대목이 있습니다. 법은 합성 콘텐츠를 “기계가 읽을 수 있는 형식으로, 기술적으로 가능한 한 효과적·견고·신뢰 가능하게” 표시하라고 요구합니다. ‘기술적으로 가능한 한(as far as technically feasible)’이라는 단서가 왜 붙었을까요. 이 글은 제50조가 요구하는 4대 의무를 하나씩 뜯어보고, 그 표시를 실제로 구현할 C2PA·워터마킹 기술이 어디에서 무너지는지를 의무별로 매핑합니다.

AI-generated illustration — AI 생성물 표시 의무를 상징하는, 이미지·오디오·영상 아이콘이 빛나는 관문을 통과하는 개념도
이미지·오디오·영상을 생성하는 AI는 8월 2일부터 산출물에 기계 판독 표시를 넣어야 한다 — AI-generated illustration (OpenAI gpt-image-1-mini)

AI 생성물 표시 의무, 8월 2일 무엇이 바뀌나: 제50조 4대 요건

제50조는 단일 규칙이 아니라 네 갈래의 투명성 의무 묶음입니다. 첫째, 사람과 직접 상호작용하는 AI(챗봇·가상비서)는 이용자에게 ‘AI와 대화 중’임을 최초 접점에서 알려야 합니다. 둘째, 합성 오디오·이미지·영상·텍스트를 만드는 생성형 AI ‘제공자(provider)’는 산출물을 기계 판독 가능한 형식으로 표시해야 합니다.

셋째, 딥페이크를 만들거나 배포하는 ‘배포자(deployer)’는 그 콘텐츠가 인공적으로 생성·조작됐음을 공개해야 합니다. 넷째, 감정인식·생체분류 시스템을 운용하는 배포자는 그 앞에 노출된 사람에게 시스템 작동 사실을 알려야 합니다. 여기서 제공자와 배포자의 구분이 중요합니다 — 표시 기술을 심는 책임(제공자)과 실제 공개 책임(배포자)이 서로 다른 주체에 걸립니다.

예외도 명확합니다. 챗봇 고지는 맥락상 명백하면 면제되고, 합성 콘텐츠 표시는 보조적 편집 기능이나 비실질적 변형에는 적용되지 않습니다. 딥페이크도 예술·풍자 창작물이면 제한적 공개만 요구되며, 공익 사안의 AI 생성 텍스트는 사람의 편집책임·검토를 거쳤다면 면제됩니다. 조문 자체가 ‘무엇을 표시할지’는 촘촘히 정하면서 ‘어떻게 표시할지’는 열어둔 구조입니다.

핵심: 제50조는 챗봇·합성 콘텐츠·딥페이크·감정인식 4개 범주에 표시·고지 의무를 부과하되, 표시 방법은 특정 기술로 못박지 않고 결과 기준으로 남겨뒀습니다.

누가·언제·얼마: 적용 대상과 컴플라이언스 타임라인

AI법은 2024년 8월 1일 발효된 뒤 위험도별로 단계적으로 켜지는 구조입니다. 금지 관행(사회적 점수화 등)은 2025년 2월 2일, 범용 AI(GPAI) 모델 의무는 2025년 8월 2일부터 이미 작동 중입니다. 제50조 투명성 의무는 그다음 관문으로, 2026년 8월 2일에 켜집니다.

중요한 완충장치가 하나 있습니다. 2026년 5월 AI Omnibus 잠정 합의에 따라, 8월 2일 이전에 이미 시장에 나와 있던 생성형 AI 시스템은 기계 판독 표시 의무(제50조 2항)를 2026년 12월 2일까지 유예받습니다. 반면 8월 2일 이후 새로 출시되는 시스템은 곧바로 준수해야 합니다. 같은 단순화 합의에서 고위험 AI 적용은 오히려 뒤로 밀려, 단독형은 2027년 12월 2일, 제품에 내장된 형태는 2028년 8월 2일로 연장됐습니다.

시점적용 대상
2024-08-01AI법 발효
2025-02-02금지 관행 적용
2025-08-02GPAI(범용 AI) 모델 의무
2026-08-02제50조 투명성 의무 (신규 시스템)
2026-12-02기존 생성형 AI 기계판독 표시 유예 종료
2027-12-02단독형 고위험 AI
2028-08-02제품 내장형 고위험 AI

그럼 한국 기업은 무관할까요. 그렇지 않습니다. 제50조는 EU 시장에 출시되거나 EU에서 서비스로 제공되는 AI에 적용되며, 8월 2일 이후에는 최초 출시 시점과 무관하게 준수 대상이 됩니다.

EU 이용자를 상대로 챗봇·이미지 생성 서비스를 운영한다면 지리적 본사 위치와 관계없이 점검이 필요합니다. 위반 시 제재도 가볍지 않아, 최대 1,500만 유로 또는 전 세계 연매출의 3% 중 더 큰 금액이 과징금으로 부과될 수 있습니다.

iridescent brain render on blue purple background
합성 콘텐츠의 ‘기계 판독 표시’는 픽셀·파형·토큰 층위에서 이뤄진다 — Photo by Milad Fakurian on Unsplash

‘기계 판독 표시’의 실체: C2PA 메타데이터 vs 임베드 워터마킹

법이 말하는 ‘기계 판독 가능한 표시’는 실무에서 크게 두 갈래 기술로 나뉩니다. 하나는 C2PA(콘텐츠 출처·진위 연합) 매니페스트입니다. X.509 인증서로 서명한 암호학적 기록을 파일에 붙여, 누가·어떤 도구로·언제 만들고 편집했는지를 담습니다. 서명이라 위·변조를 검증할 수 있고 정보가 풍부하다는 게 장점입니다.

다른 하나는 임베드 워터마킹입니다. 구글 SynthID로 대표되는 이 방식은 사람 눈·귀에 지각되지 않는 신호를 픽셀·오디오 파형·텍스트 토큰 분포 자체에 심습니다. 콘텐츠 안에 신호가 녹아 있어, 크롭·압축·재업로드처럼 메타데이터를 날리는 조작에도 살아남는 편입니다. 6월 10일 유럽위원회가 발표한 ‘표기·라벨링 실천강령’이 서명 메타데이터와 워터마킹, 무료 탐지 도구, 공통 EU 라벨 아이콘을 함께 권고한 것도 이 두 축을 상호보완적으로 쓰라는 취지입니다.

쉽게 말하면: C2PA는 그림 뒤에 붙인 ‘상세 이력서’이고, 워터마킹은 그림 물감에 섞은 ‘보이지 않는 형광 염료’입니다. 이력서는 떼어내기 쉽고, 염료는 정보를 많이 담지 못합니다.

왜 완벽한 표시는 불가능한가: 스트리핑·소급불가·확률적 탐지

여기서 법과 기술의 간극이 드러납니다. C2PA 매니페스트의 최대 약점은 배포 취약성입니다. 스크린샷을 찍거나, SNS에 업로드하거나, 포맷을 변환하거나, CMS가 이미지를 재처리하는 순간 메타데이터가 통째로 제거돼 출처 사슬이 끊깁니다. 정작 콘텐츠가 널리 퍼지는 경로마다 표시가 사라지는 셈입니다.

워터마킹은 더 질깁니다. 하지만 담을 수 있는 정보가 ‘이건 AI 생성’ 수준으로 최소이고, 결정적으로 생성 시점에만 심을 수 있어 소급이 불가능합니다. 이미 만들어져 유통 중인 방대한 기존 콘텐츠에는 사후에 워터마크를 넣을 방법이 없습니다.

극단적인 변형을 가하면 검출율도 떨어집니다. 사후 판별을 노리는 AI 탐지 도구는 아예 확률적이어서, C2PA 측 자료 기준 ‘95% 신뢰도’는 곧 20건 중 1건이 오판이라는 뜻이고, 생성기가 탐지기보다 빨리 진화하는 군비경쟁 구조라 단독으로는 신뢰할 만한 전면 커버리지가 나오지 않습니다.

turned on monitoring screen
사후 AI 탐지는 확률적 판정이라 오탐·미탐이 불가피하다 — Photo by Stephen Dawson on Unsplash

분석: 제50조 2항이 특정 기술을 지정하지 않고 ‘기술적으로 가능한 한’이라는 단서를 붙인 것은 입법 미비라기보다, 어떤 단일 표시 기술도 완결적이지 않다는 현실을 조문에 반영한 결과로 읽힙니다. 결과 기준(견고·신뢰)을 제시하되 구현 방식은 열어둔 것입니다.

  1. C2PA 메타데이터는 제작 이력을 풍부하게 담지만 스크린샷·SNS 업로드에서 제거된다(c2pa.ai) — ‘풍부하되 취약’.
  2. 임베드 워터마킹은 재업로드에도 살아남지만 담는 정보가 최소이고 생성 시점에만 적용 가능하다(c2pa.ai) — ‘질기되 저용량·소급불가’.
  3. 두 실패 모드가 상보적이므로, 어느 하나를 법으로 못박으면 반대편 약점이 그대로 빈틈이 된다 → 결과 기준 + 다층 권고(6월 10일 실천강령)로 귀결될 수밖에 없다.

그래서 무엇을 해야 하나: 배포자 컴플라이언스 의사결정 프레임

규제 대응은 결국 ‘내 산출물이 어느 의무 범주에 드는가’를 먼저 확정하는 데서 시작합니다. 아래 매트릭스는 제50조 4대 의무를 행으로 놓고, 각각의 적용 마감·대표 표시 기술·문서화된 실패 모드를 열로 교차한 것입니다. 특정 기업의 준수 여부를 평가한 것이 아니라, 공개된 1차 문서(제50조 조문·유럽위원회 타임라인·C2PA 기술 자료)만으로 ‘의무 ↔ 기술 ↔ 한계’를 연결했습니다.

의무 (제50조)책임 주체마감대표 표시 기술알려진 실패 모드
챗봇 고지 (50-1)제공자2026-08-02UI 고지 문구‘맥락상 명백’ 예외 해석 다툼
합성 콘텐츠 기계판독 표시 (50-2)제공자2026-08-02
(기존 시스템 12-02)		C2PA 메타데이터 + 워터마킹스크린샷·SNS 업로드가 메타데이터 제거 / 소급 불가
딥페이크 공개 (50-4)배포자2026-08-02가시적 라벨 + 워터마킹크롭·재업로드로 가시 라벨 소실 / 예술·풍자 예외
감정인식·생체분류 고지 (50-3)배포자2026-08-02사용자 고지수사기관 목적 예외

매트릭스가 가리키는 실무 결론은 세 가지입니다. 첫째, 메타데이터와 워터마킹을 함께 심어야 합니다. 어느 하나만으로는 유통 경로 어딘가에서 표시가 사라지기 때문입니다. 둘째, 사후 탐지 도구에 준수를 의존해서는 안 됩니다 — 확률적 판정은 규제가 요구하는 ‘신뢰 가능한’ 표시의 근거가 되기 어렵습니다.

셋째, 기계 판독 표시와 별개로 사람이 눈으로 확인하는 가시적 라벨(EU 공통 아이콘 포함)을 병행하는 것이 안전합니다. 딥페이크·공익 텍스트 공개 의무는 애초에 사람 독자를 향한 것이기 때문입니다. AI 오남용 리스크 관리라는 관점에서 이 흐름은 프롬프트 인젝션 같은 AI 보안 문제와 같은 뿌리에서 나옵니다 — 생성물이 무엇이고 어디서 왔는지를 증명하지 못하면 신뢰가 무너집니다.

💡 함께 읽으면 좋은 글
AI 에이전트는 왜 해킹에 뚫릴까: 프롬프트 인젝션 완벽 가이드
💡 함께 읽으면 좋은 글
AI가 물리 세계를 상상하기 시작했다: 월드 모델 완벽 가이드

자주 묻는 질문 (FAQ)

Q1. AI 생성물 표시 의무는 언제부터 시행되나요?

2026년 8월 2일부터 EU AI법 제50조 투명성 의무가 적용됩니다. 다만 그 이전에 이미 시장에 나와 있던 생성형 AI 시스템은 기계 판독 표시(제50조 2항)를 2026년 12월 2일까지 유예받습니다. 8월 2일 이후 새로 출시되는 시스템은 유예 없이 곧바로 준수해야 합니다.

Q2. 어떤 콘텐츠에 표시를 해야 하나요?

제50조는 네 갈래로 표시·고지 대상을 정합니다. ① 사람과 상호작용하는 챗봇은 ‘AI’임을 고지하고, ② 합성 오디오·이미지·영상·텍스트는 기계 판독 가능한 형식으로 표시하며, ③ 딥페이크는 조작 사실을 공개하고, ④ 감정인식·생체분류 시스템은 노출된 사람에게 작동 사실을 알려야 합니다.

Q3. 한국 기업도 적용되나요?

AI 시스템을 EU 시장에 출시하거나 EU에서 서비스로 제공하면 제50조 범위에 들어갑니다. 8월 2일 이후에는 최초 출시 시점과 무관하게 준수해야 하므로, EU 이용자를 대상으로 하는 한국 서비스도 점검이 필요합니다. 본사의 지리적 위치는 적용 여부를 좌우하지 않습니다.

Q4. ‘기계 판독 표시’는 워터마킹만 말하나요?

아닙니다. 법은 특정 기술을 명시하지 않고 ‘기술적으로 가능한 한 효과적·견고·신뢰 가능’이라는 결과 기준만 제시합니다. 실무에서는 서명 메타데이터(C2PA)와 임베드 워터마킹(SynthID 등)을 상호보완적으로 함께 쓰는 것이 권고됩니다.

Q5. 위반하면 어떤 제재를 받나요?

제50조 투명성 의무 위반 시 최대 1,500만 유로 또는 전 세계 연매출의 3% 중 더 큰 금액의 과징금이 부과될 수 있습니다. 본사가 EU 밖에 있어도 EU 시장을 대상으로 한다면 이 제재 범위에 들어갑니다.

8월 2일은 시작일 뿐입니다. 실질적 분기점은 두 개의 지표가 될 것입니다 — 기존 생성형 AI의 표시 유예가 끝나는 12월 2일, 그리고 유럽위원회가 실천강령을 얼마나 구체적인 기술 표준으로 채워 넣는지입니다. 표시 의무는 이미 확정됐지만, ‘어떻게 표시할지’의 공백을 기술이 메우지 못하는 한 법과 현실의 간극은 그대로 남습니다.

참고 자료

트렌드를 먼저 읽는 사람들

AI, 테크, 경제의 핵심 인사이트를 한국어와 영어로 동시에 제공합니다.

더 많은 글 보기