[생성형 AI로 만든 콘텐츠, 게시 전 표시 의무부터 확인해야 합니다]
안녕하세요, 디센트 법률사무소 국제법무팀입니다.
생성형 AI로 광고 이미지나 홍보 영상을 만들고, AI가 작성한 글을 홈페이지에 게시하는 한국 기업이 늘고 있습니다.
그런데 EU 시장 대상 콘텐츠라면 하단에 짧은 문구 하나를 넣는 것만으로는 충분하지 않을 수 있습니다.
EU 「인공지능법(AI Act)」 제50조 표시 의무는 2026년 8월 2일부터 적용되며, 실무에서는 제공자의 기술적 표시 의무와 배포자의 이용자 대상 공개 의무가 서로 다르다는 점이 자주 혼동됩니다.
🕒 바쁜 분들을 위한 3줄 요약
적용 시점: EU AI Act 제50조 표시 의무는 2026년 8월 2일부터 적용되며, 유럽집행위원회는 2026년 7월 20일 최종 가이드라인을 채택했습니다.
의무 구분: AI 시스템 제공자는 결과물에 기계 판독 가능한 표식을 적용해야 하고, 배포자는 딥페이크와 사람의 실질적 검토 없이 게시되는 공익 관련 AI 텍스트를 이용자가 알아볼 수 있도록 표시해야 합니다.
역외 적용: EU 시장에 AI 콘텐츠를 제공하거나 EU 이용자를 대상으로 서비스를 운영하는 한국 기업도 적용 대상이 될 수 있어 사전 점검이 필요합니다.
1. 제공자와 배포자의 의무 구분
EU AI Act는 기업이 AI 가치사슬에서 어떤 역할을 담당하는지에 따라 적용되는 의무를 다르게 규정합니다.
🔹 AI 시스템 제공자
AI 시스템을 개발하거나 개발을 의뢰한 뒤, 자신의 명칭이나 상표로 EU 시장에 공급하거나 업무에 투입하는 사업자입니다.
생성형 AI 서비스나 이미지·영상 생성 솔루션을 자체 개발해 제공하는 기업이 대표적입니다.
다른 사업자의 AI 모델을 자사 서비스에 통합해 자신의 명칭으로 공급한다면, 단순 이용자가 아니라 제공자로 평가될 가능성도 검토해야 합니다.
🔹 AI 시스템 배포자
자신의 권한 아래 AI 시스템을 업무 목적으로 이용하는 기업이나 기관입니다.
생성형 AI로 광고 이미지나 홍보 영상을 만들거나, AI가 작성한 글을 홈페이지에 게시하는 경우가 여기에 해당할 수 있습니다.
직원이 회사 지시에 따라 AI를 사용했다면 직원 개인이 아니라 회사가 배포자가 됩니다. 반면 자연인이 순수하게 개인적·비직업적 목적으로 AI를 이용하는 경우에는 배포자 의무가 적용되지 않습니다.
구분 | 제공자 의무 | 배포자 의무 |
|---|---|---|
표시 대상 | AI 생성물 자체 | 딥페이크, 공익 관련 AI 텍스트 |
표시 방식 | 기계 판독 가능한 메타데이터 | 이용자가 인식 가능한 문구·아이콘·음성 안내 |
확인 주체 | 시스템·플랫폼 | 사람 |
2. 제공자의 기계 판독 가능한 표식 의무
합성 음성·이미지·영상·텍스트를 생성하는 AI 시스템의 제공자는 결과물이 AI에 의해 생성되거나 조작됐다는 사실을 기술적으로 탐지할 수 있도록 해야 합니다.
여기서 말하는 표식은 사람이 화면에서 직접 확인하는 문구와는 다릅니다.
메타데이터, 콘텐츠 출처 정보 등 기계 판독 가능한 방식을 결과물에 적용해야 하며, 콘텐츠 특성과 기술 수준을 고려해 효과적이고 상호운용 가능하며 견고하고 신뢰할 수 있어야 합니다.
다음과 같은 결과물에는 표시 의무가 적용되지 않거나 제한적으로만 적용될 수 있습니다.
🔹 짧은 숫자·기호·문자열
🔹 소스코드
🔹 사람에게 노출되지 않고 시스템 간에만 자동 처리되는 결과물
🔹 폐쇄된 제작 환경에서 사용되는 중간 산출물
🔹 맞춤법 교정 등 원본의 의미를 실질적으로 변경하지 않는 편집 기능
리스크: 기업 간 거래나 산업 환경에서만 쓰이는 결과물이라 해도, 가이드라인이 정한 조건을 충족하지 못하면 예외가 인정되지 않을 수 있습니다. 모든 B2B용 AI 결과물이 일률적으로 제외되는 것은 아닙니다.
3. 배포자의 공개 의무: 딥페이크와 공익 텍스트
제공자가 기술적 표식을 적용했다고 해서 AI를 이용하는 기업이 모든 결과물에 사람이 볼 수 있는 표시 문구를 붙여야 하는 것은 아닙니다. 배포자의 공개 의무가 발생하는 대표적인 대상은 딥페이크와 공익 관련 AI 텍스트 두 가지입니다.
딥페이크는 AI로 생성하거나 조작한 이미지·음성·영상이 실제 인물, 사물, 장소, 단체 또는 사건과 유사하고, 사람에게 진짜이거나 사실인 것처럼 보일 수 있는 콘텐츠를 말합니다.
단순히 AI로 제작됐다는 이유만으로 모든 이미지·영상이 딥페이크가 되는 것은 아니며, 다음 요소를 함께 고려해 판단합니다.
🔹 실제 대상과의 유사성
🔹 콘텐츠가 전달하는 실질적인 메시지
🔹 콘텐츠가 게시되는 환경
🔹 예상 이용자가 진짜라고 받아들일 가능성
예를 들어 실제 대표자의 얼굴과 음성을 합성해 마치 대표자가 직접 말한 것처럼 만든 홍보 영상은 딥페이크 표시 대상이 될 가능성이 높습니다.
반면 이용자가 처음부터 허구나 연출임을 명확히 인식할 수 있는 콘텐츠는 판단이 달라질 수 있습니다.
예술·창작·풍자·허구 작품에 딥페이크가 포함된 경우에도 공개 의무가 완전히 사라지지는 않으며, 작품의 전시나 감상을 방해하지 않는 적절한 방식으로 표시할 수 있습니다.
💡 딥페이크 여부는 'AI로 만들었는가'가 아니라 '실제처럼 보여 이용자를 속일 가능성이 있는가'를 기준으로 판단합니다.
4. 공익 관련 AI 텍스트의 표시 범위
AI가 생성하거나 조작한 텍스트를 공익에 관한 정보를 대중에게 제공할 목적으로 게시하는 경우에도 표시 의무가 발생할 수 있습니다. 대표적으로 다음과 같은 분야가 포함됩니다.
🔹 정치와 민주적 절차
🔹 행정과 공공서비스
🔹 사법제도와 법 집행
🔹 기본권과 공공안전
🔹 공중보건과 환경
🔹 소비자 안전
🔹 경제·금융·과학·문화 관련 주요 현안
AI가 작성한 뉴스 기사, 정책 설명, 금융시장 분석, 법률·행정 정보를 사람의 검토 없이 자동 게시한다면 표시 대상이 될 수 있습니다.
다만 상품 설명, 일반적인 홍보 문구, 개인적인 게시물 등 모든 AI 생성 텍스트가 자동으로 공익 관련 텍스트에 해당하는 것은 아니며, 게시 목적과 내용, 예상 독자를 구체적으로 살펴야 합니다.
5. 사람의 실질적 검토와 예외 요건
공익에 관한 AI 생성 텍스트라도 다음 요건을 충족하면 별도의 표시 의무가 적용되지 않을 수 있습니다.
첫째, 콘텐츠가 사람의 실질적인 검토 또는 편집 통제를 거쳐야 합니다.
둘째, 자연인이나 법인이 해당 콘텐츠 게시에 대한 편집 책임을 부담해야 합니다.
리스크: 담당자가 맞춤법이나 문법만 확인하는 형식적인 검수는 실질적 검토로 인정되지 않습니다. 최종 가이드라인 역시 단순한 맞춤법 검사나 절차적 확인만으로는 사람의 검토·편집 통제로 보기 어렵다고 설명합니다.
실질적인 검토로 인정받으려면 담당자가 다음과 같은 권한과 책임을 실제로 행사하는 방식이 필요합니다.
🔹 내용의 수정·승인 또는 게시 거절
🔹 사실관계와 출처 확인
🔹 법률·정책적 내용의 적정성 검토
🔹 최종 게시 여부 결정
🔹 게시된 내용에 대한 편집상·법률상 책임 부담
기업은 내부 지침에 '담당자가 검수한다'고 적어두는 데 그치지 않고, 누가 어떤 기준으로 검토하고 승인했는지 기록이 남도록 운영할 필요가 있습니다.
6. 표시 위치·방식과 EU 아이콘
딥페이크나 공익 관련 AI 텍스트에 공개 의무가 적용된다면, 이용자가 콘텐츠에 처음 노출되는 시점에 AI 생성 또는 조작 사실을 확인할 수 있어야 합니다.
표시는 다른 정보와 구분돼야 하고, 명확하고 인식 가능한 방식으로 제공해야 하며, 장애가 있는 이용자를 위한 접근성 요건도 고려해야 합니다.
🔹 이미지 주변에 AI 생성·수정 문구 표시
🔹 영상의 시작 부분이나 화면에 표시 문구 삽입
🔹 합성 음성 재생 전 음성 안내 제공
🔹 AI 생성 텍스트 상단이나 제목 주변에 표시
EU는 AI 생성·조작 콘텐츠 표시에 활용할 수 있는 아이콘을 「AI 생성 콘텐츠 투명성 행동규범」을 통해 공개했습니다. AI가 제작에 관여한 콘텐츠, AI로 전부 생성된 콘텐츠, AI로 일부 수정된 콘텐츠를 구분하는 형태입니다.
💡 EU 아이콘 사용은 의무가 아니라 선택사항입니다. 아이콘을 쓰지 않아도 법이 요구하는 수준으로 명확하게 표시하면 되고, 반대로 아이콘을 썼다는 사실만으로 표시 의무를 모두 이행했다고 인정되는 것도 아닙니다.
제공자가 콘텐츠 내부에 기계 판독 가능한 메타데이터를 넣었다는 이유만으로 배포자의 공개 의무까지 자동으로 이행되는 것은 아닙니다.
제공자는 기술적으로 탐지 가능한 표식을, 배포자는 이용자가 실제로 알아볼 수 있는 공개를 각각 책임집니다.
7. 시행 전 콘텐츠의 소급 적용 여부
AI Act 제50조는 2026년 8월 2일부터 적용됩니다. 다만 소급 적용 여부는 콘텐츠 유형에 따라 기준이 다릅니다.
🔹 이미지·음성·영상 딥페이크
2026년 8월 2일 전에 생성 또는 조작된 결과물은 그 이후 게시되더라도 소급하여 표시할 의무가 없습니다. 기준 시점은 생성일자입니다.
🔹 공익 관련 AI 텍스트
기준 시점이 게시일자입니다. 시행일 전에 작성됐더라도 2026년 8월 2일 이후 처음 게시된다면 표시 대상이 될 수 있으며, 사람의 실질적 검토·편집 책임 요건을 충족하는 경우에만 예외가 인정됩니다.
시행 전에 게시했던 콘텐츠를 시행일 이후 새로운 광고나 게시물에 다시 활용하는 경우, 단순 보관과 새로운 배포를 구분해 판단해야 하며 사안별 검토가 필요합니다.
8. 전환기간(Digital Omnibus)의 확정 현황
원칙적으로 제50조 대상 AI 시스템은 시장 출시 시점과 관계없이 2026년 8월 2일부터 표시 의무를 준수해야 합니다.
다만 EU가 추진해 온 AI Omnibus 간소화 규정에 따라, 2026년 8월 2일 전에 시장에 공급되거나 사용된 생성형 AI 시스템의 기계 판독 가능한 표식 의무(제50조 제2항)에 한해 2026년 12월 2일까지 전환기간이 부여됩니다.
해당 개정 규정은 2026년 5월 유럽의회와 이사회 간 정치적 합의를 거쳐 2026년 6월 29일 이사회에서 채택되고 7월 8일 서명까지 마쳤으나, 관보(Official Journal) 게재를 통한 정식 발효는 아직 완료되지 않은 상태입니다.
따라서 기업은 2026년 12월까지 무조건 유예된다고 전제해서는 안 되며, 최종 발효 여부와 시행일을 별도로 확인하되 원칙적으로는 2026년 8월 2일 적용을 기준으로 준비하는 것이 안전합니다.
9. 한국 기업의 역외 적용 가능성
EU AI Act는 EU에 설립된 기업에만 적용되는 법률이 아닙니다. EU 외부의 사업자라도 다음과 같은 경우 적용 대상이 될 수 있습니다.
🔹 EU 시장에 AI 시스템이나 범용 AI 모델을 공급하는 경우
🔹 EU에서 AI 시스템을 사용하도록 제공하는 경우
🔹 EU 외부 제공자·배포자의 AI 결과물이 EU에서 사용되는 경우
한국 기업이 EU 이용자를 대상으로 AI 서비스를 제공하거나 한국에서 생성한 AI 콘텐츠를 EU 법인·고객·플랫폼을 통해 사용하는 경우에는 적용 가능성을 검토해야 합니다.
다만 EU 거래처가 있거나 홈페이지가 EU에서 접속 가능하다는 사정만으로 모든 기업에 제50조가 적용된다고 단정할 수는 없으며, AI 시스템·결과물이 EU 시장에서 어떤 방식으로 공급·사용되는지를 중심으로 판단해야 합니다.
10. 위반 시 과징금 규모
AI Act 제50조를 포함한 일반적인 의무를 위반하면 최대 1,500만 유로 또는 직전 회계연도 전 세계 연간 총매출액의 3% 중 더 높은 금액까지 행정상 과징금이 부과될 수 있습니다.
기업이 중소기업(SME)에 해당한다면 정액 기준과 매출액 비율 기준 중 더 낮은 금액이 상한으로 적용됩니다.
실제 과징금은 위반의 성격과 기간, 피해 규모, 고의·과실 여부, 기업 규모, 시정조치와 감독기관에 대한 협조 여부 등을 고려해 결정됩니다.
11. 자주 묻는 질문 (FAQ)
Q. EU 아이콘을 쓰면 표시 의무를 다 지킨 게 되나요?
A. 아닙니다. EU 아이콘 사용은 선택사항이며, 아이콘을 붙였다는 사실만으로 제50조가 요구하는 수준의 표시를 모두 이행했다고 인정되지는 않습니다. 아이콘의 위치, 재공유 시 표시 유지, 접근성 조치 등 세부 기준을 함께 충족해야 합니다.
Q. 콘텐츠 제작을 외주업체에 맡기면 우리 책임은 없나요?
A. 아닙니다. 외주업체가 사용하는 AI 도구와 결과물 관리 방식을 함께 파악해야 하며, 자사 명칭으로 게시하는 이상 배포자로서의 공개 의무는 그대로 남습니다.
[디센트 법률사무소 – EU AI 표시 의무 대응 원스톱 서비스]]
EU 시장을 대상으로 AI 서비스·콘텐츠를 제공하는 한국 기업을 위해 2026년 8월 2일 시행에 맞춘 실무 대응을 지원합니다.
🔸 AI 콘텐츠 이용 현황 진단 및 제공자·배포자 지위 판단
🔸 딥페이크·공익 텍스트 표시 대상 콘텐츠 분류 기준 수립
🔸 사람의 실질적 검토·편집 책임 체계 설계 및 내부 문서화 지원
🔸 AI 솔루션·외주업체 계약서 검토 및 표시 책임 조항 정비
🔸 EU AI Act 역외 적용 가능성 검토 및 대응 전략 자문
디센트 법률사무소 상담 안내 ☎️
[유선 문의] 02-6951-5248
[이메일] admin@decentlaw.io
[주소] 06233 서울특별시 강남구 테헤란로4길 5 (역삼동, 해암빌딩), 7층