EU AI법 투명성 의무 본격 적용, EU의 AI 생태계는 어떻게 변하고 있나?

생성형 인공지능(AI)의 활용이 빠르게 확대되는 가운데, 2024년 8월 1일 발효된 「EU 인공지능법(AI Act)」의 투명성 의무가 2026년 8월 2일부터 본격적으로 적용되기 시작했다. 투명성 의무는 AI법 제50조에 따라 콘텐츠의 이용자가 해당 콘텐츠가 AI로 생성된 것인지 출처를 인지할 수 있도록 하는 규제이다. 이에 따라 AI 제공자는 이용자가 챗봇 등과 상호작용 시 상대가 AI라는 사실을 이용자에게 알리고, AI가 생성·조작한 콘텐츠에는 기계가 판독할 수 있는 표시를 삽입해야 한다. 한편, 배포자가 딥페이크를 생성·조작해 배포하거나, 공익적인(Public interest) 사안을 일반 대중에게 알릴 목적으로 AI로 텍스트를 생성·조작해 게시할 때에도 일반 이용자가 알아볼 수 있도록 별도의 표시가 필요하다.

EU AI법 제50조 투명성 의무, 어떻게 적용되나?

EU는 AI가 다양한 분야로 확산되는 가운데 이용자가 AI를 신뢰할 수 있는 환경을 조성하기 위해 AI법을 통해 투명성 의무를 도입했다. AI법 제50조 투명성 의무는 AI를 제공하는 주체와 AI를 사용하는 방식에 따라 달라진다. 먼저 챗봇, AI 에이전트, AI 아바타 등 사람과 직접 상호작용을 하는 경우, AI 시스템의 제공자(provider)는 이용자가 AI와 최초 상호작용 시 상대방이 AI라는 사실을 알려야 한다. 다만 이용자가 AI라는 사실을 명백하게 인식할 수 있는 상황일 경우에는 합리적으로 예외가 인정된다.

또한, 합성 이미지·영상·음성·텍스트를 생성하는 AI 시스템의 제공자는 결과물에 기계 판독이 가능한 표시(machine-readable marking)를 삽입하여 AI 생성·조작 여부를 탐지할 수 있도록 해야 한다. 기계 판독에는 워터마크, 메타데이터, 콘텐츠의 출처 및 진위성을 입증하기 위한 암호학적 방식, 로깅, 디지털 지문 등이 활용될 수 있으며, 관련 기술은 가능한 범위에서 신뢰성과 효과성, 상호운용성, 견고성을 갖춰야 한다.

반면 생성형 AI를 업무에 활용하는 배포자(deployer)에게는 사람이 직접 인지할 수 있도록 표시하는 의무가 적용된다. 특히 실제 사람·사물·장소·사건 등을 진짜처럼 묘사해 오인을 일으킬 수 있는 딥페이크는 이용자가 처음 접하는 시점에 AI로 생성·조작됐다는 사실을 명확하게 알려야 한다. 기계 판독용 메타데이터가 포함돼 있다는 사실만으로 해당 의무를 충족할 수 없기 때문에 AI 생성 콘텐츠라는 것을 분명히 표시해야 한다.

자료: EU AI법 원문(링크) 및 집행위원회 FAQ(링크)

딥페이크 외에 AI로 생성·조작한 텍스트도 공익과 관련된 사안일 경우 AI 생성 여부를 표시해야 한다. 정치·공공행정·사법·공중보건·환경·소비자 안전 등 공적 논의에 영향을 줄 수 있는 사안을 일반 대중에게 알리는 텍스트를 AI로 생성할 경우, 이를 표기해야 한다. 다만 관련 지식을 가진 사람이 내용을 실질적으로 검토하거나 자연인 또는 법인이 직접 편집에 책임을 지는 경우에는 예외가 인정된다.

이와 같은 배포자의 투명성 의무가 AI를 활용해 콘텐츠를 생성하는 모든 개인에게 적용되는 것은 아니다. 우선 해당 콘텐츠가 딥페이크에 해당하지 않거나, 공익 사안을 다루는 것이 아니라면 별도의 이용자 고지 의무가 발생하지 않으며, 개인적이거나 비전문적인 범위 내 활동 역시 AI법의 규제 대상이 아니다. 따라서 직업적, 상업적 목적으로 AI를 활용해 딥페이크를 생성·배포하거나, 공익 관련 텍스트를 AI로 생성·조작해 게시하면서 이용자에게 이를 고지하지 않을 경우에만 투명성 의무 위반에 해당할 수 있다.

<참고: EU AI법 제50조 주요 투명성 의무>

자료: EU 집행위원회 AI 투명성 규정 정보(링크) 바탕으로 브뤼셀 무역관 가공

EU 집행위원회는 기업들이 AI 생성 콘텐츠를 보다 일관되게 표시할 수 있도록 예시 아이콘을 공개했다. 아이콘은 AI가 콘텐츠 제작에 관여했음을 나타내는 일반적인 기본 아이콘과 콘텐츠 전체가 AI로 생성됐음을 나타내는 ‘AI-Generated’, 일부가 AI를 거쳐 수정됐음을 나타내는 ‘AI-Modified’ 아이콘으로 구성된다. 기본 AI 아이콘은 AI가 콘텐츠 생산의 어떤 부분에 관여했는지 별도의 설명 문구나 상세 정보를 붙여 함께 활용할 수 있으며, 나머지 아이콘은 콘텐츠 전체가 AI로 생성됐는지 또는 기존 콘텐츠가 AI로 일부 변경됐는지를 구분해 표시할 수 있다.

<참고: EU 집행위원회의 AI 생성 라벨링 아이콘 >

자료: EU 집행위원회

다만 집행위원회가 제안한 아이콘 사용 자체는 의무 사항이 아니다. 아이콘은 이용자가 이해하기 쉬운 표시를 예시로 제공한 것으로, 기업은 AI법상 고지 의무를 준수하기 위해 다른 적절한 표시 방법을 활용할 수 있다. 또한, 해당 아이콘을 사용했다고 자동으로 법 준수가 인정되는 것은 아니기 때문에, 이용자가 AI임을 인지할 수 있는 고지 방식에 대해 여전히 주의가 필요하다.

위반 시 제재

AI법 투명성 의무 위반 시, 기업에는 최대 1,500만 유로 또는 직전 회계연도 전 세계 연간 매출액의 3% 중 더 높은 금액이 과징금으로 부과될 수 있다. 다만 중소기업과 스타트업에는 두 기준 중 더 낮은 금액을 상한으로 적용하여 과징금이 이를 초과하지 않게 하는 등 기업 규모와 위반 정도에 따라 비례성 원칙이 적용된다.

전환 기간

한편, 이미 EU 시장에 출시된 기존 AI 시스템에는 제한적인 전환 기간이 주어진다. 2026년 8월 2일 이전에 출시된 생성형 AI 시스템은 AI 시스템 제공자의 기계 판독 표시·탐지 의무에 한해 2026년 12월 2일까지 적용이 유예된다. 반면 챗봇의 AI 상호작용 고지나 딥페이크·공익 관련 텍스트 생성에 대한 배포자의 이용자 고지 의무는 2026년 8월 2일부터 동일하게 적용된다. 다만, 2026년 8월 2일 이전에 이미 생성·공개된 딥페이크 등의 콘텐츠에 대해서는 원칙적으로 소급 적용이 되지 않기 때문에 AI 생성 표시를 추가할 의무가 없으나, 이전에 생성된 콘텐츠라도 8월 2일 이후 새롭게 게시되는 경우에는 콘텐츠 유형에 따라 이용자 고지 의무가 발생할 수 있다.

시사점

EU 집행위원회는 규제 시행에 앞서 2026년 6월 기업들의 규제 준수를 돕기 위해 기업의 자율적인 규제 준수 도구인 「AI 생성 콘텐츠 투명성 행동강령」*을 발표했다. 의무 주체에 따라 서비스 제공자와 배포자에 대한 섹션으로 구성된 해당 강령은 기업이 어떻게 투명성 의무 준수를 입증할 수 있을지 실용적인 자율 준수 수단을 제공하고 있다. 이미 Anthropic, Google, Meta, Microsoft, Mistral, OpenAI 등 주요 AI 기업뿐 아니라 Getty Images, Lenovo, Lufthansa, Iberdrola 등 다양한 산업 기업·기관이 참여하며, AI 서비스 제공자는 82건, 배포자는 152건의 기업 서명이 등록되어 있다(2026년 9월 10일 기준). 집행위원회는 명단을 지속적으로 업데이트하고 있으며, 서명 기관은 업계 모범사례 공유와 투명성 기술 고도화를 위한 태스크포스에도 참여할 예정이다.

* AI 생성 콘텐츠 투명성 행동강령(Code of Practice on Transparency of AI-generated Content) (링크: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content)

한편, 기업들이 관련 의무를 제품과 서비스에 반영하기 시작하면서 EU 현지에서는 투명성 의무가 단순한 법적 고지를 넘어 AI 서비스 설계와 콘텐츠 관리, 이용자 인터페이스를 통해 구체적으로 구현되고 있다. AI 영상 생성 기업 Synthesia는 생성 영상에 AI 생성 여부를 확인할 수 있는 C2PA 기반 정보를 자동으로 삽입하고 있으며, 이용자의 필요에 따라 별도의 ‘AI-generated’ 라벨을 표시할 수 있도록 관련 기능도 제공하고 있다. 독일 항공사 Lufthansa 역시 고객용 Chat Assistant에 AI가 답변 생성에 관여할 수 있음을 안내하고 있다.

특히 12월 2일부터 기존 EU 시장에 출시된 생성형 AI 시스템에도 기계 판독 표시·탐지 의무가 적용될 예정인 만큼, 연말까지 주요 AI 사업자들의 워터마크·메타데이터 사용 등 구체적인 투명성 의무 이행 방식과 실질적인 기술 표준이 보다 분명히 드러날 것으로 전망된다.

향후 EU 시장에서 형성되는 표시 방식과 기술 표준이 다른 국가와 글로벌 시장의 관행으로 확산될 수 있다는 ‘브뤼셀 이펙트(Brussels Effect)’를 고려할 때, 우리 기업 역시 AI 활용 전반에 대한 선제적인 대응 전략을 마련할 필요가 있다. 먼저 기업 내 AI 활용 현황을 파악하고, 자사가 AI 시스템의 제공자 또는 배포자 중 어떤 지위에 해당하는지와 생성·배포하는 콘텐츠가 EU AI법의 적용 대상인지 점검해야 한다. 만약 적용 대상인 경우, 기계 판독 표시나 이용자 고지 등 구체적으로 어떤 의무가 발생하는지 확인해야 한다. 아울러 외부 생성형 AI 서비스를 활용한다면, 해당 서비스가 AI 생성물의 표시·탐지 기능을 제공하는지 확인하고, 광고·마케팅·대외 콘텐츠 등에 AI를 활용할 때에는 AI의 관여 정도와 적절한 표시 방식을 검토할 수 있도록 내부적인 투명성 검수·관리 체계를 선제적으로 구축할 필요가 있다.

자료 : EU 집행위원회 AI법 및 관련 정보 자료 바탕으로 브뤼셀 무역관 작성

이미지 출처 : EU 집행위원회