EU가 규제한 것은 복제된 목소리의 표시이지, 복제 자체가 아닙니다

표시는 그 음성 클립이 합성이라는 사실을 알려 줍니다. 하지만 그 클립을 만들 허락이 있었는지는 전혀 알려 주지 않습니다.

제50조는 Regulation (EU) 2024/1689의 투명성 장입니다. 2026년 8월 2일은 누군가 그 내용을 문서로 적은 날이 아니라, 이 장이 적용되기 시작하는 날입니다. 앞뒤 문단 없이 따로 인용되어도 오해가 없도록, 핵심 내용을 쉽게 풀어 정리하면 다음과 같습니다.

• 제50조는 음성 복제를 막지 않습니다. 2026년 8월 2일부터 합성 음성에는 표시를, 딥페이크에는 고지를 요구하지만, 목소리를 복제하기 전에 누구의 허락을 받으라고는 요구하지 않습니다. AI Act는 2024년 8월 1일에 발효되었고, 제113조에 따라 단계적으로 적용됩니다. 금지 관행은 2025년 2월 2일부터 효력이 생겼습니다. 범용 AI 모델 규정과 제재 체계는 2025년 8월 2일부터 효력이 생겼습니다. 제50조는 2026년 8월 2일부터 적용되는 단계에 속합니다.

• 공급자는 결과물에 표시를 해야 합니다. 합성 음성, 이미지, 영상 또는 텍스트를 생성하는 시스템은 결과물이 인공적으로 생성되었거나 조작되었음을 탐지할 수 있도록 기계가 읽을 수 있는 형식으로 표시해야 합니다.

• 배포자는 딥페이크를 고지해야 합니다. 딥페이크를 배포하는 사람은 그 콘텐츠가 인공적으로 생성되었거나 조작되었다는 사실을 알려야 합니다. 고지는 명확하고 눈에 띄며 접근할 수 있어야 하고, 늦어도 처음 접하는 시점에는 이루어져야 합니다.

• 의도는 요건이 아닙니다. 딥페이크 고지 의무는 누군가 속이려 했다는 증명을 필요로 하지 않습니다.

• 기계가 읽는 표시만으로는 고지가 아닙니다. 집행위원회의 지침은 배포자가 내장된 기계 판독용 표시에만 기대어 딥페이크 고지 의무를 면할 수 없다고 분명히 밝힙니다. 소프트웨어만이 아니라 사람이 고지를 보거나 들을 수 있어야 합니다.

• 과태료는 EUR 15 million 또는 전 세계 연간 총매출의 3%까지이며, 둘 중 더 높은 금액이 적용됩니다(제99(4)(g)조). 제99(6)조는 중소기업과 스타트업에는 이를 뒤집어 둘 중 더 낮은 금액을 적용합니다.

• 소유권도, 동의 요건도, 삭제 요구권도 없습니다. 제50조는 당신의 목소리에 대한 재산권을 만들지 않고, 복제하기 전에 당신에게 물어야 한다는 요건도 두지 않으며, 이미 만들어진 복제본을 없애 달라고 요구할 길도 열어 주지 않습니다.

정의 규정을 보면 이 규칙의 성격이 분명해집니다. 제3(60)조는 딥페이크를 실존하는 사람, 사물, 장소, 단체 또는 사건과 닮았으며 사람이 보기에 진짜이거나 진실한 것으로 잘못 보일 수 있는, AI가 생성하거나 조작한 이미지, 음성 또는 영상 콘텐츠로 정의합니다. 집행위원회 지침은 이를 세 가지 누적 요건으로 읽습니다. 흉내 내는 사람이나 대상과 매우 비슷할 것, 실제로 존재하거나 존재할 법한 대상일 것, 진위에 관해 오인을 일으킬 수 있는 콘텐츠일 것입니다. 만든 사람이 해를 끼칠 의도가 있었는지는 이 의무에 아무런 영향을 주지 않습니다.

쓸모 있는 규칙이지만 범위는 좁습니다. 속이는 사람의 변명 거리를 없애 줍니다. 그러나 당신의 동의는 판단 기준에 아예 들어 있지 않습니다.

EU가 이 영역에 동의 요건을 명시한 곳은 지금까지 딱 한 군데이고, 문구도 의도적으로 좁게 짜여 있습니다. Digital Omnibus는 AI Act 제5조에 두 가지 새로운 금지 관행을 넣었습니다. 하나는 식별 가능한 사람의 은밀한 신체 부위나 성적으로 노골적인 행위를 사실적으로 보여 주는 자료를, 그 사람의 자유롭고 구체적이며 충분한 정보에 기반한 명확하고 명시적인 동의 없이 생성하거나 조작하는 시스템을 금지합니다. 다른 하나는 아동 성착취물의 생성을 금지합니다. 두 가지 모두 2026년 12월 2일부터 적용됩니다. 이는 특정 범주의 콘텐츠에 대한 절대적 금지이지, 당신의 초상 전반에 대한 일반적인 권리가 아닙니다. 은밀한 이미지를 벗어나면, 누가 당신을 복제할 수 있는지는 여전히 다른 법에 맡겨져 있습니다. 주로 각국의 인격권과 초상권, 그리고 목소리가 개인정보에 해당하는 경우의 개인정보 보호법입니다.

유럽은 합성 음성이 자신이 무엇인지 밝혀야 한다고 정했습니다. 그 목소리가 누구의 것인지는 정하지 않았습니다.

두 번째 문장을 더 자세히 알고 싶다면 당신의 유산 관리인, 플랫폼, 그리고 당신의 녹음을 가진 쪽이 어떻게 나뉘는지를 이어서 읽어 보세요. 법 조문보다 실제로 할 수 있는 일이 궁금하다면 처음부터 목소리를 복제하기 어렵게 만드는 방법부터 시작하세요.

제50조는 하나의 조문에 다섯 개의 실질 항이 있고, 각 항이 구속하는 대상은 서로 다릅니다. 언론 보도는 다섯 항을 모두 뭉뚱그려 "AI는 표시해야 한다"로 말하고, 그래서 독자는 이 규칙이 자기 목소리의 가짜로부터 자신을 보호해 준다고 믿게 됩니다. 그 일을 해낼 의무는 아무것도 게시하지 않을 수도 있는 낯선 사람에게 걸려 있습니다.

50(2)의 표시 의무와 50(4)의 고지 의무는 서로 다른 당사자에게 걸린 별개의 층입니다. 음성 엔진을 만든 회사는 파일 안의 표시를 책임집니다. 클립을 게시하는 회사는 음파 아래에 붙는 한 문장을 책임집니다. 어느 한쪽이 다른 쪽을 대신해 주지 않습니다.

경과 유예는 그에 관한 보도 제목이 말하는 것보다 좁습니다. Digital Omnibus on AI인 Regulation (EU) 2026/1744는 2026년 7월 8일에 채택되어 2026년 7월 24일 Official Journal에 게재되었고 2026년 7월 27일에 발효되었습니다. 이 규정은 AI Act의 경과 규정을 개정하여, 2026년 8월 2일 이전에 시장에 출시된 생성형 시스템의 공급자가 제50(2)조의 표시 요건을 충족하는 기한을 2026년 12월 2일까지로 늦췄습니다. 이 유예는 표시 방식에만 해당하고 다른 것에는 적용되지 않습니다. 2026년 8월 2일 이후에 출시된 시스템에는 유예 기간이 없습니다. 딥페이크 고지 의무를 비롯한 제50조의 다른 모든 의무는 예외 없이 2026년 8월 2일부터 적용됩니다.

같은 Omnibus는 Annex III의 고위험 시스템 규정도 2026년 8월 2일에서 2027년 12월 2일로 미뤘습니다. AI Act가 연기되었다는 제목을 보았다면, 그것이 바로 이 연기를 말하는 것입니다. 제50조는 연기되지 않았습니다.

집행은 각국이 맡습니다. 회원국이 시장 감시 당국을 지정하고, 그 당국이 자국 영토 안에서 조사하고, 시정 조치를 명하고, 제재를 부과합니다. 집행위원회의 AI Act Service Desk는 시장 감시 당국과 국가별 헬프데스크를 포함한 각국 연락처 목록을 공개하고 있으며, 자기 나라의 당국을 찾는 가장 빠른 길입니다.

이의를 제기할 권리도 명시되어 있습니다. 제85조는 이 규정이 위반되었다고 볼 근거가 있는 모든 자연인 또는 법인이 다른 구제 수단과 별개로 관할 시장 감시 당국에 민원을 제기할 수 있다고 정하고 있습니다. 보상을 받을 권리는 아닙니다. 빠르지도 않습니다. 그래도 2026년 8월 2일 이전에는 없던, 실제로 열려 있는 창구입니다.

집행위원회는 제50조 투명성 의무에 관한 최종 지침을 2026년 7월 20일에 채택했습니다. 의무가 적용되기 2주도 남지 않은 시점이었습니다. 이 지침은 구속력이 없고, 규정을 권위 있게 해석할 수 있는 곳은 EU 사법재판소뿐이지만, 각국 당국은 이 지침을 바탕으로 일할 것으로 예상됩니다. 이 페이지의 어느 내용도 법률 자문이 아닙니다. 회사를 운영하면서 자신이 공급자인지 배포자인지 알아야 한다면, 집행위원회의 지침을 읽은 다음 소재 회원국의 변호사에게 비용을 내고 문의하세요. 답은 어떤 조문도 알 수 없는 당신 제품의 사실관계에 따라 달라지기 때문입니다.

당신은 EU에 살고 있을 수도 있습니다. 맨체스터나 미니애폴리스에 살면서도 유럽에 판매하는 회사가 만든 제품에 자기 목소리를 녹음할 수도 있습니다.

제2(1)조는 여기서 중요한 세 가지 범위를 정합니다. 첫째, EU 안에서 AI 시스템을 시장에 출시하거나 서비스에 투입하는 공급자는 EU 안에 설립되었든 제3국에 있든 적용 대상입니다. 둘째, EU 안에 설립되었거나 소재한 배포자도 적용 대상입니다. 셋째, AI 시스템이 만들어 낸 결과물이 EU 안에서 사용되는 경우, 제3국에 소재한 공급자와 배포자도 적용 대상입니다.

그러니 유럽 고객에게 판매하는 캘리포니아나 시드니의 음성 합성 회사도 이 규칙 안에 들어옵니다. 유럽용 제품 하나와 나머지 지역용의 조용한 제품 하나를 따로 만드는 데는 비용이 많이 들기 때문에, 의무가 지역에 한정되어 있어도 표시 기능은 전 세계에 함께 제공되는 경우가 많습니다. 유럽 방문자가 거의 없는 웹사이트에까지 GDPR 동의 배너가 붙은 것도 같은 원리입니다.

옮겨 가지 않는 것은 당신의 법적 지위입니다. EU 밖에 살고 있고 EU 밖의 누군가가 EU 밖의 청중을 위해 당신의 목소리를 복제한다면, 제50조는 당신이 내세울 근거를 하나도 주지 않습니다. 그 경우의 보호는 당신이 속한 관할권에서 나오며, 미국에서는 주별 퍼블리시티권과 디지털 복제 관련 법률이 모자이크처럼 얽혀 있고, 여기에 아직 법이 아니므로 법인 것처럼 설명해서는 안 되는 연방 법안이 더해집니다. 주별 디지털 복제 관련 법률은 동의에 기반한 규칙이 실제로 있는 곳에서는 어떤 모습인지 보여 줍니다.

제50(4)조의 고지 의무는 배포자에게 적용되며, 개인적으로 행동하는 개인은 배포자가 아닙니다.

제3(4)조는 배포자를 자신의 권한 아래 AI 시스템을 사용하는 자연인, 법인, 공공 당국, 기관 또는 기타 단체로 정의하고, 개인적이고 비전문적인 활동 중의 사용은 제외합니다. 이를 제50(4)조와 나란히 놓으면 결과는 분명합니다. 업무 발표용으로 당신의 목소리를 합성한 클립을 만든 동료는 배포자이고 고지 의무를 집니다. 집에서 같은 클립을 만들어 단체 채팅방에 파일을 올린 지인은 배포자가 아니며, 제50조에 따른 의무가 없습니다.

당신의 목소리로 그럴듯한 가짜를 만들 가능성이 가장 높은 사람은 컴플라이언스 부서를 갖춘 기업이 아닙니다. 당신이 말하는 방식을 알고, 휴대전화에 당신의 음성사서함 인사말이 있고, 당신 아이들의 이름과 당신이 그 이름을 부르는 방식까지 아는 누군가입니다.

그 위에 예외가 더 쌓여 있습니다. 제50(4)조는 명백히 예술적, 창작적, 풍자적 또는 허구적인 작품에 대해서는 작품의 전시나 감상을 해치지 않는 방식의 적절한 고지만 요구합니다. 제50(2)조는 입력 데이터를 실질적으로 바꾸지 않는 보조적 편집 기능이나 일부 법 집행 용도에는 적용되지 않습니다. 제50(1)조는 기계와 대화하고 있다는 사실이 상당한 정보를 가진 합리적인 사람에게 명백한 경우에는 적용되지 않습니다.

그렇다고 이 법이 약하다는 뜻은 아닙니다. 겨냥하는 대상은 합성 미디어의 상업적, 제도적 흐름이지 사적인 흐름이 아니며, 물량이 몰려 있는 곳은 상업적 흐름입니다. 하지만 당신이 걱정하는 사람이 회사가 아니라 개인이라면 제50조는 당신의 해결책이 아니며, 길은 명예훼손, 괴롭힘, 개인정보 보호 또는 초상권에 관한 각국의 법을 통해 나 있습니다. 누군가 이미 그 클립을 보낸 뒤에 알게 되는 것보다 이번 주에 알아 두는 편이 낫습니다.

레거시를 시작하세요 무료 시작, 25개의 추억, 카드 불필요.

제50(2)조는 콘텐츠의 종류, 구현 비용, 인정된 최신 기술 수준을 고려하여, 기술적으로 실현 가능한 범위에서 효과적이고, 상호운용이 가능하며, 견고하고, 신뢰할 수 있는 기술적 해법을 요구합니다. 형식은 일부러 정해 두지 않았습니다. 기술적 세부 사항은 AI Office가 2026년 6월 10일에 발표한 Code of Practice on Transparency of AI-Generated Content에 있으며, 이 Code의 준수는 자율이지만 그 바탕이 되는 제50조의 의무는 자율이 아닙니다. 집행위원회는 이 두 가지를 모두 분명히 밝힙니다. 서명은 자율이고 서명하지 않았다고 해서 그 자체로 위반은 아니지만, 이행 평가가 긍정적으로 나온 서명 기업은 관할 시장 감시 당국이 어느 나라 기관이든 제50(2)조, (3), (5)의 준수를 입증하는 데 이 Code를 근거로 삼을 수 있습니다. Code 밖에 있는 기업은 자사 결과물을 어떻게 표시하는지에 관한 정보 요청을 더 많이 받을 것으로 예상할 수 있습니다.

이 Code는 층층이 쌓는 접근을 제시합니다. 파일에 붙는 디지털 서명이 된 출처 메타데이터, 일반적인 재인코딩과 잘라내기에도 살아남는 사람이 감지할 수 없는 워터마크, 그리고 선택적으로 등록부에 대조하는 지문 처리 또는 기록입니다. 메타데이터 층은 실제로 C2PA Content Credentials를 뜻하며, 이는 Coalition for Content Provenance and Authenticity가 관리하는 출처 표준입니다. 덕분에 오늘 오후에, 돈 한 푼 들이지 않고 해 볼 수 있는 일이 생깁니다.

첫 번째 확인은 출처입니다. AI가 만들었다고 생각되는 음성 또는 이미지 파일, 또는 당신의 목소리를 맡겨도 될지 고민 중인 도구로 직접 만든 파일을 Content Credentials Verify 도구에 올려 보세요. 주소는 verify.contentauthenticity.org입니다. 파일에 서명된 매니페스트가 있으면 누가, 어떤 소프트웨어로, 언제 그 콘텐츠를 생성했는지 볼 수 있습니다. 파일에 아무것도 없다면, 당신의 목소리를 맡길 뻔한 그 도구에 대해 똑같이 쓸모 있는 사실을 알게 된 것입니다. 빈 결과는 판정이 아니라 신중하게 읽어야 할 신호입니다. Code of Practice는 서명된 메타데이터와 사람이 들을 수 없는 워터마크를 별개의 두 층으로 보기 때문에, 서명된 매니페스트가 없는 파일에도 생성한 쪽의 자체 탐지기만 읽을 수 있는 워터마크가 들어 있을 수 있습니다. 빈 결과가 알려 주는 것은 사람이 확인하기 쉬운 층이 빠져 있다는 점입니다.

두 번째 확인은 계약입니다. 사용 중인 음성 도구의 약관을 읽고 학습에 관한 조항을 찾으세요. 표시는 시스템에서 나온 것을 설명할 뿐, 들어간 것에 대해서는 아무 말도 하지 않습니다. 음성 제품의 계약서에 묻혀 있는 소유권 조건이 파일에 붙은 워터마크보다 당신에게 훨씬 중요한 경우가 많습니다. 단 1초라도 녹음하기 전에 저희 서비스에 실제로 무엇이 포함되어 있는지도 읽어 볼 수 있습니다.

두 가지 확인을 저희에게도 해 보세요. 첫 번째 확인에 대한 저희의 답은 빈 결과까지 포함해 아래에 그대로 적어 두었습니다.

Afterlife.ai™는 목소리를 합성하므로, 이 규칙은 저희 같은 제품을 정면으로 겨냥합니다. 아래 내용은 문구 그대로 저희에게 책임을 물을 수 있도록 분명하게 적었습니다.

Idy®라는 안내자가 당신을 인터뷰합니다. 당신의 답변은 저희가 쌓아 가는 추억의 바탕이 되고, 당신이 직접 한 녹음은 그 추억을 말하는 복제 음성이 됩니다. 이곳의 Persona는 주인이 녹음한 목소리로만, 주인이 제공한 자료만으로 말하며, 말하지 않은 것을 지어내지 않습니다. 그 목소리를 들을 수 있는 사람은 당신이 지정합니다. 저희는 아무도 추가하지 않으며, 기본 목록도 없습니다.

공개는 Executor Lock™을 통해 이루어집니다. 지정된 사람이 공개를 요청하면 증거가 검증되고, 무엇이든 열리기 전에 7일의 대기 기간이 지나갑니다. 그 기간 동안 당신은 절차를 멈출 수 있습니다. 당신은 이 관문에 미리 동의해 두고, 증거는 누군가 그 관문을 쓰려는 바로 그 순간에 확인됩니다. 제50조는 그 누구에게도 이런 것을 요구하지 않으며, 저희는 이 관문을 진짜 보호 장치로 여깁니다. 7일 증거 검증 관문이 구체적으로 어떻게 작동하는지는 별도로 문서화되어 있습니다.

투명성 의무 자체에 대해서는, 보기 좋게 꾸민 버전이 아니라 2026년 7월 30일 현재 저희의 실제 상황을 말씀드립니다. 음성 합성은 ElevenLabs를 거치며, ElevenLabs는 자사가 생성하는 음성에 사람이 들을 수 없는 SynthID 워터마크를 넣고 누구나 쓸 수 있는 무료 탐지기를 공개한다고 밝히고 있습니다. 이는 저희가 아니라 그쪽의 표시이며, 저희는 모든 요청에서 그 표시를 독자적으로 검증하지는 못했습니다. 저희는 아직 위에서 설명한 Content Credentials 층, 즉 저희 자체의 서명된 출처 매니페스트를 여러분께 드리는 음성에 붙이지 않으므로, 저희가 만든 파일에 대한 Content Credentials 확인은 오늘 기준으로 빈 결과가 나옵니다. 저희 시스템은 2026년 8월 2일 이전에 시장에 나와 있었으므로 이 표시 작업은 Digital Omnibus가 정한 2026년 12월 2일까지의 경과 기간 안에 들어갑니다. 저희는 이 날짜를 면책이 아니라 마감일로 받아들입니다. 어떤 날짜에도 저희가 하지 않을 일은 표시를 지우는 방법을 팔거나, 목소리가 합성되었다는 사실을 듣는 사람에게서 숨기는 방법을 파는 것입니다. 그런 침묵을 살 수 있어서는 안 됩니다.

이제 한계를 말씀드립니다. 한계 없는 주장은 마케팅이기 때문입니다. 모든 조건에서 버티는 표시 층은 없습니다. 서명된 메타데이터는 파일이 재인코딩되거나 변환되거나 전송 중에 제거되면 사라지기 쉽고, 바로 그래서 Code of Practice가 그 밑에 사람이 감지할 수 없는 워터마크를 요구하는 것이며, 그 층조차 기술적으로 실현 가능한 범위에서만 견고하면 됩니다. 저희를 포함해 이 분야의 모든 제품에 해당하는 이야기입니다. 깨지지 않는 표시를 약속하는 회사가 있다면 그 약속은 틀렸습니다. 두 번째 한계는 관문 자체입니다. Executor Lock™은 증거를 검증하고 7일의 대기 기간을 두어 누가 문을 여는지를 통제합니다. 지정된 사람이 일단 듣기 시작하면, 화면 반대편에서 그 사람이 무엇을 녹음하는지는 저희가 통제할 수 없습니다. 그 빈틈을 여러분이 직접 발견하게 하느니 이 문장을 적어 두는 편이 낫다고 생각합니다.

저희를 점검하러 오셨으니, 솔직한 한계를 두 가지 더 말씀드립니다. 자신의 자료는 언제든 내보낼 수 있고, 내보내기 파일에는 여러분의 정보, 모든 추억, 모든 대화가 직접 보관할 수 있는 파일로 담기므로, 기록이 저희에게만 있지 않습니다. 이 내보내기에서 빠진 것은 음성입니다. 받게 되는 것은 녹음이 아니라 텍스트입니다. 그리고 Persona는 가동 중인 서비스에 의존하므로, 이 분야의 모든 회사에 서비스 종료 시의 방침을 서면으로 물어보세요. 저희도 마찬가지이며, 모호한 답은 그 자체로 하나의 답이라고 보세요.

돌아가신 분들의 AI Persona를 운영하는 것의 윤리는 이 법 조문 밑에 놓인 논쟁이며, 저희가 제품의 첫 줄을 쓰기 전에 먼저 답해야 했던 논쟁입니다.

준수 기한은 회사가 무엇을 하도록 강제되었는지만 알려 줍니다. 제50조는 업계 전체가 음파 아래에 한 문장을 붙이도록 만들겠지만, 그 문장에는 허락에 관한 말이 한 마디도 없습니다.

그러니 기준은 다른 곳에서 나와야 합니다. 이 분야의 모든 회사는 자사의 동의 관문이 무엇인지, 누가 그 관문을 열 수 있는지, 열려면 어떤 증거가 필요한지를 공개적으로 밝혀야 합니다. 저희 것은 아직 완성되지 않은 부분까지 포함해 위에 적어 두었습니다. 여러분의 것도 읽어 보고 싶습니다.

여러분에게 가치가 있는 이 기술은 의도를 갖고 만들어진 기술입니다. 당신이 녹음한 당신의 목소리. 당신이 고른 당신의 추억. 당신이 직접 지정한 사람들의 목록과, 누군가 필요로 하기 전에 당신이 미리 정해 둔 관문. 당신이 실제로 한 말로만 학습한 AI는 질문을 피해 가는 대신 당신의 동의에서 출발합니다. 표시 문제 때문에 오셨다면, 실용적인 다음 읽을거리는 당신 목소리의 녹음이 정말 당신의 것임을 증명하는 방법입니다. 같은 출처 문제를 반대 방향에서 바라보는 글입니다.

추억 25개, 무료, 카드 불필요, 그리고 무료 빌드는 만료되지 않습니다. 마지막 부분은 의도적입니다. 이 업계의 가장 나쁜 모습은 슬픔에 잠긴 가족이 거절하기 가장 어려운 순간에 요금을 청구하는 것입니다.

유럽은 합성 음성이 스스로를 밝히도록 만들었습니다. 그 가운데 하나가 당신의 허락을 받고 말하고 있는지는 당신만이 정할 수 있습니다.

레거시를 시작하세요 무료 시작, 25개의 추억, 카드 불필요.

제50조가 누군가 내 목소리를 묻지도 않고 복제하는 것을 막나요?

아니요. 제50조는 투명성 규칙입니다. 2026년 8월 2일부터 합성 음성을 기계가 읽을 수 있는 형태로 표시하고, 딥페이크는 청중에게 고지하도록 요구합니다. 당신을 복제하기 전에 동의를 받으라고 요구하지 않으며, 삭제를 요구할 권리도 주지 않습니다. EU가 추가한 동의 기반 금지는 동의 없는 은밀한 이미지에 관한 것 하나뿐이며 2026년 12월 2일부터 적용되고, 목소리 전반으로 확대되지 않습니다.

저는 EU 밖에 삽니다. 이 중 어떤 것이 저에게도 해당하나요?

간접적으로 해당합니다. 제2(1)조에 따라 AI Act는 어디에 설립되었든 EU 시장에 시스템을 출시하는 공급자, 그리고 시스템의 결과물이 EU 안에서 사용되는 제3국의 공급자나 배포자에게 적용됩니다. 대부분의 글로벌 도구는 제품을 둘로 나누기보다 규정을 지키는 제품 하나를 내놓을 것이므로, 아마 표시를 보게 될 것입니다. 하지만 당신의 법적 지위는 다른 문제이며, EU 밖에서는 당신이 속한 관할권의 규칙에 의지하게 됩니다.

누가 워터마크를 지워 버리면 어떻게 되나요?

증거를 입증하기가 더 어려워지고, 누가 무엇을 위반했는지는 누가 표시를 지웠는지에 달려 있습니다. 제50조는 공급자와 배포자를 구속하므로, 메타데이터를 없애려고 파일을 재인코딩한 개인은 제50조를 전혀 위반하는 것이 아닙니다. 다만 Code of Practice는 서명 기업들이 약관에서 바로 그런 행위를 금지하도록 요구합니다. 표시를 지운 다음 그 클립을 게시한 회사는 고지 없는 딥페이크를 게시한 배포자이며, 이는 제50(4)조 위반입니다. 기술 측면에서 보면, 제50(2)조에 따른 표시는 기술적으로 실현 가능한 범위에서만 효과적이고 견고하면 되는데, 이는 보장이 아니라 기준입니다. 이 Code가 서명된 메타데이터 위에 사람이 감지할 수 없는 워터마크를 겹치는 것은, 파일이 재인코딩되거나 변환될 때 메타데이터가 사라지기 쉬운 반면 워터마크는 잘라내기, 압축, 형식 변경 같은 일반적인 처리를 견뎌야 하기 때문입니다. 어느 층도 깨지지 않는 것은 아니며, 이 법의 답은 예방이 아니라 집행입니다.

친구가 장난으로 제 목소리 가짜 클립을 만들었어요. 법이 이런 경우도 다루나요?

거의 확실히 다루지 않습니다. 제50(4)조의 고지 의무는 배포자에게 적용되고, 제3(4)조는 개인적이고 비전문적인 활동 중의 사용을 제외합니다. 사적으로 행동하는 개인은 배포자가 아닙니다. 그 사람이 쓴 도구는 여전히 공급자의 표시 의무 대상이므로 파일에 출처 데이터가 들어 있을 수 있습니다. 그 사람에 대한 구제 수단은 명예훼손, 괴롭힘, 개인정보 보호 또는 초상권에 관한 각국의 법에서 나옵니다.

제50조를 지키지 않는 회사를 신고할 수 있나요?

네. 제85조에 따라 이 규정이 위반되었다고 볼 근거가 있는 사람은 누구든 다른 구제 수단과 별개로 관할 시장 감시 당국에 민원을 제기할 수 있습니다. 집행은 각국이 맡으므로, 브뤼셀이 아니라 소재 회원국이 지정한 당국에 민원을 내야 합니다. 집행위원회의 AI Act Service Desk가 각국 연락처 목록을 공개하고 있으며, 알맞은 기관을 찾는 실질적인 출발점입니다.

Afterlife.ai™를 무료로 써 볼 수 있나요? 나중에 모든 것을 삭제할 수도 있나요?

둘 다 그렇습니다. 카드를 요구하지 않고 25개의 추억으로 무료로 만들어 볼 수 있으며, 그 무료 빌드는 만료되지 않습니다. 그 뒤에 계정을 삭제하면 당신의 Persona, 추억, 사진, 그리고 녹음한 음성이 제거됩니다. 삭제는 접근 권한만이 아니라 저장된 녹음 자체를 지우며, 저희가 운영하는 모든 플랜에서 살아 계시는 동안 이용할 수 있습니다. 모든 것에 대해 물으셨으니 한 가지 한계를 말씀드립니다. 그 한 번의 조작은 저희 자체 저장소를 비우는 것이고, 저희 음성 합성 공급업체가 보유한 학습된 음성 모델은 별도의 삭제 절차입니다. 그것이 중요하다면 따로 명시적으로 요청하세요.

이 페이지는 1차 자료에 근거해 작성되었습니다. 조문별로 정리한 Regulation (EU) 2024/1689의 통합본, Official Journal에 게재된 Regulation (EU) 2026/1744, 유럽 집행위원회의 FAQ와 2026년 7월 투명성 지침, 그리고 AI Office의 Code of Practice on Transparency of AI-Generated Content입니다. 3초라는 수치는 업체의 주장이 아니라 공개된 VALL-E 논문에서 나왔습니다. 여기에 실린 모든 날짜와 과태료 수치는 언론 보도가 아니라 해당 법 문서에서 인용했습니다. 저희 제품에 관한 설명은 아직 하지 못하는 부분까지 포함해, 이번 검토 시점에서 소프트웨어가 실제로 하는 일을 적은 것입니다.

아직 정해지지 않은 것: 집행위원회의 지침과 Code of Practice는 둘 다 구속력이 없으므로, 어떤 것이 효과적인 표시인지, 보조적 편집 도구와 생성형 도구의 경계가 어디인지, 개인적 사용 예외가 어디까지 미치는지에 대해 아직 어떤 법원도 판단하지 않았습니다. 의무가 2026년 8월 2일에야 시작되기 때문에 각국의 집행 관행은 아직 존재하지 않습니다. 이 페이지의 해석 부분은 확정된 문제가 아니라 현재로서 가장 나은 해석으로 받아들여 주세요.

여기서 틀렸거나 오래된 내용을 발견하셨나요? 이 페이지의 오류를 알려 주시면 출처와 대조해 확인하고, 문구를 고친 뒤 변경 사실을 남기겠습니다.

• 사후에 당신의 얼굴과 목소리를 누가 통제하는가는 결정권을 쥔 네 주체를 정리한 글이며, 제50조가 건드리지 않는 층입니다.

• NO FAKES Act가 통과된다면 무엇을 다루는지는 미국에서 가장 가까운 유사 사례이며, 유럽의 투명성 우선 접근과의 대비가 많은 것을 알려 줍니다.

• 미국의 주별 디지털 복제 관련 법률은 동의에 기반한 규칙이 실제로 있을 때 어떤 모습인지 보여 주며, 제50조는 그런 규칙이 아닙니다.

• 음성 복제는 과연 안전한가는 규제를 받든 안 받든 어떤 제품에든 자신의 목소리를 맡길 때의 현실적인 위험을 다룹니다.

• 국가별 딥페이크 및 AI 초상 관련 법은 제50조를 다른 16개 관할권의 규칙과 나란히 놓고, 각 항목에 출처와 날짜를 달았습니다.

• Regulation (EU) 2024/1689 (EU AI Act) 제50조, 특정 AI 시스템의 공급자와 배포자에 대한 투명성 의무(Transparency obligations for providers and deployers of certain AI systems). artificialintelligenceact.eu/article/50

• Regulation (EU) 2024/1689, 제2조(적용 범위), 제3(4)조와 제3(60)조(배포자와 딥페이크의 정의), 제85조(민원 제기권), 제99(4)(g)조와 제99(6)조(과태료), 제113조(적용 일자). artificialintelligenceact.eu/article/113

• European Commission, FAQ: Transparency obligations under Article 50 of the AI Act, Shaping Europe's Digital Future. 2026년 8월 2일부터의 적용, 이미 출시된 시스템에 대한 2026년 12월 2일까지의 유예 기간, 딥페이크의 누적 요건, 그리고 배포자의 고지가 기계가 읽을 수 있는 것만이 아니라 사람이 이해하고 인지할 수 있어야 한다는 점을 확인해 줍니다. 평가가 배포자의 속일 의도가 아니라 오인을 일으킬 수 있는 능력에 달려 있다는 점은 집행위원회의 제50조 지침이 근거입니다. digital-strategy.ec.europa.eu

• 유럽 집행위원회(European Commission), 특정 AI 시스템의 공급자와 배포자의 투명성 의무에 관한 지침(Guidelines on transparency obligations for providers and deployers of certain AI systems), 2026년 7월 20일 채택, 구속력 없음. digital-strategy.ec.europa.eu, 채택일 확인: nicfab.eu

• 유럽 집행위원회와 AI Office, Code of Practice on Transparency of AI-Generated Content, 2026년 6월 10일 발표, 자율 준수. digital-strategy.ec.europa.eu

• European Commission, FAQ: Signing the Code of Practice on Transparency of AI-generated Content. 서명이 자율이라는 점, 서명하지 않았다고 해서 위반이 되지는 않는다는 점, 서명 기업이 관할 시장 감시 당국 전반에서 이 Code를 근거로 삼을 수 있다는 점의 근거입니다. digital-strategy.ec.europa.eu

• IPTC, European AI Office releases Code of Practice on Transparency of AI-Generated Content. 세 가지 표시 방식(디지털 서명된 메타데이터, 사람이 감지할 수 없는 워터마크, 선택적으로 등록부에 대조하는 지문 처리 또는 기록)과, 메타데이터를 유지하고 약관에서 제거를 금지하도록 한 조치 1.2의 근거입니다. iptc.org

• ElevenLabs, Detecting audio generated by ElevenLabs with SynthID. 자사가 생성한 음성에 사람이 들을 수 없는 워터마크가 들어 있고 무료 탐지기가 공개되어 있다는 업체 자체의 설명의 근거입니다. elevenlabs.io/blog/synthid

• Regulation (EU) 2026/1744 (Digital Omnibus on AI), 2026년 7월 8일 채택, 2026년 7월 24일 Official Journal 게재, 2026년 7월 27일 발효. Regulation (EU) 2024/1689를 개정하여 Annex III 고위험 의무를 2027년 12월 2일로 미루고, 동의 없는 은밀한 이미지와 CSAM에 대한 제5조 금지를 2026년 12월 2일부터 추가하며, 이미 시장에 나온 생성형 시스템의 공급자에게 제50(2)조 표시를 위해 2026년 12월 2일까지의 기한을 줍니다. eur-lex.europa.eu/eli/reg/2026/1744 및 요약: nicfab.eu

• 유럽 집행위원회, AI Act Service Desk 및 Single Information Platform. National resources 항목에 회원국별 시장 감시 당국, 통지 당국, 국가별 헬프데스크가 나와 있습니다. ai-act-service-desk.ec.europa.eu

• Content Credentials Verify, Coalition for Content Provenance and Authenticity(C2PA)가 제공하는 브라우저 기반 무료 출처 확인 도구. verify.contentauthenticity.org

• C. Wang, S. Chen, Y. Wu et al., Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers (VALL-E), Microsoft, arXiv:2301.02111, January 2023. 3초 분량의 등록된 녹음에서 개인화된 음성을 합성할 수 있다는 점의 근거입니다. arxiv.org/abs/2301.02111

최종 검토: 2026년 7월 30일. 이 페이지에는 기한이 명확한 규제 관련 주장이 담겨 있으며, 제50조를 둘러싼 입장이 정리될 때까지 30일 주기로 다시 점검합니다. 다음 정기 검토: 2026년 8월 29일.