내달부터 국내에서 온라인에 게시되는 AI 생성 영상과 이미지는 ‘AI 생성물’임을 반드시 표시해야 하고, 이를 삭제하거나 가리는 행위는 금지된다.

 

플랫폼 사업자도 표시 의무 준수 여부를 관리하고, 위반 시 과태료 및 징벌적 손해배상이 부과될 수 있다. AI 생성 영상 표시 의무화는 딥페이크를 활용한 허위·과장 광고와 소비자 피해 방지가 핵심이다. 특히 가짜 의사 광고, 식·의약품 추천 등으로 국민 안전과 시장 질서의 교란 사례가 늘면서 제도 도입이 추진됐다.

 

◇ AI 기술이 동영상 업계에 가져온 우려

AI 기술 발전은 사회에 긍정적 효과를 가져왔지만, 동시에 딥페이크(Deepfake) 영상의 악용이라는 심각한 문제를 낳고 있다. 딥러닝 기반 기술의 빠른 확산과 범죄 활용의 용이성, 윤리 기준 미비가 결합해 사회적 허점을 드러내고 있다.

딥페이크의 대표적 부작용은 허위·과장 광고를 들 수 있다. 유명인이나 의사를 사칭해 의약품을 추천하는 영상으로 소비자 피해 우려가 커지고 있다. 광고 속에서 의사 이름이나 병원명, 면허번호가 없거나 ‘OO대 출신’, ‘OO과 전문의’ 등 모호한 표현만 있다면 가짜 의사일 가능성이 높다.

 

소비자 안전 문제 또한 심각한 수준이다. 식품·의약품·화장품 분야에서 실제와 유사한 AI 광고가 검증되지 않은 제품을 홍보할 경우, 건강 피해로 이어질 수 있다. 피부에 해로운 화장품이나 효과가 입증되지 않은 의약품 사용 사례가 발생할 가능성이 제기된다. 딥페이크 영상은 온라인에서 손쉽게 확산 가능해 시장 질서의 교란 위험도 크다. 기존 규제 체계로는 대응도 어렵다.

 

해외 주요국은 대응책을 마련하고 있다. AI 법(AI Act) 제정 등 유럽연합, 미국 주(州), 중국 등에서 법적 근거 마련에 나섰다. 우리나라도 제도 도입을 추진 중이다. 전문가들은 딥페이크 확산을 막기 위해 법적 장치와 사회적 윤리 기준 마련을 강조하고 있다.

 

 

◇‘딥페이크 예방’ 핵심 담은 ‘AI 기본법’은

내달 22일부터 시작되는 ‘AI 기본법’은 딥페이크 피해 예방을 위해 모든 AI 생성물에 사람이 식별할 수 있는 표시를 게재하도록 의무화하는 내용을 담았다. 정부는 앞서 이달 10일에 ‘AI 활용 허위·과장 광고 대응 방안(AI 허위광고)’을 확정했다.

이번 AI 허위광고의 핵심 내용은 크게 △유통 전 사전 방지 △유통 시 신속 차단 △제재 강화 및 단속 역량 확충 등으로 나눌 수 있다. 먼저 ‘유통 전 사전 방지’에서는 AI 생성물 표시제를 도입해 온라인 플랫폼에 AI로 제작·편집된 사진·영상 등을 게시할 경우 반드시 ‘AI 생성물’임을 표시해야 한다. 또 플랫폼 이용자가 표시를 임의로 제거하거나 훼손하는 행위를 금지하고, 플랫폼 사업자는 게시자가 표시 의무를 준수하도록 관리해야 한다. 과학기술정보통신부는 AI 기본법 시행에 맞춰 투명성 확보를 위한 AI 사업자 가이드라인을 제공할 방침이다.

‘유통 시 신속 차단’에서는 식·의약품, 화장품, 의료기기 등 허위광고 빈발 분야를 방송통신미디어위원회 서면심의 대상으로 추가하고 요청 후 24시간 내 심의 가능하도록 했으며, 식약처 전용 심의 시스템을 마약류 외에도 식·의약품과 화장품 등으로 확대한다. 긴급 시정요청 절차를 도입해 국민 피해 우려가 큰 경우 플랫폼에 임시 차단 요청도 가능하게 됐다.

‘제재 강화 및 단속 역량 확충’에서는 AI 가상인간이 제품을 추천하면서 정보를 표시하지 않으면 ‘부당 광고’로 판단하고, AI가 생성한 의사·전문가 이미지가 식·의약품을 추천하면 ‘소비자 기만 광고’로 간주한다. 허위·조작정보 유통 시 손해액의 최대 5배의 징벌적 손해배상 도입, 허위·과장 광고 과징금 수준도 대폭 올린다. 식약처는 한국소비자원과 AI 허위광고 단속을 강화한다. 정부는 정보통신망법, 식품표시광고법 등 관계법을 개정해 규제를 강화할 계획이다.

 

 

◇AI 영상 표시 의무화, 투명성과 창작 자유 사이의 갈림길

정부가 AI 생성 영상 표시 의무화를 추진하면서 사회적 논란이 커지고 있다. 식품·의약품 광고 등에서 허위·과장 홍보가 만연한 가운데 AI 기술 발전으로 소비자가 진위를 구별하기 어려워질 수 있다는 우려가 배경이다. 정부는 가짜뉴스, 딥페이크, 선거 개입 등 위험을 줄이고 국민 신뢰와 글로벌 경쟁력을 강화하겠다는 입장이다.

업계는 워터마크 삽입 기술 개발과 시스템 구축에 따른 추가 비용 부담을 걱정한다. 제작자의 표현 자유가 제한되고 글로벌 경쟁력의 약화 가능성의 목소리도 나온다. 법학자는 표현의 자유와 규제의 균형을 강조했고, 기술 전문가는 워터마크가 삭제·변조 가능성이 커 실효성에 의문을 제기했다. 경제학자들은 콘텐츠 산업과 플랫폼 비즈니스에 부정적 영향을 우려했다.

특히 국내 사용자 4천665만 명을 보유한 유튜브는 동영상 서비스 1위 플랫폼으로, 이번 조치의 파장이 산업 전반에 막대할 것으로 예상된다.

 

업계가 제기하는 우려는 다섯 가지로 △제작 비용 증가 △예술·창작 자유 위축 △콘텐츠 불신 확대에 따른 소비 위축 △플랫폼의 기술·인력 부담 △표시 기준 불명확으로 인한 법적 리스크와 혁신 저해 가능성 등이다. 이번 조치는 향후 정책 추진 과정에서 치열한 사회적 논의로 이어질 것으로 보인다.

긍정적 효과도 있다. 가짜 의사·연예인 광고, 허위 후기 등 딥페이크 기반 기만행위를 차단해 소비자 보호를 강화할 수 있다. 영상이 AI로 제작된 것임을 알려 신뢰도 향상과 사회적 혼란 감소 효과도 기대된다. 성착취물, 허위 투자 사기 등 딥페이크 범죄에 대응하는 제도적 장치 기능도 가능하며, 유사 제도를 도입한 유럽연합·미국·중국 등 타국과 보조를 맞출 수도 있다.

 

또한 표시 의무 위반 시 최대 5배 손해배상 등 강력한 제재로 불법 행위 억제 효과도 예상된다. 그러나 영상 전체에 표시를 넣는 방식은 제작비용과 시간을 늘려 기업 부담을 키우고, 창작 활동의 자유를 위축시킬 수 있다는 우려가 크다. 영상 몰입감이 중요한 미디어 환경에서 ‘AI 표시’가 부정적 인식을 유발해 콘텐츠 소비가 줄어들 가능성도 있다.

 

해외에서는 비가시적 워터마크를 선호하지만 한국은 사람이 직접 인식 가능한 표시를 요구해 이중 규제 논란과 플랫폼 사업자 제재 미흡 문제가 지적된다. 이번 조치는 소비자 보호와 사회적 신뢰 강화라는 긍정적 효과와 산업 경쟁력 약화·창작 자유 위축이라는 부정적 우려가 교차하며, 향후 제도 설계 과정에서 사회적 합의가 핵심 과제로 떠오르고 있다.

 

◇해외의 AI 생성물 표시 의무화 사례는

AI 기술 발전이 속도를 내면서 주요국들도 법적 규율을 강화하고 있다. 미국은 2022년 ‘미국 AI 진흥법(Advancing American AI Act)’을 제정해 AI 프로그램을 장려했으며, 2023년 10월에는 AI 활용 규제 행정명령을 발령했으나 트럼프 행정부가 이를 폐기해 완화됐다. 대신 캘리포니아·뉴욕·오하이오 등 주(州) 차원에서 AI 생성물 표시 의무화 법안이 추진되고 있다.

 

캘리포니아는 내년 1월부터 월 100만명 이상 이용자를 보유한 생성형 AI 제공자에게 탐지 도구 제공과 생성물 표시를 의무화하는 ‘캘리포니아 AI 투명성법’을 시행할 예정이다. 뉴욕은 정치적 AI 활용물의 고지 의무를, 오하이오는 워터마크 표시 의무를 담은 법안을 추진 중이다.

유럽연합(EU)은 지난해 ‘EU AI법’을 제정, 시민 안전·권리 보호의 포괄 규제를 마련했다. AI 시스템 제공자는 워터마크, 메타데이터, 암호화 등을 통해 AI 생성물임을 기계 판독 형식으로 표시해야 한다. 실제 인물·사물·사건과 유사한 콘텐츠는 가시적 워터마크와 ‘AI-generated content’ 라벨, 재생 전 경고 메시지 등을 넣어야 한다. 이를 위반하면 최대 1500만 유로(약 259억원) 또는 연매출 3% 중 더 큰 벌금이 부과되며, 내년 8월부터 단계적으로 시행된다.

중국은 2023년 7월 ‘생성형 인공지능서비스 관리 잠정방법’을 공포해 생성형 AI를 유형과 중요등급에 따라 차등 관리하는 원칙을 세웠다. 딥페이크 서비스 공급자는 텍스트·음성·영상·이미지 등 5가지 유형의 콘텐츠 제공 시 합리적 방식으로 표시하고 로그 정보를 보관해야 한다.

AI 규제는 각국의 정치·사회적 맥락에 따라 상이하게 전개되고 있으며, 글로벌 차원에서 AI 투명성과 책임성을 확보하기 위한 제도적 장치가 속속 마련되고 있다.

 

 

◇‘AI로 생성한 영상’ 표기, 혁신과 규제 속 공존 방안은

‘AI로 생성한 영상’ 표기 의무화에 제작자와 소비자 사이의 시각이 엇갈리고 있다. 소비자 측은 가짜뉴스와 딥페이크 확산을 막아 사회적 혼란을 예방하고, 콘텐츠 출처 확인으로 신뢰성을 높인다는 점을 긍정적으로 평가한다. 또 AI 활용의 신뢰도 상승효과도 기대된다. EU·미국·중국 등 주요국이 유사한 규제를 추진 중인 만큼 국제적 정합성과 협력 필요성도 강조된다.

반면, 제작자 측은 예술적 실험과 표현의 자유가 위축될 수 있다는 점을 우려한다. 워터마크 삽입 기술 도입으로 제작·플랫폼 운영비용이 증가해 산업계 부담이 커질 가능성도 나온다. ‘AI 생성’이라는 꼬리표가 콘텐츠 몰입도를 떨어뜨려 사회적 불신을 확산시킨다는 지적도 있다.

이에 따라 사회적 합의와 산업군별 차등 규제의 필요 목소리가 커지고 있다. 뉴스·광고 등 공적 콘텐츠는 강력히 규제하되, 예술·창작 분야는 완화된 규정을 적용하는 방식이다. 특히 엔터테인먼트 영역에서는 일정 범위 내 예외를 둬 창작 자유를 보장해야 한다는 의견이 나온다.

또 워터마크·메타데이터 등 국제 표준으로 글로벌 호환성을 확보하고, 글로벌 플랫폼과의 공조 노력도 중요하다. 제도의 성공 여부는 표시 방식의 합리적 설계(가시적·비가시적 병행), 산업 부담 완화, 표현 자유 예외 규정 마련 등에 달렸다. 결국 ‘AI 표시=불신’이 아니라 ‘투명성 확보’라는 메시지를 통해 규제-혁신 공존의 틀을 마련하는 것이 핵심 과제로 떠오르고 있다.

신원수 한국디지털광고협회 부회장은 ‘AI 생성 영상·이미지 표시 의무화’ 법안을 “현실성이 없는 정책”이라며 우려했다. 대부분 영상·이미지 제작에서 AI가 기본도구가 돼 ‘AI 생성물’ 문구 표기는 불가능하다는 것이다. 그는 "광고영상에 기본 문구가 들어가는데 추가 삽입은 현실과 동떨어진다"며 "포토샵 등 편집 프로그램도 AI 기능이 내재돼 ‘AI 사용 여부’의 구분이 어렵다"고 설명했다.

또 "기술 발전은 문화적 변화와 맞물려 있으며, 이를 일률적으로 제한하기보다는 사회적으로 수용하고 활용 방안을 모색하는 과정이 필요하다"고 말하며 “기준은 시간 흐름상 자연스럽게 형성되는 것으로, 법적 잣대로의 강제는 불가능하다”는 입장을 표했다.

신 부회장은 유럽 사례를 언급하면서 "지금은 AI 산업을 적극적으로 육성해야 할 시기임에도 규제 논의가 이어지는 것은 안타까운 일"이라고 지적했다. 그러면서 “인적자원이 뛰어난 한국에서 근로자들이 AI를 적극 활용해 업무 효율화와 경쟁력을 높이는 게 중요”하다며 “AI를 특별한 기술이 아닌 일상적 도구로 바라봐야 하고, 규제보다는 활용과 경쟁력 강화에 초점을 맞춰야 한다”고 말했다.