한국지식재산연구원 웹진 2024년 2월호

2024년 1월 30일, 사단법인 한국음악저작권협회와 국회 문화체육관광위원회는 생성형 AI 표기 의무를 위한 국회 공청회를 개최하였다. 이번 공청회는 이상헌 위원장(국회 문화체육관광위원회)의 축사로 시작하여, 한 번의 발제 이후 다섯 번의 토론으로 진행되었다.

좌장 이대희 교수(고려대학교)의 '콘텐츠산업진흥법 제26조 제3항·제4항 개정의 필요성'을 주제로 한 발제에 이어, 권혁주 협회장(한국웹툰작가협회)의 '웹툰작가와 인공지능 : 창작과 도전 사이'와 최민재 수석연구위원(한국언론진흥재단)의 'AI 생성물의 사회적 책임부여를 위한 첫 걸음', 김경화 과장(문화체육관광부), 강승희 변호사(법무법인 강남)의 '인공지능 활용 제작 콘텐츠 표시의무 법제화에 대한 의견' 그리고 황선철 사업2국장(한국음악저작권협회)의 순서로 토론이 진행된 후 질의응답으로 공청회는 마무리 되었다.

발제1콘텐츠산업진흥법 제26조 제3항·제4항 개정의 필요성

발표자. 이대희 교수(고려대학교)

AI 생성물이라는 것을 표기하지 않으면, 이용자나 일반공중은 이를 인간 창작물로 오인하여 구매, 소비, 이용하게 되고, 가짜 이미지 등이 진짜 뉴스인 것으로 기망하게 되고, 타인의 성명, 이미지, 목소리 등을 무단사용함으로써 이들의 명성이나 프라이버시를 침해하게 되고, 저품질의 AI 생성물이 대량으로 시장에 범람하는 문제점을 야기한다. 이러한 문제점은 AI 산업 발전을 저해하며, 인간과 AI 구별을 어렵게 만드는 문제를 추가적으로 야기하게 된다.

우리나라에서는 AI 생성 콘텐츠라는 사실을 표기하도록 하는 콘텐츠산업진흥법 일부개정 법률안(이상헌의원 대표발의)이 발의되었다. 이미 가짜 정보를 규제하는 법률이 외국에서 시행되고 있고, AI 생성물임을 표시하도록 하는 법안이 미국, EU, 프랑스 등 여러 국가에서 발의되어 있다. AI 생성물이라는 사실을 표기하도록 하는 것은 AI와 관련된 투명성에 관한 문제로서 이용자에 대한 기망이나 개인의 프라이버시 침해 등을 방지하는 많은 긍정적인 역할을 하게 된다.

이러한 해외의 법적 경향을 고려하면 AI 생성물이라는 사실을 표기하는 것이 우리나라 또한 적용되어야 하지만, 적절한 표기의무의 범위와 텍스트, 이미지, 동영상 등의 매체에 따라 표기 방법의 차이점, 메타데이터 등에 의한 표기가 기술적으로 조작, 변경, 삭제되지 않도록 할 뿐만 아니라 기술적 표준도 이루어져야 하는 등과 같은 주제에 대한 여러 논의가 필요하다.

토론1권혁주 협회장(한국웹툰작가협회)

웹툰 작가들은 인공지능(AI) 기술의 등장에 대해 새로운 창작의 기대와 공포심을 동시에 갖고 있습니다. 자칫 인공지능은 창작물의 무단으로 학습하여 저작권의 개념 자체를 바꿀 수 있기 때문입니다. 따라서 AI에 의한 웹툰 데이터 사용에 대해 명확한 규정과 관리체계에 대한 논의가 필요하다고 생각합니다.

토론2최민재 수석연구위원(한국언론진흥재단)

'생성형 AI 콘텐츠 표기 의무화' 조항을 중심으로 한 '콘텐츠산업 진흥법 개정안'은 앞으로 형성될 '생성형 AI' 기반 콘텐츠 생태계의 사회적 룰과 사회적 책임을 부과하는 초석으로 중요한 의미가 있습니다. 하나의 산업영역이 발전하기 위해, 다른 산업영역의 희생이나 사회적인 지식체계의 위험감수를 강요할 수는 없기 때문입니다. 오늘의 공청회를 기점으로 향후 '생성형 AI' 관련 생태계가, 기존 콘텐츠 산업계와 공생을 모색하고, 발생할 지도 모를 사회적 위협요인을 제거할 수 있도록, 다양한 분야에서 논의가 진행되어야 할 것입니다.

토론3김경화 과장(문화체육관광부)

콘텐츠 이용자의 혼선을 방지하고 인공지능을 활용하는 콘텐츠 제작자의 신뢰성·책임성을 강화하는 측면에서 인공지능으로 제작된 콘텐츠에 대한 식별체계 마련이 필요합니다. 또한, 인공지능 기술의 발달 속도 및 파급력을 예측할 수 없는 만큼 최소한의 창작자 권리 보호를 위해서 관련 방안 마련이 있어야 할 것입니다.

토론4강승희 변호사(법무법인 강남)

2022년 11월 30일 OpenAI사의 ChatGPT가 출시된 이후 '생성형 인공지능(Generative AI)'은 전 세계적으로 화두가 되고 있습니다. 생성형 인공지능은 '창작' 능력을 갖춘 인공지능이기 때문에 인간만이 할 수 있는 '창작' 영역에서도 다양하게 활용될 가능성이 있습니다.

최근 K-POP, K-드라마 등 K-콘텐츠가 세계적으로 흥행하고 있고, 우리나라는 콘텐츠 강국으로 부상하고 있습니다. 인공지능이 콘텐츠산업에 어떠한 영향을 얼마만큼 미칠지는 예상하기 어려우나, 생성형 인공지능의 성능, 활용성 등에 비추어 인공지능과 콘텐츠산업의 상호작용은 거스를 수 없는 대세가 될 수 있습니다.

과학기술의 발달은 인간을 이롭게 할 수도 있지만 역으로 인간에게 큰 피해를 줄 수도 있는 위험성을 동시에 갖고 있습니다. 더군다나 인공지능은 인간의 능력을 초월할 수도 있기 때문에 인간을 위해서 이용되고 인간에게 해가 되지 않도록 관리되어야 합니다. 그렇지만 지나친 규제는 인공지능을 이용한 산업분야에서 국가경쟁력을 약화시킬 우려도 있습니다.

생성형 인공지능을 활용한 건전한 콘텐츠사업은 발전시키고 이로 인하여 발생될 수 있는 위험은 최소화하기 위하여 지혜를 모아야 할 때입니다.

토론5황선철 사업2국장(한국음악저작권협회)

우리나라의 음악, 웹툰, 소설, 영상, 안무 등 문화·예술 콘텐츠들은 지금 전 세계의 사랑을 받고 있습니다. 하지만, 우리나라의 문화·예술 산업 진흥 및 보호를 위한 법·정책은 매우 미비합니다. AI 분야에서도 우리나라는 극단적으로 AI 회사에 우호적인 법·정책을 쏟아내고 있으며, 창작자, 저작권자들에게는 희생을 강요하고 있습니다.

그런 와중에 문화산업계의 상황을 헤아려주는 법이 발의되어 기쁩니다. AI 생성물 표시를 의무화하는 법은 창작자를 위한 법이 아니라, 사회 모든 구성원을 위한 법으로 생성형 AI로 발생할 수 있는 분쟁을 방지하기 위한 최소한의 안전장치입니다. 이번 공청회를 통해 보다 많은 사람들이 그 필요성에 공감할 수 있으면 좋겠습니다.