• 인공지능 (AI) 기술의 발달로 다양한 분야에서  AI의 이용이 확대됨에 따라, AI 시스템의 책임성‧공정성‧신뢰성에 대한 요청이 강화되고 있음

• 본고에서는 AI 시스템의 신뢰성 확보에 필수적 요소인 AI의 투명성에 관한 미국의 연방 및 개별 주 정부 차원의 최신 법제 동향을 포괄적으로 분석하여 시사점을 도출하고자 함
※ 본 보고서 내용은 필자의 개인적인 견해이며, 한국지식재산연구원의 공식적인 의견이 아님을 밝힙니다.

Ⅰ 서 론

1 검토 배경 

□ AI 기술이 급격히 발전하며 인공지능이 산업 전 분야로 확산해 막대한 경제적 파급효과를 불러올 것으로 예상되는 가운데, 각국은 AI 주도권을 선점하기 치열하게 경쟁 중임

• 우리나라도 AI를 국가의 핵심 성장 동력으로 보고 AI 기술 개발 및 인프라 구축을 위해  지속적으로 노력하고 있음 
- 2019년 12월 17일, 경제·사회 전반의 혁신 프로젝트로서 과학기술정보통신부를 비롯한 전 부처가 참여해서 마련한 '인공지능(AI) 국가전략'을 발표, 인공지능(AI) 강국으로 도약할 수 있도록 비전과 실행과제를 제시
- 2024년 9월 26일, 우리나라가 AI 3대 강국으로 도약할 수 있도록  국가역량 결집을 위해,  대통령이 직접 주재하고 민간 최고 전문가들이 참여하는 『국가인공지능위원회』 출범식 및 제1차 회의가 개최된 바 있음

• 미국은 강력한 AI 선도 국가로서, AI 연구 및 개발, 생성형 AI 모델, 의료 AI 등 다양한 분야에서 혁신을 주도하고 있음 
- 지난  ‘2024.9월 Tortoise Media의  발표에 따르면 ’글로벌  AI 지수‘에서 미국이  1위, 그 뒤를 이어 중국이 2위를 차지하고 있으며, 우리나라는 6위를 차지함
※  영국의 Tortoise Media는 2019년부터 매년 국가별 AI 역량을 평가하는 The Global AI Index를 발표해 옴. 이 지수는 실행(Implementation), 혁신(Innovation), 투자(Investment)의 세 가지 분석 축으로 분류된 AI 기술 개발 능력, AI 관련 인프라, AI 관련 규제 및 윤리 기준, AI 연구 개발에 대한 투자 수준, AI 인재의 양과 질 등 약122개의 지표를 바탕으로 83개국의  인공지능역량을 종합적으로 분석하여 순위를 매긴 것임 
 
□ AI 기술이 가진 사회적 영향과 잠재적인 위험을 방지하기 위해 전 세계적으로 AI 규제 관련 논의가 진행되고 있으며, 각국이 중시하는 핵심가치의 차이에 따라 정치적‧사회적 우선순위가 다르기에, AI 규제 접근 방식, 윤리적 기준, 규제 강도 등은 국가별로 차이가 있음 

• (미국) 프라이버시와 개인정보 보호를 강조하며, 주로 자율적 규제와 민간의 협력을 통해 AI 시스템의 윤리적 사용을 장려하는 방식의 유연한 규제가 이루어지고 있음 
- 자율 규제와 가이드라인을 중심으로 하고 있으나, AI가 야기하는 프라이버시나 알고리즘 편향 문제 등의 해결을 위해 연방기관 및 각 주에서 AI　규제 프레임워크를 개발하고 있으며, 현재 연방의회에 다수의 법안이 계류 중이고  일부 주는 연방정부보다 앞서 AI 규제를 강화하고 있음
- 특히, 캘리포니아 주는 2024년 9월19일, 미국 내 최초로 AI 투명성에 관한 법(California Artificial Intelligence Transparency Act, CAITA)을 통과시켰으며,2) 동 법은 2025년 1월 1일부터 발효될 예정임
- 미국의 글로벌 리더십이나 국제적인 AI 기술 표준설정에서의 영향력 등을 고려 시, 미국의 AI 규제는 전 세계적으로 강력한 영향을 미칠 것임

• (중국) 정부 주도형 규제 방식을 취하는 국가이며, 타국에 앞서 생성형 AI 서비스에 관한 법률을 제정․시행하고 있으며,3) AI 시스템의 투명성을 강조하고, AI 기업에 대해 공정하고 신뢰할 수 있는 데이터 사용 및 알고리즘을 공개하도록 요구하고 있음 
- 생성형 인공지능 서비스 관리 잠정방법 제4조는 “생성형 인공지능 서비스 제공·이용은 법령 및 행정법규를 준수하고, 사회적 도덕, 윤리를 존중하며, 다음 각 호의 사항을 준수하여야 한다. (5) 서비스 유형의 특성에 따라 생성형 인공지능 서비스 투명성을 제고하고 생성된 콘텐츠의 정확성과 신뢰성을 향상시키기 위한 효과적 조치를 취해야 한다”라고 규정 
- 이어, 2023.8.25. 중국 국가정보안전표준화기술위원회(TC260) "네트워크 보안 표준 실천 지침 - 생성 인공 지능 서비스 콘텐츠 식별 방법(网络安全标准实践指南—生成式人工智能服务内容标识方法)을 발표4), 생성된 인공지능 서비스 제공업체가 보안 관리 수준을 향상하도록 안내하는 데 사용할 수 있는 텍스트, 그림, 오디오, 비디오의 4가지 유형의 생성된 콘텐츠에 대한 콘텐츠 식별 방법을 제공하고 있음 

• (EU) 유럽연합은 안전한 AI 기술 분야의 글로벌 리더를 목표로, 인권과 핵심 가치를 최우선적으로 고려하는 강력한 규제 제제를 마련하였음5)
- 2024년 8월 1일,  책임 있는 인공 지능 개발 및 배포를 촉진하기 위한 EU AI Act가 시행되었음
- 동 법은 AI를 위험 수준에 따라 차등적으로 규제하는 위험기반 접근방식((risk-based approach)을 택하고 있으며,6) 회원국 전역에서 일관된 규제를 시행하므로 유럽 전역에서 표준화 규제가 이루어질 것임 

• (일본) 히로시마 AI 국제 원칙을 발표하여 안전하고 신뢰할 수 있는 AI 시스템 개발을 장려, 법률적 규제 대신 법적 구속력이 없는 연성규범 방식을 활용하며 기존 법을 통해 AI를 관리, AI 개발 촉진을 중시해 기업의 자율을 강조하는 정책을 추진해 옴7)
- 소프트로(soft law) 접근 방식을 택해 AI 투명성을 증진하고 있으나, 강제적인 AI 규제법 마련될 가능성이 있음8)
- 2024.2.16.시‘책임있는 AI 추진 기본법안(責任あるAI推進基本法仮)’9)을 발표, 동 법안은 생성형 AI를 포함한 AI 기술의 활용이 국민의 기본적 인권을 침해 할 위험을 억제하면서 AI에 의한 혁신을 포함한 AI의 건전한 발전을 극대화하기 위해 안전하고 신뢰할 수 있는 AI 개발과 이용을 가능하게 하는 환경을 정비하고자 함
- 동 법안은 레드 팀 테스트의 규모나 회수, 사이버보안 수준 등  체제 정비에 요구되는 구체적인 기준에 대해서는, 기술의 진보의 속도에 늦지 않도록 사업자 단체 등의 민간이 주체 로 결정해 나가는 것을 상정하고 있음10)
- 2024년 4월에 발행된 AI 비즈니스 가이드라인 1.0을 통해 기업들이 AI 개발과 관련하여 자발적으로 투명성을 확보할 것을 권장하고 있음11)
 
2 연구 범위 및 목적

□ AI 투명성의 의의 및 투명성 확보의 중요성 

• AI 투명성이란, AI 시스템의 작동 원리, 의사결정 과정, 데이터 사용 방식 등을 명확히 공개하는 것을 의미함.12) AI 기술의 투명성 확보는 데이터의 윤리적 사용과 공정한 결과의  전제이자 , 소비자의 신뢰 확보와 AI 시스템 사용 결과에 대한 책임 주체의 명확화에 기여하게 되므로, 이는 개발자, 소비자, 정책입안자 모두에게 중요한 이슈임
- AI 시스템은 복잡한 알고리즘을 바탕으로 작동하며, 사람의 개입 없이 자율적으로 결정을 내리기도 하는데, 이 과정이 불투명하다면,  AI가 잘못된 결정을 내린 경우 책임 소재 파악이 어려움
- AI 시스템의 운영 방식 공개는 책임 소재의 명확화에 도움이 될 뿐 아니라 정부 및 규제 당국의 감독을 보다 용이하게 할 수 있도록 하여 , 공정성 보장 및 개인정보 보호에 도움이 될 수 있음

□ 지식재산권 분야에서 AI 투명성의 중요성

• 생성형 AI서비스가 발전하면서 AI가 기존 지식재산권 시스템에 미치는 영향과 AI가 생성한 결과물의 소유자가 누구인지 및 AI의 지식재산권 침해 책임을 누가 질 것인지 등 다양한 법적 문제와 이에 대한 논쟁이 계속되고 있는 상황이므로, 13) 투명성 요건은  IP 분야에서도 매우 중요
- 무단 디지털 복제본의 유통이 증가하면,  저작권자의  권리 침해 문제 뿐 아니라, 유통되는 디지털콘텐츠에 대한 시민들의 불신을 야기할 수 있고 이는 종국적으로 사회적인 위협이 될 수 있음

• (특허 관련) AI 발명 과정에서 AI의 기여도와 발명자 인정 문제는 AI투명성 확보가 전제되어야 함 
- AI 발명 과정에서 자연인의 현저한 기여(Significant Contribution) 여부를 평가할 시에, AI가 사용한 알고리즘이나 데이터 셋 등 AI 발명 과정이 투명하게 공개되지 않으면 인간 발명자와 AI의 기여도를 명확히 구분할 수 없음
* 미국 특허상표청이 ’24년 2월 발표한 ‘AI-이용 발명에 관한 발명자권 지침(Inventorship guidance for AI-assisted inventions)’은 미국 연방순회항소법원(CAFC)의 DABUS 판결의 준수를 재확인하고 있으며, AI 보조 발명과 관련된 자연인이 청구된 발명에 현저한 기여(significant contribution)를 한 경우 발명자가 될 수 있다고 명시

• (저작권 관련) AI 생성물의 창작성 인정 여부와 기존 저작권 침해 여부 판단 문제는 역시 AI 투명성 확보가 필요함
- AI가 어떤 데이터를 기반으로 창작물을 생성했는지, 그리고 그 과정에서 기존 저작물의 권리를 침해했는지 여부를 판단하는 데 있어 투명성은 필수적이며, AI의  투명성이 확보되면  AI 생성 콘텐츠의 저작권 여부를 명확히 하여 창작자 권리 보호와 분쟁 감소​에 도움을 줄 수 있음14)
- AI 시스템이 학습에 사용한 데이터가 공개되지 않으면 침해를 입증하기 어렵다는 문제가 발생할 수 있으며,15) AI 시스템이 학습에 사용된 데이터의 출처와 저작권 상태를 명확히 공개하도록 함으로써 저작권 침해를 예방할 수 있을 것임 

□ 이러한 배경 하에서, 본 보고서는 AI 선도국가인 미국의 AI 투명성과 관련된 연방 및 주 정부 차원의 규제 등 미국의 AI 투명성 관련 입법 동향을 검토하여 시사점을 제시하고자 함

1) Tortoise Media, The Global AI Index 2024,  (https://www.tortoisemedia.com/intelligence/global-ai/#rankings , 2024.11.10. 최종방문)
2) Digital Democracy, SB 942: California AI Transparency Act( https://digitaldemocracy.calmatters.org/bills/ca_202320240sb942, 2024.11.10. 최종방문)
3) 「생성형 인공지능 서비스 관리 잠정 방법(生成式人工智能服务管理暂行办法)은 2023년 5월 23일 국가인터넷정보판공실 2023년 제12차 실무회의에서 심의 채택되었으며, 국가발전개혁위원회, 교육부, 과학기술부, 산업 및 정보화부, 공안부, 국가광파전시총국의 승인을 받아 2023년 8월 15일부터 시행됨.(https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm」에서 확인 가능)
4) 关于发布《网络安全标准实践指南——生成式人工智能服务内容标识方法》的通知, (https://www.tc260.org.cn/front/postDetail.html?id=20230825190345, 2024.11.10. 최종방문)
5) European Commission, 1 August 2024 News, “AI Act enters into force”( https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_en, 2024.11.10. 최종방문)
6) AI Act는 AI 시스템을 위험 수준에 따라 분류하고 각 위험 수준에 따라 차등적으로 규제하고 있으며, 특히 허용될 수 없는 위험’을 가진 AI는 금지되며, ‘고위험’ AI에 대해서는 엄격한 의무를 부과하고 있으며, ‘제한된 위험’을 지난 AI의 경우에도 정보공개 및 투명성 의무를 부과하고 있다. 보다 자세한 내용은 유계환․김윤명, 주요국의 AI 규제 동향 및 시사점-생성형 AI 서비스제공자의 책임을 중심으로, IP Focus 제2024-06호, pp.8-10 참조
7) ‘해외 주요국의 AI 규제 거버넌스 현황 및 시사점’, 한국 정보사회진흥원, 지능정보사회 법제도 이슈리포트 (2024-01), p.25.
8) 중위원의원(衆議院議員)　시오자키 아키히사(塩崎彰久) 는 “유럽, 미국, 중국이 가이드라인 중심의 연성법(soft law)에서 특정 처벌을 수반하는 경질법(hard law)의 도입으로 전환함에 따라 일본도 가능한 한 빨리 법적 거버넌스 프레임워크를 구축해야 한다”고 주장하고 있음 (https://note.com/akihisa_shiozaki/n/n4c126c27fd3d ,2024.11.10. 최종방문)
9) 시오자키 아키히사(塩崎彰久), 보도자료.2024.2.16. “「責任あるAI推進基本法（仮）」を本日公表しました”  https://akihisa-shiozaki.jp/activities/1234.html(2024.11.10. 최종방문)
10) 시오자키 아키히사(塩崎彰久) note, ( https://note.com/akihisa_shiozaki/n/n4c126c27fd3d, 2024.11.10. 최종방문)
11) AI事業者ガイドライン（第1.0版),  https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 다운로드 가능
12) EU AI Act Art.50.은 특정 AI 시스템의 제공자 및 배포자에 대한 투명성 의무(Transparency obligations for providers and deployers of certain AI systems)에 관하여 규정하고 있음 
13) AI 기술 발전의 속도가 가속화되는 가운데, 최근에는 생성형 AI기술에 따른 부작용이 조명되면서 기술 관련 법제는 다시 한 번 큰 변곡점을 맞이하며 AI 규제에 대한 논의가 거듭되고 있음.  주요국 AI 규제에 대한 개요는 유계환․김윤명,  주요국의 AI 규제 동향 및 시사점 – 생성형 AI 서비스 제공자의 책임을 중심으로, 한국지식재산연구원, IP-Focus, 제 2024-06호 (2024.04.29.)참조. 
14) https://thelawspot.com/the-legal-challenges-of-generative-ai-navigating-lawsuits-and-intellectual-property-rights/ (2024.11.10. 최종방문)
15) https://www.herbertsmithfreehills.com/insights/2024-03/the-IP-in-AI-can-AI-infringe-IP-rights (2024.11.10. 최종방문)

(이하생략)