生成式人工智能服务管理暂行办法 생성형 인공지능 서비스 관리 판법
2023年7月10日 2023년 7월 10일
国家互联网信息办公室、中华人民共 和国国家发展和改革委员会、中华人 民共和国教育部、中华人民 共和国科 学技术部、中华人民共和国工业和信 息化部、中华人民共和国公安部、国家广播电视总局令（第15号） 《生成式人工智能服务管理暂行办法》已经2 023年5月23日国家互联网信息办公室2023年 第12 次室务会会议审议通过，并经国家发展 和改革委员会、教育部、科学技术部、工业和 信息化部、公安部、国家广播电视总局同意， 现予公布，自2023年8月15日起施行。 국가인터넷정보판공실, 중화인민공화 국 국가발전개혁위원회, 중화인민공 화국 교육부, 중화인민공화국 과학기 술부, 중화인민공화국 공업, 정보화 부, 중화인민공화국 공안부, 국가광파전시총국령(제15호) 「 생성형 인공지능 서비스 관리 판법 」 은 2023년 5월 23일 국가인터넷정보판공실 2023년 제12차 실무회의에서 심의 채택되 었으며 국가발전개혁위원회, 교육부, 과학 기술부, 산업 및 정보화부, 공안부, 국가광 파전시총국의 승인을 받아 공포하는 바이며 2023년 8월 15일부터 시행한다.
为了促进生成式人工智能健康 发展和规范应 用，维护国家安全和社会公共利益，保护公 民、法人和其他组织的合法权益，根据《中华 人民共和国网络安全法》、《中华人民共和国 数据安全 法》、《中华人民共和国个人信息 保护法》、《中华人民共和国科学技术进步 法》等法律、行政法规，制定本办法。
利用生成式人工智能技术向中华人民共和国境 内公众提供生成文本、图片、音频、视频等内 容的服务（以下称生成式人工智能服务），适 用本办法。 国家对利用生成式人工智能服 务从事新闻出 版、影视制作、文艺创作等活动另有规定的， 从其规 定。 行业组织、企业、教育和科研机构、公共文化 机构、有关专业机构等研发、应用生成式人工 智能 技术，未向境内公众提供生成式人工智 能服务的，不适用本办法的规定。
国家坚持发展和安全并重、促进创新和依法治 理相结合的原则，采取有效措施鼓励生成式人 工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
提供和使用生成式人工智能服务，应当遵守法 律、行政法规，尊重社会公德和伦理道德，遵 守以下规定：
鼓励生成式人工智能技术在各行业、各领域的 创新应用，生成积极健康、向上向善的优质内 容，探索优化应用场景，构建应用生态体系。 支持行业组织、企业、教育和科研机构、公共 文化机构、有关专业机构等在生成式人工智能 技术 创新、数据资源建设、转化应用、风险 防范等方面开展协作。
鼓励生成式人工智能算法、框架、芯片及配套 软件平台等基础技术的自主创新，平等互利开 展国际交流与合作，参与生成式人工智能相关 国际规则制定。 推动生成式人工智能基础设施和公共训练数据 资源平台建设。促进算力资源协同共享，提升 算力 资源利用效能。推动公共数据分类分级 有序开放，扩展高质量的公共训练数据资源。 鼓励采用安全可 信的芯片、软件、工具、算 力和数据资源。
生成式人工智能服务提供者（以下称提供者） 应当依法开展预训练、优化训练等训练数 据 处理活动，遵守以下规定：
在生成式人工智能技术研发过程中进行数据标 注的，提供者应当制定符合本 办法要求的清 晰、具体、可操作的标注规则；开展数据标注 质量评估，抽样核验标注内容的准确性；对标 注人员 进行必要培训，提升尊法守法意识， 监督指导标注人员规范开展标注工作。
提供者应当依法承担网络信息内容生产者责 任，履行网络信息安全义务。涉及个人信息 的，依法承担个人信息处理者责任，履行个人 信息保护义务。 提供者应当与注册其服务的生成式人工智能服 务使用者（以下称使用者）签订服务协议，明 确双 方权利义务。
提供者应当明确并公开其服务的适用人群、场 合、用途，指导使用者科学理性认识和依法使 用生成式人工智能技术，采取有效措施防范未 成年人用户过度依赖或者沉迷生成式人工智能 服务。
提供者对使用者的输入信息和使用记录应当依 法履行保护义务，不得收集非必要个人信息， 不得非法留存能够识别使用者身份的输入信息 和使用记录，不得非法向他人提供使用者的输 入 信息和使用记录。 提供者应当依法及时受理和处理个人关于查 阅、复制、更正、补充、删除其个人信息等的 请求。
提供者应当按照《互联网信息服务深度合成管 理规定》对图片、视频等生成内容进行标识。
提供者应当在其服务过程中，提供安全、稳 定、持续的服务，保障用户正常使用。
提供者发现违法内容的，应当及时采取停止生 成、停止传输、消除等处置措施，采取模型优 化训练等措施进行整改，并向有关主管部门报 告。 提供者发现使用者利用生成式人工智能服务从 事违法活动的，应当依法依约采取警示、限制 功能、暂停或者终止向其提供服 务等处置措 施，保存有关记录，并向有关主管部门报告。
提供者应当建立健全投诉、举报机制，设置便 捷的投诉、举报入口，公布处理流程和反馈时 限，及时受理、处理公众投诉举报并反馈处理 结果。
网信、发展改革、教育、科技、工 业和信息 化、公安、广播电视、新闻出版等部门，依据 各自职责依法加强对生成式人工智能服务的管 理。 国家有关主管部门针对生成式人工智能技术特 点及其在有关行业和领域的服务应用，完善与 创新 发展相适应的科学监管方式，制定相应 的分类分级监管规则或者指引。
提供具有舆论属性或者社会动员能力的生成式 人工智能服务的，应当按照国家有关规定开展 安全评估，并按照《互联网信息服务算法推荐 管理规定》履行算法备案和变更、注销备案手 续。
使用者发现生成式人工智能服务不符合法律、 行政法规和本办法规定的，有权向有关主管部 门投诉、举报。
有关主管部门依据职责对生成式人工智能服务 开展监督检查，提供者应当依法予以配合，按 要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的 技术、数据等支持和协助。 参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。
对来源于中华人民共和国境外向境内提供生成 式人工智能服务不符合法律、行政法规和本办 法规定的，国家网信部门应当通知有关机构采 取技术措施和其他必要措施予以处置。
提供者违反本办法规定的，由有关主管部门依 照《中华人民共和国网络安全法》、《中华人 民共和国数据安全法》、《中华人民共和国个 人信息保护 法》、《中华人民共和国科学技术 进 步法》等法律、行政法 规 的 规 定予以处 罚；法律、行政法规没有规定的，由有关主管 部门依据职责 予以警告、通报批评，责令限 期改正；拒不改正或者情节严重的，责令暂停 提供相关服务。 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
本办法下列用语的含义是：
法律、行政法规规定提供生成式人工智能服务 应当取得相关行政许可的，提供者应当依法取 得许可。 外商投资生成式人工智能服务，应当符合外商 投资相关法律、行政法规的规定。
本办法自2023年8月15日起施行。
生成式人工智能服务管理暂行办法 생성형 인공지능 서비스 관리 판법
2023年7月10日 2023년 7월 10일
国家互联网信息办公室、中华人民共 和国国家发展和改革委员会、中华人 民共和国教育部、中华人民 共和国科 学技术部、中华人民共和国工业和信 息化部、中华人民共和国公安部、国家广播电视总局令（第15号） 《生成式人工智能服务管理暂行办法》已经2 023年5月23日国家互联网信息办公室2023年 第12 次室务会会议审议通过，并经国家发展 和改革委员会、教育部、科学技术部、工业和 信息化部、公安部、国家广播电视总局同意， 现予公布，自2023年8月15日起施行。 국가인터넷정보판공실, 중화인민공화 국 국가발전개혁위원회, 중화인민공 화국 교육부, 중화인민공화국 과학기 술부, 중화인민공화국 공업, 정보화 부, 중화인민공화국 공안부, 국가광파전시총국령(제15호) 「 생성형 인공지능 서비스 관리 판법 」 은 2023년 5월 23일 국가인터넷정보판공실 2023년 제12차 실무회의에서 심의 채택되 었으며 국가발전개혁위원회, 교육부, 과학 기술부, 산업 및 정보화부, 공안부, 국가광 파전시총국의 승인을 받아 공포하는 바이며 2023년 8월 15일부터 시행한다.
생성형 인공지능의 건전한 발전과 규범의 적용을 추진하고 국가안보와 사회 공익을 수호하며 공민, 법인 및 그 밖의 조직의 정 당한 권리를 보호하기 위하여 「중화인민공 화국 사이버보안법」, 「중화인민공화국 데 이터 보안법」, 「중화인민공화국 개인정보 보호법」, 「중화인민공화국 과학기술 진보 법」 등 법률, 행정법규에 따라 이 방법을 제정한다.
생성형 인공지능 기술을 이용하여 중화인민 공화국 역내 대중에게 텍스트, 이미지, 오 디오, 비디오 등 콘텐츠를 생성하는 서비스 (이하 "생성형 인공지능 서비스")에는 이 방법을 적용한다. 국가가 생성형 인공지능을 활용해 뉴스 및 출판, 영화 및 텔레비전 제작, 예술 창작 등의 활동을 수행하는 데 별도 규정이 있는 경우 해당 규정을 따른다. 산업 조직, 기업, 교육 및 과학 연구기관, 공공 문화기관, 관련 전문 기관 등 생성형 인공지능 기술을 연구 개발 및 적용하고 역 내 대중에게 생성형 인공지능 서비스를 제 공하지 않는 경우 이 방법의 규정은 적용되 지 아니한다.
국가는 발전과 보안을 모두 중시하고 혁신 촉진과 법에 따른 거버넌스를 결합하는 원 칙을 준수하며 효과적인 조치를 하여 생성 형 인공지능 혁신과 발전을 장려하며 생성형 인공지능 서비스에 대한 포괄적이고 신 중한 분류 및 등급 감독을 실행한다.
생성형 인공지능 서비스의 제공 및 사용은 법률과 행정법규를 준수하고 사회 공중도덕 과 윤리도덕과 다음 규정을 준수하여야 한 다.
생성형 인공지능 기술이 다양한 산업과 분 야에서 혁신적으로 적용될 수 있도록 장려 하고 긍정적이고 선(善)을 지향하는 우수한 콘텐츠를 생성하며 적용 시나리오를 탐색, 최적화하며 적용 생태계를 구축한다. 산업 조직, 기업, 교육 및 연구기관, 공공 문화 기관, 관련 전문 기관 등이 생성형 인 공지능 기술혁신, 데이터 자원 구축, 변환 적용, 위험 예방 등 측면에서 협력하도록 지원한다.
생성형 인공지능 알고리즘, 프레임워크, 칩 및 지원 소프트웨어 플랫폼과 같은 기초 기 술의 자주적 혁신을 장려하고 평등하며 호 혜적인 국제 교류 및 협력을 수행하며 생성 형 인공지능 관련 국제 규칙 제정에 참여한 다. 생성형 인공지능 인프라 및 공공 교육 데이 터 자원 플랫폼 구축을 촉진한다. 해시레이 트 자원의 협력 공유를 촉진하고 해시레이 트 자원의 이용 효율을 향상시킨다. 공공 데이터 분류, 등급의 질서 있는 개방을 추 진하며 고품질의 공공 훈련 데이터 자원을 확장한다. 안전하고 신뢰할 수 있는 칩, 소 프트웨어, 도구, 해시레이트 및 데이터 자 원의 사용을 장려한다.
생성형 인공지능 서비스 제공자(이하 "제공 자")는 법에 따라 사전 훈련, 최적화 훈련 과 같은 훈련 데이터 처리 활동을 수행하여 야 하고 다음 규정을 준수하여야 한다.
생성형 인공지능 기술의 연구 개발 과정에 서 데이터 라벨링을 수행하는 경우, 제공자 는 이 방법의 요건에 맞는 명확하고 구체적 이며 활용 가능한 라벨링 규칙을 제정하며 데이터 라벨링 품질평가를 수행하고 라벨링 내용의 정확성을 샘플링을 통해 검증하며 라벨링 담당자에게 필요한 교육을 제공, 준법 의식을 제고하며 라벨링 담당자를 감독, 지도하여 라벨링 작업을 규범에 맞게 수행 하도록 한다.
제공자는 법에 따라 사이버 정보 콘텐츠 생 산자의 책임을 지고 사이버 정보의 보안 의 무를 이행하여야 한다. 개인정보에 관련된 경우, 법에 따라 개인정보 처리자의 책임을 지고 개인정보 보호의 의무를 이행한다. 제공자는 서비스를 등록한 생성형 인공지능 서비스 사용자(이하, "사용자")와 서비스계 약을 체결하고 양 당사자의 권리·의무를 명 확히 하여야 한다.
제공자는 서비스의 적용 그룹, 상황, 용도 를 명시 및 공개하고 사용자가 생성형 인공 지능 기술을 과학적이고 합리적으로 인식하 며 법에 따라 사용하도록 지도하며 미성년 자 사용자가 생성형 인공지능 서비스에 과 도하게 의존하거나 이에 중독되는 것을 방 지하기 위하여 효과적인 조치를 하여야 한 다.
제공자는 사용자의 입력 정보와 사용 기록 에 대하여 법에 따라 보호 의무를 이행하여 야 하며 불필요한 개인정보를 수집해서는 아니 되고, 사용자의 신분을 식별할 수 있 는 입력정보와 사용기록을 불법으로 보관해 서는 아니 되며 사용자의 입력 정보와 사용기록을 다른 사람에게 불법으로 제공해서는 아니 된다. 제공자는 개인정보의 열람, 복제, 정정, 보 완, 삭제에 관한 개인의 요청을 법에 따라 제때에 접수 및 처리하여야 한다.
제공자는 「 인터넷 정보서비스의 딥페이크 관리 규정」에 따라 이미지, 비디오 등 생 성 콘텐츠에 대해 표시하여야 한다.
제공자는 서비스 과정에서 안전하고 안정적 이며 지속적인 서비스를 제공하여 사용자의 정상적인 사용을 보장하여야 한다.
제공자는 불법 콘텐츠를 발견한 경우 즉시 생성, 전송 중지, 제거 등의 조치를 하고 모델 최적화 훈련 등 조치를 하여 시정한 후 관련 주무부처에 보고한다. 제공자는 사용자가 생성형 인공지능 서비스 를 사용하여 불법 활동을 하는 것을 발견한 경우, 법에 따라 경고, 기능 제한, 서비스 제공 잠정 중단 또는 종료와 같은 조치를 하고 관련 기록을 보관하며 관련 주무부처 에 보고하여야 한다.
제공자는 민원 제기 및 신고 체제를 구축, 완비하고 편리한 민원 제기 및 신고 창구를 설치하며 처리 절차 및 응답의견 기한을 게 시하여 대중의 민원 제기 및 신고를 제때에 접수, 처리하며 처리 결과를 알려야 한다.
인터넷 정보, 발전 개혁, 교육, 과학기술, 산업 및 정보화, 공안, 라디오 및 텔레비전, 뉴스 및 출판 등의 부처는 책임에 따라 법 에 근거해 생성형 인공지능 서비스 관리를 강화한다. 국가의 관련 주무부처는 생성형 인공지능 기술의 특성 및 관련 산업, 분야의 서비스 적용에 대하여 혁신 발전에 적합한 과학적 감독 방식을 개선하고 해당 분류 및 등급의 감독 규칙 또는 지침을 제정한다.
여론 속성 또는 사회적 동원력을 갖춘 생성 형 인공지능 서비스를 제공하는 경우, 관련 국가 규정에 따라 보안 평가를 수행하고 「 인터넷 정보서비스 알고리즘 추천 관리 규정 」 에 따라 알고리즘 등록, 변경, 등록 취소 절차를 수행하여야 한다.
사용자는 생성형 인공지능 서비스가 법률, 행정법규 및 이 방법의 규정에 부합하지 않 음을 발견한 경우 관련 주무부처에 민원을 제기하거나 신고할 권리가 있다.
관련 주무부처는 직무에 따라 생성형 인공 지능 서비스를 감독·검사하며 제공자는 법 에 따라 협조하고 요구에 따라 훈련 데이터의 출처, 규모, 유형, 라벨링 규칙, 알고리 즘·메커니즘 등에 대해 설명하며 필요한 기 술, 데이터 등 지원과 협조를 제공하여야 한다. 생성형 인공지능 서비스 보안 평가 및 감독 ·검사에 참여하는 관련 기관 및 담당자는 직무 수행 중 알게 된 국가 비밀, 상업 비 밀, 개인 사생활 및 개인정보를 법에 따라 기밀로 하고 다른 사람에게 누설하거나 불 법으로 제공해서는 아니 된다.
중화인민공화국 외부에서 내부로 제공되는 생성형 인공지능 서비스가 법률, 행정법규 및 이 방법의 규정에 부합하지 않는 경우, 국가 인터넷 정보 부처는 관련 기관이 기술 적 조치 및 그 밖의 필요한 조치를 하도록 통지하여야 한다.
제공자가 이 조치의 규정을 위반한 경우, 관련 주무부처는 「중화인민공화국 사이버 보안법 」 , 「 중화인민공화국 데이터 보안 법」, 「 중화인민공화국 개인정보 보호 법」, 「중화인민공화국 과학기술 진보법」 등 법률, 행정법규의 규정에 따라 처벌한 다. 법률, 행정법규에 규정이 없는 경우 관 련 주무부처는 직무에 따라 경고, 통보비평 을 하고 기한 내에 시정하도록 명령한다. 시정을 거부하거나 상황이 엄중한 경우 관 련 서비스 제공을 잠정 중단하도록 명령한 다. 치안 관리를 위반한 경우, 법에 따라 치안 관리 처벌을 하고 범죄가 성립된 경우, 법에 따라 형사책임을 묻는다.
이 조치에서 사용하는 용어의 뜻은 다음과 같다.
법률, 행정법규에서 생성형 인공지능 서비 스 제공을 위한 관련 행정 허가를 요구하는 경우, 제공자는 법에 따라 허가를 받아야 한다. 외국인 투자 생성형 인공지능 서비스는 외 국인 투자 관련 법률, 행정법규의 규정을 준수하여야 한다.
이 방법은 2023년 8월 15일부터 시행한다.