ChatGPT 已成为全球最热门的话题之一。 这样的人工智能系统被称为“生成式人工智能”，它可以根据算法、模型和规则生成文本、图像、语音、媒体、代码和其他材料，以响应用户输入或需要的内容。 生成式人工智能可能会被应用在各种场景中，并推动一些行业的变革，因此备受关注。 针对生成式人工智能的发展，国家互联网信息办公室（以下简称“网信办”）印发《生成式人工智能服务管理办法（征求意见稿）》 [1]11 年 2023 月 XNUMX 日（“生成人工智能服务管理办法（征求意见稿）”，以下简称“管理办法草案”）。
1.重点
《管理办法》草案共21条，涵盖以下重点事项。
1）适用范围：域外管辖
本办法适用于在中国境内创新或利用生成式人工智能并提供服务的任何人（提供者）（第二条）。 这意味着《征求意见稿》具有域外效力。 这种域外效力的依据是效果主义和客观属地主义。 一方面，Generative AI生成的内容可能会影响中国的社会秩序或其他关系，从而在中国产生影响。 另一方面，Generative AI 将被在领土内的用户使用，Generative AI 的运行位于领土内，这提供了客观领土学说的基础。
2) 提供者的义务
根据《征求意见稿》，服务提供者承担以下责任。
（1）内容
提供商应对人工智能生成的内容负责。 内容应合法、准确、真实。 它不应该是侵权的、歧视性的、虚假的、反社会的、反政府的、反国家的、恐怖主义的、极端的、暴力的、色情的以及扰乱经济和社会秩序的。 提供者应主动或应用户要求删除不当内容，改进或优化AI。
(2) 用途
第一，供应商应遵守商业道德，不得实施不正当竞争行为。 其次，提供商不得侵犯他人的权利，包括知识产权、个人信息、隐私和商业秘密。 第三，提供商不应歧视性地生成内容。
(3) 创新
《管理办法》还对生成式人工智能的创新提出了要求。 提供者应对投稿者制定明确、具体、可操作的说明，对投稿者进行培训，一旦需要人工标注，应确保内容的正确性。
(4) 与当局的合作
提供者应积极配合法规或行政代理人要求的行政管理。 首先，提供商应根据互联网服务相关规定对生成式人工智能进行注册或安全评估报告。 其次，提供者应根据Deepfake服务规范对生成的图像和视频进行标记。[2] 第三，提供商应应行政代理人的要求提供可能影响用户选择的基本信息。
(5) 用户管理
提供商应管理生成式 AI 的用户。 首先，提供商应要求用户提供身份信息。 其次，提供商应明确和宣传其服务对象，并采取措施防止用户沉迷于人工智能提供的内容。 第三，提供商应指导用户适当使用生成内容，如果用户非法或不道德地使用人工智能，则应暂时或永久禁止用户。
2。 评论
1) 积极影响
《管理办法》征求意见稿是中国对生成式人工智能趋势的快速反应。 它是对人工智能监管框架的重要补充。 它有几个积极的影响。 首先，它涵盖了生成式人工智能带来的大部分法律问题，包括人工智能的责任归属、知识产权威胁、有害内容、不正当竞争和侵犯隐私等，并提供对人工智能的全生命周期监管。生成人工智能，从创新到利用。 第二，《管理办法》第三条明确表示政府支持和鼓励人工智能的创新、应用和国际合作，表明了我国对人工智能发展的支持态度。 第三，《管理办法》是人工智能分类监管框架的重要组成部分，该框架由针对不同类别人工智能的若干法规组成。
2) 法律地位
行政办法草案不是法律，因为它是由 CAC 发布的，
国务院办公厅． 根据中国立法法，法律只能由全国人民代表大会制定。 因此，网信办只能发布在我国立法层次体系中处于较低层次、不能与法律相抵触的行政规章或规范性文件。 但是，这种法律地位在一定程度上保证了灵活性和效率。 一方面，与法律相比，制定或修改行政规章或规范性文件的要求不那么严格。 另一方面，各行政代理人在认为必要时，可以在各自的行政权限范围内发布规范性文件，保证了对监管需求的快速反应。
3) 风险
需要注意的是，《征求意见稿》还可能带来一些其他风险。 虽然第3条宣示了政府的支持态度，但不得不承认的是，该行政法规显着增加了Generative AI Providers的负担。 生成式 AI 的技术远未成熟。 因此，供应商是否有能力履行《征求意见稿》规定的所有义务值得怀疑，或者至少会增加合规成本。 例如，《管理办法》征求意见稿要求提供者防范虚假内容。 但从技术上讲，现阶段的内容很难做到100%真实。 供应商履行此类义务可能会花费很多。 因此，高合规负担可能在一定程度上阻碍了生成式人工智能的发展和创新。
综上所述，《征求意见稿》体现了中国对人工智能监管的积极态度。 它对拟提供生成式人工智能服务的实体提出了较高的合规要求。 这种态度有助于 Generative AI 的健康发展，尽管可能会担心合规成本过高。 总体而言，《征求意见稿》的效果还是值得观察的。
[1] 参见 http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm。
[2] 中国国家互联网信息办公室、中国工业和信息化部以及中国公安部，《深度伪造服务条例》第 12 号条例。
封面照片作者： 星云群 在Unsplash
参与专家： 林济东
