AI，千万不要停下来？

近几个月，人工智能（AI）的“狂飙”式发展，已从多个角度改变了人们的生活方式，创造了诸多新的机遇，却也引发了一系列变局。很多人选择主动拥抱，尤其它在制造业、医疗、金融、教育等诸多领域蕴含的无限可能，颇有一种未来已至的味道。

但也有很多人保持起十分的警惕，担心它创造的生产力提升，会带来生产关系的颠覆式改变，引发社会动荡。比如在游戏行业，AI绘画浪潮的兴起，就让很多从事美术业务的人感觉到了危机。

另外，很多民众对于AI是否可控一事也心存疑虑，甚至在担心当AI发展到一定程度，是否会与人类完成一次主仆间的“身份互换”。这种忧患意识在海外多国体现得更加明显，欧洲多国和加拿大相继展开对ChatGPT的监管，三星、浦项制铁等企业更是严禁使用ChatGPT。

虽然目前，AI引发的诸多乱象浮于表面，但却值得多方重视，恶意P图、隐私侵犯、算法歧视等问题正在成为社会的不稳定音符，引得无数人提心吊胆。

为促进生成式人工智能技术健康发展和规范应用，近日，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规，起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。

《管理办法》共有二十一条，从其中表述能够看出，网信办对于产业健康发展持支持态度，第三条明确表示，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

关于服务提供者准入资格方面，《管理办法》第六条规定，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》于网信办和公安部在2018年11月发布，旨在维护网上信息安全、秩序稳定，防范谣言和虚假信息等违法信息传播带来危害。用户真实身份核验以及注册信息留存措施，个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施等均是其重点评估内容。

另外，《管理办法》对“提供生成式人工智能产品或服务”与“生成式人工智能产品的预训练、优化训练数据”等内容也提出了要求。

近两天，人工智能板块呈波动性上升，人工智能概念股在4月10日出现回调，多只个股跌幅超10%，云从科技、科大讯飞等更是跌停，并引发了游戏股的下跌，不过人工智能概念股在次日迎来反弹，首都在线、每日互动等涨超10%。《管理办法》的起草，则是带动了网络安全相关概念股相继走强。

目前，国内AI仍处于大步向前的态势，百度推出的“文心一言”余热未消，华为、商汤科技和阿里就在4月8日-11日这四天内，分别将自家的布局“盘古”、“日日新”、“通义千问”拿了出来。

对于游戏行业，AI能够创造的改变始终在被夸大，却也在被低估，诸多项目在美术成本上的简化，所反映的其实是生产成本的一种优化，而这只是降本增效的一角。

此前风投公司Andreessen Horowitz曾坦言，生成式人工智能出现后，受到影响最大的就是游戏行业。它的出现意味着制作游戏更容易了，换来的可能是生产力的大幅解放，以及个人能力的直接提升。

很多人也在寻找这一领域的可能，比如英特尔首席架构师Raja Koduri就在3月底离职，并成立了一家专注于游戏、媒体和娱乐的生成式AI初创公司。

《经济学人》就曾在报道中写到，想想最近的《荒野大镖客2》，倘若有AI去辅助其工作，它与玩家见面的时间会不会大幅缩短。这也是游戏厂商在面对AI时的另一种态度，即相较于“降本”，更看重“增效”，深入到游戏生产管线的多个环节，拿开那只拧螺丝的手，换上电动螺丝刀。

但从目前来看，玩家对于AI还是存在一定敌意的，在公布AI工具Ghostwriter后，育碧就曾思考过AI写的文本内容是否可靠。在育碧看来，Ghostwriter可能会缺乏些许灵感，因为文案策划在借助它生成内容时，其角色更像是一位批改作业的老师，他会调教、引导、监督这位学生写出完美的内容，但文案策划也会像一个Ghost，在AI的引导下找到自我满足，无数本作业与无数次批改，正在让头脑风暴隐遁于心灵深处。

只是说完这些话后，育碧再度迈开了发展Ghostwriter的步伐，毕竟告别AI，基本就等于在开放世界游戏不断内卷的当下，缴了自己的械。

或许是AI本身的万能性和延展性，让它看上去兼容并包，却也带来了极为严重的两极分化，无数人又爱又怕，想要拥抱，却又害怕被刺到。时代的滚滚洪流汹涌而来，狂飙不止，不想被淹没，就只有主动提速，无论个人，还是国家。

当然，AI造物最后能否得到玩家的接受，至少目前人们的态度仍在分化，还无法凝聚成一个有影响力的声音，但这个矛盾却在积蓄，能否被引爆，静待时间来解答。

以下为《生成式人工智能服务管理办法（征求意见稿）》原文

第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

第二条 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。

本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：

（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

（一）符合《中华人民共和国网络安全法》等法律法规的要求；

（二）不含有侵犯知识产权的内容；

（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；

（四）能够保证数据的真实性、准确性、客观性、多样性；

（五）国家网信部门关于生成式人工智能服务的其他监管要求。

第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。

第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。

第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。

第十三条 提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。

第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。

第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。

第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。

法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第二十一条 本办法自2023年 月 日起实施。