我国为训练生成式人工智能模型制定了更严格的规则
更新时间:2023-12-06 16:09:53 •阅读 0
我国发布了针对提供生成人工智能(AI)服务的公司的安全法规草案,其中包括对用于人工智能模型训练的数据源的限制。
10 月 11 日星期三,国家信息安全标准化委员会发布了拟议的法规,该委员会由国家互联网信息办公室(CAC)、工业和信息化部以及执法机构的代表组成。
生成式人工智能(Generative AI),如OpenAI 的 ChatGPT 的成就,通过分析历史数据获得执行任务的能力,并基于这种训练生成新的内容,例如文本和图像。
该委员会建议对用于训练可公开访问的生成人工智能模型的内容进行安全评估。超过违法有害信息5%的内容将被列入黑名单。该类别包括宣扬恐怖主义、暴力、颠覆社会主义制度、损害国家声誉以及破坏民族凝聚力和社会稳定行为的内容。
条例草案还强调,中国互联网上受审查的数据不应作为这些模型的培训材料。这一进展是在监管机构批准包括著名搜索引擎百度在内的多家中国科技公司向公众推出其人工智能驱动的生成式聊天机器人之后一个多月发生的。
自 4 月份以来,CAC 一直要求企业在向公众推出基于人工智能的生成服务之前向监管机构提供安全评估。7 月,网络空间监管机构发布了一套管理这些服务的指导方针,行业分析师指出,与 4 月份最初草案中提出的措施相比,这些指导方针的负担要轻得多。
最近公布的安全规定草案要求参与培训这些人工智能模型的组织必须获得个人的明确同意,这些个人的个人数据(包括生物识别信息)用于培训。此外,该指南还包括有关防止知识产权相关侵权行为的全面说明。
世界各国正在努力建立这项技术的监管框架。我国将人工智能视为渴望与美国竞争的领域,并制定了到2030年成为该领域全球领导者的雄心。