生成式人工智能 有规范才有好未来
来源: 经济日报 作者: 发布时间: 2023-04-17

近日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,引起业界关注。生成式人工智能,即AIGC,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。近来火爆出圈的ChatGPT等应用就属于AIGC范畴。对希望参与AIGC大潮的企业来说,征求意见稿透露了哪些玄机?

首先是明确了发展前景。AIGC争议颇多。人工智能生成的各种假新闻照片在网上流传,人们一边惊诧于AIGC技术的进步之快,一边担心这些过于逼真的假照片假视频会不会让人真假难辨。ChatGPT用户数据泄露事件也一再发生,部分国家已经对ChatGPT数据安全问题进行调查,甚至下达使用禁令。但AlGC技术具备广泛应用前景和发展潜力,禁用不是问题最好的解决方案,一禁了之更像是泼洗澡水的时候连孩子一起倒掉。

对AIGC这样快速发展的新技术新应用来说,各类风险显而易见,入局企业尤其担心重金投入后遭遇政策风险导致投资损失。首个AIGC管理办法公开征求意见,本身就是一个重大信号,说明我国非常重视此轮AI发展所引领的科技变革,期待促进AIGC技术的健康发展。

其次是明确了合规重点。目前中国市场上多家科技巨头企业正相继入局AIGC,选择此时发出规范管理的信号,体现了政府提前研判介入监管、防患于未然的工作思路,有助于企业及早构建合规解决方案、布局必要的合规机制和工具,可以有效降低内容生成领域“先污染后治理”的社会风险。

征求意见稿的具体细则,体现了我国从权益保护、数据治理、内容治理等多个维度进行综合治理的初衷。细则强调了安全评估和算法备案的前提性和必要性,明确了数据安全和个人信息保护的责任承担方和相关处罚措施,也为新技术开发保留了必要的容错空间。比如出现不合规的生成内容时不会一棒子打死,平台除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止问题再次发生。有了这些明确规范,产品开发方就可以探索在规范的框架下设计更加安全和可解释的AIGC,从技术层面降低潜在违规风险。

此外,征求意见稿中也明确了相关法律权益。比如,AIGC令人惊叹的内容生成能力是被海量人类作品“喂养”出来的,过去这些训练数据很多都未经原创者授权,侵犯了他们的知识产权。征求意见稿要求提供者对AIGC产品的预训练数据、优化训练数据来源的合法性负责,明确了版权方内容资源在AIGC产品训练中的法律权益,显然是对版权方的重大利好,IP及内容、数据产业将获得分享AIGC红利的机遇。

当然,与新技术开发几乎同步的监管规范,必将随着技术发展和时代变迁而更新调整。此次AIGC管理办法的征求意见稿是开局的第一步,它将促进AIGC产业健康可持续发展。无规矩不成方圆,AIGC有规范才有美好未来。

地方动态

中国信息协会第四届信息技术服务业应用技能大赛新闻发布会在京召开

务虚求实定思路 凝心聚力谋新篇|中国信息协会召开分支机构工作座谈会

《中国城市产业营商环境发展报告2022》正式发布

2023年第十七届iCAN大学生创新创业大赛全国总决赛在北京奥林匹克塔成功举行

  • 协会要闻
  • 通知公告