如何监管生成式人工智能?征求意见稿来了

生成式人工智能服务在带来生产力巨大变革的同时,也存在算法偏见、信息泄露、内容造假等安全隐患。近日,国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》),对生成式人工智能服务进行了框架性规范。

《征求意见稿》释放了哪些信号?系好“安全带”,对生成式人工智能健康发展和规范应用有何作用?人民网“强观察”栏目记者就此采访了中国科学技术大学网络空间安全学院副院长张卫明、北京大学信息化与信息管理研究中心主任黄文彬。

既划定界限也有发展空间

生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。近来大火的ChatGPT即属于此类技术。

《征求意见稿》的公布,距离2022年11月30日对话式AI模型ChatGPT的发布不足5个月时间,如此高效出台,释放什么信号?

在张卫明看来,这种高效监管显示出国家层面对生成式人工智能的支持与重视。《征求意见稿》提出多维监管意见,强调保护,防止“滥用”,有助于国内生成式人工智能服务健康发展。“《征求意见稿》明确提出,‘国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作’,制定本办法的目的是‘促进生成式人工智能健康发展和规范应用’”。

黄文彬表示,《征求意见稿》发出了生成式人工智能需要在维护国家安全和社会稳定、保障公民和其他组织的合法权益的前提下研究发展与技术应用的信号。“这个管理办法为保护个人、国家甚至全球安全将起到重要作用。尤其是在生成式人工智能日益广泛应用的当下,人们需要足够的专业知识才能判别智能产品输出结果的真伪优劣,这些结果可能会影响个人的品德思想与行为规范。一旦出现问题,可能会对整个社会或国家产生负面影响,这种负面影响有可能超过服务提供者或用户的可控范围。”

监管措施迎头赶上

虽然生成式人工智能技术正在或即将引发生产力变革,但其产生的风险和挑战不能忽视。

比如,生成式人工智能技术会根据要求生成有说服力且有针对性的虚假信息;它还可能回答如何自杀、如何制造化学武器等可能导致严重后果的问题。诸如此类新现象,都需要监管的与时俱进。

记者梳理发现,不少国家重视生成式人工智能的监管。英国政府于3月发布了第一份人工智能白皮书,概述了人工智能治理的5项原则。当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,限制其开发公司OpenAI处理意大利用户信息,并立案调查。美国商务部近日就相关问责措施正式公开征求意见,包括新人工智能模型在发布前是否应经过认证程序。

黄文彬表示,全球范围内加强生成式人工智能的监管力度,意味着数据安全和隐私保护已经成为生成式人工智能发展的重要前提。我国选择生成式人工智能作为规制对象并积极发布《征求意见稿》,这在全世界范围内都是走在前列的。

“人工智能技术存在着较大的不确定性和不可控性,应该接受严格的安全评估,需要监管来确保这些安全措施得以实施。”张卫明说,随着更多应用落地,一些潜在的风险将被认识和暴露,《征求意见稿》只是第一步。

提前布局守住“安全底线”

防止生成式人工智能滥用,在充分发挥政府监管职能的同时,也需科技企业提前布局,发挥技术能力守住“安全底线”。

黄文彬表示,生成式人工智能只是一个工具。技术本身没有好坏之分,但应用技术时需要重点考虑智能产品情境背景的适用性、使用方式的合理性和应用目的的正确性。比如,在用户相对感觉心理孤独空虚的情景下,智能产品可以提供聊天陪伴,以舒缓用户心理为目的。然而,假如该产品提供偏颇甚至具有负面倾向性的聊天内容,可能会使用户产生自杀、暴力、歧视等问题,对个人及社会产生较大的伤害。

《征求意见稿》也提出,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息;尊重他人合法利益,防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权;禁止非法获取、披露、利用个人信息和隐私、商业秘密等。“这些规定都是为了促进人工智能技术的健康发展和规范应用。”张卫明说。

“比如虚假信息检测技术,国外已经布局,我们的安全技术专家、安全技术企业也应尽快提出相应的技术方案。”张卫明认为,再先进的科技都需要人来使用、人来控制、人来确保安全。实施更全面的人工监管,时刻关注技术的安全性,确保其不会被滥用,才能充分发挥人工智能的潜力。

新闻直通

河南省商丘市中级人民法院:健全金融解纷新模式 营造良好法治化营商环境
河南省内乡县财政局: 扎实做好财政投资评审工作
河南商丘市睢阳区:当好企业发展“三员”厚植营商环境“法治沃土”
河南信阳市浉河区:争当企业“贴心人” 服务发展“零距离”
河北成立全国首家营商环境发展促进会
信阳浉河:政务服务就近办 一枚印章管审批
信阳市召开2024年社会信用体系建设暨优化信用环境建设业务培训会
河南灵宝:开展信用宣传 优化营商环境

前沿经济

河南商丘:加快推动新能源汽车产业发展
质量至上,铸就精品工程
河南商丘:引导民营企业建立健全现代企业制度 全力推动经济高质量发展
河南商丘海关“三个聚焦”持续优化营商环境
河南商丘:以能动司法暖企助企护企 赋能营商环境再优化
河南信阳市浉河区:服务企业常态长效 持续优化营商环境
天津华为旗舰店:开启线下体验重磅升级
中国·承德2023年钒钛产业链对接大会召开

观点

汽车市场迎变局,需求推动产业加速重构
金观平:精准发力巩固消费回升态势
天然冲突基因?服饰批发市场为何与直播决裂
“智能”客服“答非所问”咋破解?
超额储蓄转化为消费须多方发力
金观平:中国经济有信心有能力行稳致远
我国首个国家植物园设立一周年 植物保护收集取得新进展
翡翠、红蓝宝,涨价幅度超黄金!值得投资吗?

访谈

河南商丘市:“三个强化”推进集团化办学 促进义务教育扩优提质
风筝传人 吕阳 |“形、意、情、趣”话传承
“零门槛”转专业 鼓励学生做自己喜欢的事
会老友、展信心 跨国企业“掌门人”密集访沪
云南省沧源县杨红军:留在大山深处 坚守三尺讲台
海尔周云杰:在不确定中成就确定的力量
格力电器董明珠:消费升级带来发展底气
百度李彦宏:把信心传递给每一个人

施政方略

河南省商丘睢县:以“三变”为助力,当好群众“贴心人”
河南永城:身入企业、心入项目,打造警务服务新模式
河南省民权县法院积极助力改善营商环境
河南省商丘市:优化营商环境,助力民企招聘
河南商丘:强化“数据赋能” 稳步推进“智慧医保”建设
河南省信阳市浉河区商工局打出“党建+业务”组合拳
河南省洛阳市栾川县:务实履职推进高质量“检察护企”活动
河南商丘:多措并举 深入推进建设工程城建档案验收工作