首页 资讯频道 互联频道 智能频道 网络 数据频道 安全频道 服务器频道 存储频道

王小川:营造健康的人工智能技术普及环境

2020-06-01 10:19:05 来源 : 人民邮电报

不同产业在应用人工智能合成技术时,普遍存在现行规定不适用或应用风险不可控的问题。

立法实施分类监管,依据不同的应用场景精准施策,防止技术滥用。

加快制定行业规范和技术标准,为反制技术奠定基础。

AI技术是否安全可控、AI对个人信息和隐私权的威胁、如何防止利用AI技术实施诈骗等议题,成为当前社会热议的焦点。而相比于技术的快速发展和公众对风险的高度关注,人工智能领域的法律法规及政策标准还较为滞后,行业发展缺乏有效的引导和规制。

《新一代人工智能发展规划》提出了我国人工智能发展的“三步走”战略目标,建立人工智能技术标准、法律法规、伦理规范和政策体系在每一步中都是重要的组成部分。合成技术作为人工智能的一个分支,已经进入相对成熟的阶段。有效引导及适当规范对于促进行业长久发展和推动新技术与传统产业融合具有迫切性,也有利于为人工智能其他细分领域政策及标准的制定提供借鉴。

王小川在提案中提到,目前针对人工智能合成技术做出规定的政策都较为笼统,没有依据不同场景实施分类指导,也并未提及对技术滥用的防伪、鉴别和反制。受此影响,不同产业在应用合成技术时,普遍存在现行规定不适用或应用风险不可控的问题,成为制约新技术与传统产业融合发展的因素。AI合成技术虽然已经历一段时间的快速发展,有大量的市场参与者,但真正有效的、反映行业发展现状的技术标准,还没有确立。这导致对虚假合成音视频的防伪鉴别,无章可循。对此,王小川建议:

一是通过立法实施分类监管,依据不同的应用场景精准施策,防止技术滥用。建议通过立法形式,根据人工智能合成技术的使用场景、影响范围、可能的危害程度,鼓励各行业各领域主管部门加强研究、分类监管,打击非法利用,鼓励开发鉴别防伪技术,为人工智能技术的普及营造健康有利的环境。在传媒、金融、教育、医疗等领域,注意防范特定风险,鼓励利用合成技术增加供给、提高效率、丰富形态,不断提高监管的精细化、精准化水平。

二是加快制定行业规范和技术标准。建议由行业协会和联盟牵头,广泛联合人工智能合成领域重点企业、领先企业共同制定可行的行业规范和技术标准,建立行业参与者广泛认同的框架协议,为反制技术奠定基础。例如,对于人工智能合成技术服务提供方,在服务器安全、API接口调用、数据安全管理等方面提出限制性要求;针对合成类视频,通过技术标准,使用视频水印等方式,限定技术的输出渠道,做到非法视频的可监控、可追溯。

最近更新