【两会提案】关于加强人工智能应用宁静，促进数字经济稳步生长的提案

宣布时间 2021-03-05

1.jpg


备受关注的全国两会正在火热进行中。今天，为各人分享全国政协委员、东森平台信息技术集团股份有限公司首席执行官严望佳第二份提案。


提案二：关于加强人工智能应用宁静，促进数字经济稳步生长的提案


问题及原因分析


数字经济作为引领未来的新经济形态已成为我国高质量生长的新引擎，习近平总书记更是指出“数字经济是全球未来的生长偏向”。数据作为生产要素，依托人工智能应用将会充实展现其要素价值，促进数字经济的进一步腾飞。


在鼎力生长人工智能应用，助力数字经济生长的同时，必须坚持统筹生长与宁静，加强人工智能应用宁静，促进数字经济稳步前行。当前人工智能应用主要面临如下一些宁静问题。

1）与人工智能应用相关的数据宁静及隐私� ；の侍狻９菇ㄈ斯ぶ悄苡τ猛ǔＲ源罅渴菸�，包罗可能涉及的个人数据、企业敏感数据等。而数据的收罗、处置、计算等过程不行制止会发生数据宁静与隐私� ；の侍狻�


2）人工智能应用中算法“黑盒”应用模式的宁静隐患。当前很多人工智能应用往往直接套用现有模型，缺乏对核心算法的深入剖析，忽视其事情原理。在这些应用中，算法是不透明的“黑盒子”，很可能潜藏未知的宁静隐患。


3）人工智能应用软硬件供应链宁静问题。人工智能应用的实现包罗大量工程化事情，涉及从底层芯片到上层应用开发的一系列软硬件供应链，每一环节都可能发生宁静问题。另外，实现中可能依赖开源代码，既存在引入漏洞或后门的风险，又触及知识产权方面的问题。


4）逐渐显现的人工智能应用伦理宁静问题。在这些问题中，既有将人工智能应用于错误目的，好比屡屡发生的“大数据杀熟” ；也有应用构建过程不合理，好比算法偏见造成的决策不公 ；还有应用部署后的问题，好比决策错误引发损失时的责任认定等。


具体建议


“宁静是生长的前提，生长是宁静的保障”，为了稳步推进数字经济生长，充实发挥人工智能应用在掘客数据要素价值方面的作用，必须始终贯彻宁静生长理念，从多方面接纳有效措施加强人工智能应用宁静。具体建议如下：


1）加强人工智能应用相关的数据宁静及隐私� ；ぜ际跹芯�


人工智能应用在获取数据价值的同时也面临着数据宁静风险。传统的数据脱敏等宁静防护技术在隐藏敏感信息的同时也造成数据价值的损失。因此，在推进数据宁静相关执法完善的同时，还应加强隐私计算、宁静多方计算等前沿技术研究，在不泄露隐私与敏感信息的前提下保留数据价值并支持人工智能应用构建所需的高效计算。建议设立相关专项课题推动产学研合作开展技术研究与应用落地攻关等。


2）强化人工智能应用的透明性要求，制止“黑盒”应用


以深度神经网络为代表的新型人工智能算法模型庞大，尚缺乏严格的理论基础，其可解释性仍然是一个前沿研究课题。在核心算法原理不明的情况下构建的人工智能应用可能发生意料之外的行为，宁静风险不行控。因此，必须提高人工智能应用的透明性要求，尤其在涉及社会、人身宁静的要害领域应制止“黑盒”应用。建议制定相关执法及尺度规范，明确各领域人工智能应用的透明性要求与衡量指标等。


3）推感人工智能应用供应链宁静评估，强化自主可控要求


在如今供应链宁静事件频发的态势下，人工智能应用软硬件供应链的宁静问题应得到更多关注。因此，必须加强人工智能应用供应链宁静评估，尤其对于涉及国计民生行业中的要害信息基础设施相关的人工智能应用，在做好宁静评估的基础上还应强化自主可控要求，制止被“卡脖子”。建议规范人工智能应用供应链宁静评估机制并研究评估技术与要领，促进相关核心技术研究以实现自主可控等。此外，考虑到人工智能应用越来越多的源自开源软件领域，建议高度关注与加强评估开源供应链宁静和开源软件宁静，做好开源领域的风险管控。


4）制度与技术双轮驱动卖力任的人工智能应用


国家新一代人工智能治理专业委员会宣布的《新一代人工智能治理原则——生长卖力任的人工智能》提出了和谐友好、公正公正、宁静可控、共担责任等人工智能生长原则。这些原则的落实对于人工智能应用伦理宁静问题的应对及数字经济的久远生长具有重大意义。因此，必须从制度与技术两方面配合接纳措施促进生长卖力任的人工智能应用。建议推感人工智能治理规范的量化评测要领研究并制定相关规范制度，促进产学研协同研究打造卖力任的人工智能应用等。