首页 智能 正文

人工智能的发展不能忽视安全

2020-12-22 13:55   来源: 互联网    阅读次数:3204

新一轮全球科技革命和产业变革方兴未艾,人工智能作为新一轮科技革命和工业变革的核心动力之一,近年来在金融、电子商务、医疗等领域得到广泛应用。


除了风水之外,人工智能行业也有隐忧:随着全球人工智能建设和应用的加快,人工智能基础设施、设计、研发和综合应用的安全风险日益突出。由中国信息通信研究所与瑞雷智慧、百度、腾讯等单位共同编写的"人工智能安全框架"(2020)显示,随着深度伪造技术的开放源代码和应用应用的增加,违法分子利用深伪造技术制作侵犯个人肖像权、名誉权和隐私权的假视频并不少见。截至2019年12月,在网上流传的深度伪造视频中,假色情内容占96%。


image.png


这只是冰山一角。指纹和面部识别留下的生物特征信息,自动驾驶仪留下的个人跟踪记录,手机应用程序保存的个人隐私数据,医院保存的诊断和治疗记录。人工智能的运行已经进入了人们工作生活的许多场景,用户的各种行为都被记录下来并保存为数据。由此产生的数据泄漏、数据伪造、算法瓶颈、隐私安全、伦理困境等问题逐渐显现出来。据报道,今年7月,非法分子在电子商务平台上出售面部信息,并以50美分的低价出售。盗取的面部信息被用于虚假登记、电信网络欺诈和其他非法犯罪活动。


人工智能安全框架(2020)"尴尬地表明,现阶段人工智能企业以技术研发和产品操作为主,对人工智能安全投入相对较少,基础薄弱,目前人工智能安全技术大多处于学术研究和少量实验试验阶段,尚未形成适用于各种人工智能应用的成熟的安全产品和服务体系。


人工智能产业的健康有序发展,安全是形势的重要保证,也是形势的需要,也是一些技术着陆必不可少的前提。没有安全谈论人工智能,它就像一个没有水源、没有基础的木头。实践也证明,当前人工智能安全需求与企业安全投资和人工智能安全产品服务不足之间的矛盾正成为制约人工智能产业长期发展的瓶颈。


在发展困境与时代机遇重叠的关键时刻,业界期待着产学研部门的合作,不断改进和提升更安全、可信、可靠的人工智能技术,并为人工智能系上安全的栅栏,让人们放心地享受这一技术红利。

责任编辑:无量渡口
分享到:
0
【慎重声明】凡本站未注明来源为"科技报"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行!
网站简介| 免责声明| 投诉建议| 网站地图| sitemap|