人工智能技术的风险和挑战

人工智能技术的风险和挑战

一、风险

人工智能技术的应用需要收集、分析和使用大量的数据，这使得用户隐私保护成为一个重要的问题。如果被黑客入侵，用户隐私可能被泄露，轻则用户信息被不法分子掌握，重则危害用户财产安全甚至人身安全。

人工智能的发展带来了产品责任问题和隐私保护问题。由于科技技术的不完全可靠性以及智能系统存在的先天设计缺陷，产品责任的归责问题伴随人工智能的发展而来，尤其是感知智能领域的产品责任问题。此外，智能机器威胁到人类的安全和生存也是一大风险。

人工智能技术发展非常快，但治理体系的变化相对缓慢，因为每个法律法规的出台都要经过一系列论证。

目前的人工智能系统还无法超出场景或语境理解行为，其在下棋或游戏等有固定规则的范围内不会暴露出这一弱点，而一旦场景发生变化或这种变化超出一定范围，人工智能可能就立刻无法“思考”。

用户无法预测人工智能会做出何种决策，这既是一种优势，也会带来风险，因为系统可能会做出不符合设计者初衷的决策。

人工智能或许可以帮助人类做出好的决策，但决策理由目前仍然是一个“黑箱”。例如，图像识别能力可以发现图片中的校车，但无法解释哪些图像特征让它作出这种判断，而在医学诊断领域，诊断的理由往往是重要的。

机器会重结果而轻过程，通过找到系统漏洞，实现字面意义上的目标，但其***用的方法不一定是设计者的初衷。例如，网站会推荐一些极端主义***，因为***性内容可以增加浏览时间。

在算法不能共享的对抗性环境中，系统性错误很容易发生，导致做出无法估量的决策。

尽管让机器提供建议,由人类做最后决策是解决人工智能某些弱点的常用方法,但由于决策者对系统局限性或系统反馈的认知能力不同,这一问题并不能得到根本解决。

在对抗性过程中,对手还会释放有毒数据或利用人工智能行为方式的某些漏洞发起攻击,目前还没有抵御这种攻击的有效办法。

二、挑战

当前人工智能的技术、产业链条脱节,生态离散化成为制约人工智能技术上水平、应用上规模、产业上台阶的瓶颈。要想释放多元算力价值、促进人工智能创新,既要重视智算系统的创新,加大人工智能新型基础设施建设,又要加快推动开放标准建设,通过统一、规范的标准,将多元化算力转变为可调度的***,让算力好用、易用。

当前,中国迫切需要建立相应的可操作“规则”,这不仅有利于人工智能的可持续发展,还有利于人工智能与国际接轨及实现全球化发展。当下,形成人工智能***和治理共识非常重要,否则将阻碍其发展。