名师有约|宣琦:人工智能算法安全及其应用

日期:2019/9/19
宣琦:研究员,博导,网络空间安全研究院副院长,浙江省高等学校中青年学科带头人,创建了浙江工业大学数据智能实验室等多个实验室并在校内组建了IVSN Group,从事跨学科研究,在IEEE汇刊上发表多篇研究报告,授权受理发明专利100余项,获得浙江省科技进步二等奖1项,并获得十余项国家、省部级以及产学研合作项目资助。
主要研究方向
  • 网络数据挖掘(Graph data mining
  • 计算机视觉(Computer vision
  • 人工智能(Artificial Intelligence
  • 深度学习 (Deep learning)
内容概述

9月18日中午,浙江工业大学信息工程学院宣琦老师做客名师有约。宣老师以网络安全空间研究为切入点,从政治、经济、军事、工业制造等方面和健行生分享了他与团队在网安研究历程中的想法感受,并就当前AI(Artificial Intelligence)发展等热门话题与同学们进行了探讨和交流。

宣老师用生动的例证和多个学术性的团队实验简图概述了人工智能与网络安全在当前显现的各种问题以及人们针对这些问题进行的各种探索,这寄托着一个前瞻性的专家对未来AI的无比期待。他号召“新时代工大青年”致力于人工智能算法安全的发展。

为了让同学们更好地意识到人工智能算法的重要性,宣琦教授开篇就以科幻电影《盗梦空间》为例,讲述了意念这一抽象事物具有高度的传染性,能够通过改变意识来类推调整算法,例如,一个像素的改变就会使得整个算法进行了重构。由此,网络算法安全的重要性显而易见。

他指出,美国《经济学人》的一项调查发现,人类决策具有不完美的一面。宣教授演示了实验的过程,并通过学生举手投票的互动方式来论证这个发现。例如,商家能够利用人类购买商品时货比三家的心理而实现营销的目的。宣教授还用《怪诞行为学》以及2017年诺贝尔经济学奖得主理查德·泰勒的学术研究,将人工智能算法与经济现象串联起来。

他从宏观层面强调了AI的主要研究方向,发散了同学们的思维,与此同时点出了人工智能与心理学、社交网络的人物预测分析、网络安全的上层建筑、人脸识别、水军生成的假评论、3D打印技术等方面都有着千丝万缕的联系。人工智能算法在生活的各个角落体现出来,所以善于发现漏洞,及时防御和探索就显得尤为重要。

他认为:人工智能存在一定的潜在漏洞,对其恶意攻击会让算法决策失效,造成巨大的损失。例如:自动驾驶的人工智能车辆遭到恶意攻击造成的决策失误就会造成巨大的损失。所以人类要探索AI对人类社会的积极影响,更加深入了解AI,造福当代社会。

最后宣老师以《孙子兵法》作结,说到“不可胜者,守也;可胜者,攻也”、“AI的对抗,是人与人之间的对抗,是提升个人防御的对抗”,以及“要主动地去克服困难,迎接网安的挑战。”这让同学们认识到了人类对于AI的探索是在一次次的尝试中进步的。与此同时,宣老师还激励“青年人”要运用创造性思维去探索人工智能,并欢迎优秀的学子们到他们团队的实验室去进行学习、交流与合作。

本次名师有约,通过宣老师生动的实验例证和人工智能的算法预测,我们不仅认识到了人工智能极大的优越性,了解到了人工智能目前的现状和存在的问题,还领略了一位走在人工智能信息前沿领域专家严谨踏实的工作态度和精诚合作的团队意识。