英国著名物理学家史蒂芬‧霍金（Stephen Hawking）上星期在剑桥大学与世长辞，我和很多人一样，都感到惋惜。这位被誉为继爱因斯坦后最杰出的理论物理学家，患有一种罕见的肌萎缩性脊髓侧索硬化症，霍金晚年已是全身瘫痪，必须依赖由人工智能技术提供的语音产生装置与其他人沟通。然而，他也曾经多次表达对人工智能的担忧。在霍金眼中，人工智能和人类大脑可以达到的智慧，没有本质区别，所以，我们无法知道人类将无限地得到人工智能的帮助，还是会被它藐视、边缘化，甚至毁灭。

近年，不少人对人工智能趋之若骛，与霍金警惕审慎的态度形成强烈对比。以人工智能围棋软体阿法围棋（AlphaGo）为例，就在短短几年间成为世界棋坛第一；继在2016年3月击败韩国九段棋手李世乭后，又在2016年12月至2017年1月期间，在未公开其真实身分的情况下，60战全胜中日韩一流高手。2017年5月，AlphaGo在再也没有人类对手的情况下宣布光荣退役。

就如对AlphaGo一样，不少人对无人驾驶也抱有厚望，认为可以减低运输成本，甚至提高道路安全。然而，霍金曾经以无人驾驶为例，表达他对人工智能的担忧。他特别指出在紧急情况下，一部无人驾驶的汽车需要在「很有可能发生的轻微事故」和「较低可能发生但严重事故」之间作出一个选择，因而处于一个进退两难的局面。

不幸的是，几天前于美国亚利桑那州就发生了涉及Uber自动驾驶汽车的致命交通意外。事件中，一名过路妇人被撞毙，让自驾车的安全以及法律责任问题顿时成为全球焦点。值得一提的是，事发的自驾车上其实有一名后备操作者坐在驾驶座上；这不禁让人疑惑，这次意外是无可避免的，还是因为人类过分依赖自动驾驶系统，而让我们的警觉性降低？霍金曾经表示，长远来说，人类要面对人工智能系统失控的潜在风险；假若人工智能脱离束缚，具备超级智慧的机器人就会崛起，并且有可能不遵循人类的意愿行事。我不禁问：这些在科幻电影出现过的片段是真的不会在现实世界里发生吗？

无论是这些眼前的问题还是对将来的担忧，我们都不可以透过三言两语就得出一个明确的结论。但是，可以肯定的是，作为促成者和监管者，我们在推动人工智能、应用在金融服务的时候，必须平衡创新和风控，就好像现时很多金融机构研发人工智能和大数据的应用，不免会引来对私隐或大数据滥用的关注。所以我们在拥抱创新科技的同时，需要谨慎行事，风险管理要好好把关。财政司司长于新一份的财政预算案中强调，创科是新时代经济发展的驱动力，并投放了不少资源聚焦推动人工智能和金融科技。展望未来，我有信心，我们在清楚了解创新科技的好处和在应用时的限制的情况下，能让人工智能这把「双刃剑」成为我们的资产而不是负累。

（以上是财经事务及库务局局长刘怡翔3月25日在网志发表的文章）