人工智能的神话与魔力


人工智能(AI)已经在改变金融服务,并有可能带来更大的变化,但我们应当始终记得:人工智能也有局限性。

Neela Das

在好莱坞的影片中,人工智能常常被当作人类的终极敌人。

例如,在电影《终结者》中,机器人从开始学会思考的那一刻起,就计划消灭人类。《2001:太空漫游》、《复仇者联盟:奥创纪元》以及《机械姬》都在告诉我们:使用人工智能并不总能产生预期的结果。

人工智能在科幻片中总是显得冷漠无情,但在绝大多数的工业应用中都是一把利器。

我在各类演讲中经常问观众:他们在工作中如何看待人工智能?有一小部分人担心有一天会被人工智能取代,但大多数人(介于50%和60%之间)认为人工智能是能够提高工作效率的工作伙伴。换句话说,好莱坞影片中呈现的黯淡未来仅供娱乐而已。在现实生活中,人工智能的未来更加可期。

人工智能可以为金融服务业提供巨大便利,而金融服务业现在也已经享受到了一些便利。目前,人工智能正在帮助金融服务业克服诸多挑战(尤其在合规性方面),但我们现在挖掘出的AI潜能仅仅只是冰山一角。

世界各地的主要监管机构都在积极探索人工智能技术。例如,金融犯罪执法网(FinCEN)今年推出了一项创新举措:邀请金融科技公司和监管科技公司展示各自新兴的人工智能产品和服务。

英国金融行为监管局(FCA)积极推动创新已有一段时间,他们定期举办“TechSprint”活动,侧重于如何利用新技术打击金融犯罪。

新加坡金融管理局(MAS)也一直在探索人工智能的潜力。他们在经过实验和分析后,发布了FEAT原则(公平性、道德规范、可问责性和透明度),并要求人工智能行业确保按此原则,可靠地应用人工智能与数据分析,以便“通过数据管理和使用,加强内部治理”。

人工智能的神话

我们一直都欢迎创新,但我们不能指望人工智能可以“包治百病”。实际上,人工智能制造的问题数量不低于解决的问题数量。

有时,人们对人工智能最合适的应用方式和应用领域存在一些误解。例如:

1. 人工智能不是未来才出现

无论我们是否意识到,人工智能已经彻底改变了我们的生活。无论是医疗、执法、教育、零售还是约会,它都在代表我们作出决策。

它甚至不是一个新概念。在50多年前,人们就已经开始讨论支撑人工智能算法的数学理论。但我们始终缺乏足够的数学理论来使人工智能变成主流,我们需要超越几十年前的人们想象处理能力,以及可以为人工智能提供动力的庞大数据。

直到现在,我们才第一次掌握了使人工智能成为现实的一切——数学理论、学术关注度、硬件、数据和投资创新的意愿。如果量子计算成为现实,它很可能使计算能力出现质的飞跃。

2. 人工智能并不总是人们认为的那样

如果仅仅有人说某项创新是由人工智能驱动的,并不意味着事实的确如此。

《你好,世界》(Hello World)的作者Hannah Fry指出,由于算法世界不受约束的 “自由放任”,人们可以通过算法对自己的发明提出“大胆的、未经证实的、甚至是不负责任的主张”。例如,爱达荷州的健康福祉部曾购买了一个私人开发的“预算工具”来决定福利的发放,不过,事实证明这个工具完全是随机做决定的。

3. 人工智能可以被愚弄

无论是哪种算法,都有人试图去破坏或愚弄它。人工智能系统特别容易受到视觉错觉或“对抗性示例”的影响。

各研究团队已经进行了相关研究,展示了他们如何愚弄人工智能:向人工智能展示3D打印的乌龟,结果人工智能将乌龟识别成了步枪;或在身上挂一张简单打印出来的图案,躲避人工智能的识别

4. 人工智能容易出错

分类对于机器学习而言至关重要。例如,图像分类器是一种图像识别算法。它以图像为作为输入并预测图像包含的内容。但一项学术研究发现,图像分类器虽然可以区分狼和哈士奇,但它实际上只是在找“雪花”而已。

最后一点清楚地说明了人工智能的最大局限性——受人类提供数据限制。某个算法可能根据您提供的数据作出完美决策,但这并不意味着它将来不会作出糟糕的决策。所以,您绝对有必要了解某个算法为什么作出那样的决策。

金融监管机构最大的担忧之一——对人工智能作出的决策负责,绝对是首要任务。

这也是人工智能行业大多数人相信我们正在走向一个“人工智能广泛用于自动处理假阳性问题(例如反洗钱(AML)、了解你的客户(KYC)和制裁筛查),但具有明显‘不可解释性’”的世界的原因。深度学习和“黑匣子”自动化等途径在近期内基本不太可能被监管机构接受。

对于任何考虑使用人工智能技术的人来说,最重要的一点是人工智能不是魔法。它不能解决您的所有问题,并且在短期内,它的价格不大可能降下来。许多组织还会发现:他们必须投入大量的时间和精力来清理人工智能所需的数据。

尽管算法令人印象深刻,但它却带来了新问题,例如隐私、偏见、错误的影响、责任和透明度。换言之,人工智能并不能消除严格检查和制衡的需求。

三大基本问题

成功创新的关键是明智使用人工智能——这意味着您应像针对任何新技术一样,针对人工智能问尽可能相同的问题

1)检查以下您的数据库。您可提供哪些数据?这些数据是结构化数据还是非结构化数据,是文字还是音频?这些数据有多“干净”?

2)确定您想要做什么。您想要解决什么问题?您是否在探索或搜索具体的答案?速度、及时性和确定性的重要程度如何?

3)确认人工智能技术可以提供哪些帮助(机器人流程自动化、自然语言处理、模式识别或情景比较)。您可能需要多尝试几次才能找到合适的功能。接着,就准备迎接意外发生吧——就像人类一样,人工智能也做不到完美。

如果说人工智能的应用有一条黄金法则的话,那应该是:从数据做起。在我幻想的乌托邦式的未来中,所有人工智能项目首先要考虑的就是数据干净问题。这可消除我们客户当面面临的一些障碍,并可真正释放这些新技术的潜力。

未来在于合作

我坚信,人工智能最好的出路在于合作:人类和算法携手共进、优势互补、提供最优解。

我们的方针是:帮助客户精准确定人工智能技术能发挥最大效用之处(例如减轻制度效率低下这一痛点),并尽可能地确保该技术的可靠性。

人工智能的未来是光明的——前提是我们要先站稳脚跟。