作者：埃里克·奥多泰（Finalto集团监管报告负责人）

人工智能并非即将到来，而是已经到来。它正在重塑我们的生活、工作及决策方式。从企业运营到数字化互动，人工智能已成为现代经济不可或缺的组成部分。这并非一时之风：有证据表明，人工智能（AI）有潜力成为金融服务领域的变革力量。 那些未能适应变化的企业，不仅会落后，更将在一个由人类智慧与人工智能共同决定胜负的市场中失去存在价值。

事实上，人们已经在多个行业中应用人工智能。在金融服务领域，人工智能为风险管理、合规自动化和监管报告提供了先进的工具。

金融监管机构已开始采取措施，为人工智能的未来做好准备。英国金融行为监管局（FCA）和审慎监管局（PRA）均已采取积极举措，就人工智能监管提供相关指导，监管环境也在不断适应人工智能带来的机遇与风险。

企业领导者需要确保其内部战略能够跟上这一现实的发展步伐。

“用之但需验证”

作为一项不断发展且可能带来颠覆性影响的技术，围绕人工智能的诸多担忧主要集中在就业岗位流失上，甚至包括整个职业类别可能被淘汰的风险。其实，我们还可以从更细致的角度来思考自动化与就业的问题。正如机器人技术为汽车制造带来了精准性和一致性一样，人工智能也能提升许多行业的质量和效率。 让人工智能处理重复且耗时的任务，能让人类专注于创新、创造力和战略性问题解决。换言之，只要建立正确的框架，人工智能就有潜力改善我们的工作环境，使我们的日常工作既更高效，又更有意义。

管理者往往认为，只要人工智能能带来成果，一切就没问题。然而，人工智能也伴随着巨大的风险。如果对人工智能模型如何做出决策一无所知，仅凭成果就产生虚假的自信。

关键在于，人工智能与人类处理信息的方式存在根本性的差异。 例如，人工智能处理模式识别的方式与人类的直觉有着根本性的差异。它并不依赖于直觉或少数偶然事件，而是通过分析海量数据集来发现一致的模式和趋势。异常检测算法能够标记出缺失数据、反复出现的问题以及假设中的缺陷——这些情况若没有算法介入，可能就会被忽略。

然而，人工智能并非万无一失，了解其局限性与认识到其潜力同样重要。归根结底，你将所追求的任何结果托付给了一个你可能并不完全理解的过程。

《黑匣子蓝调》

尽管人工智能前景广阔，但它也带来了无法通过过时的治理框架加以管控的根本性风险。依赖“黑箱”系统存在切实的风险——这些系统虽然能产出结果，却无法提供任何关于结果得出过程的透明度。 首先，人工智能的推断本身可能就是错误的。人工智能并非魔法；它是从数据中推导出结论，而这些推论的可靠性完全取决于其背后的数据和模型。这些推论虽可能基于海量数据集生成，并以惊人的速度执行，但速度和规模并不能保证其准确性或推理的合理性。

如果无法了解模型的工作原理，我们就只能依赖那些无法妥善验证的输出结果。这种做法既不可持续，也不负责任，特别是在金融服务等行业，因为这些行业的决策往往会带来重大后果。

影响商业或监管决策的人工智能系统必须具备可解释性，不仅要向内部团队说明，还要向审计人员和监管机构说明。对于那些无法清晰阐明决策逻辑的“黑箱”模型，人们出于充分的理由对其持怀疑态度。 企业需要与所用模型的复杂性和风险相匹配的可解释性框架。正因如此，在高风险应用中，人们提倡采用“人类参与决策循环”的原则，以确保在必要时能够上报决策或推翻决策。

也许更重要的是，人工智能并非不受偏见的影响。每个模型都是基于数据进行训练的，如果这些数据反映了人类的偏见或结构性不平等，人工智能就会吸收并复制这些模式，而且往往是在大规模且不被察觉的情况下。这可能会导致结果出现偏差，有时甚至造成危害，而此时人们往往还未意识到问题所在。

自动化与问责制

此外还有问责制的问题。在金融服务领域，问责制绝非可有可无。它是部署人工智能时建立信任的基础。各公司应建立健全的治理框架，覆盖人工智能模型的整个生命周期，从开发和验证，到部署、监控，直至最终退役。

明确的问责机制至关重要。这包括董事会、高级管理层、风险委员会以及模型风险职能部门。监管机构支持使用模型清单系统，以追踪人工智能的使用情况、所有权归属、运行表现以及风险分类情况。

与此同时，监管机构和立法者正在着力制定各自的人工智能政策。他们要求确保透明度、可追溯性，并明确界定各方角色与职责。如果企业无法解释决策的形成过程，或无法追溯支撑该决策的数据来源，那么在报告不力或违反监管规定的情况下，这些理由将不被视为有效辩护。 监管审查力度正在不断加强，并将持续加剧，特别是在人工智能影响消费者权益保护的领域。

负责任的人工智能是一个持续的过程

简而言之，人工智能是一项强大的工具，能够释放巨大的价值并显著提升效率，但前提是必须审慎部署并负责任地管理。金融机构必须采取深思熟虑且基于充分信息的基础措施，以指导人工智能在其各项业务中的训练、测试和应用。

在人工智能生命周期的每个阶段——从数据采集和模型设计，到决策和实施——都必须确保透明度和问责制。这意味着绝不能存在“黑箱”。即使是最先进的算法，也必须具备可解释性和可审计性。无论企业是自主开发模型，还是采用第三方解决方案，这一原则都适用。

持续监控至关重要。随着输入数据的变化，人工智能系统也在不断演变；如果不定期进行审查，风险可能会在不知不觉中加剧。

这既带来了机遇，也伴随着风险。我相信，我们将看到一些专注于人工智能伦理、人工智能风险策略以及人工智能提示工程的新职位应运而生。这些专业人士对于企业如何实施和监管智能系统将变得至关重要。

未来就在当下

人工智能已成为日常业务的一部分。无论金融服务公司是否愿意，员工很可能都在某种程度上使用着人工智能工具。正因如此，制定清晰且切实可行的员工使用人工智能政策至关重要。如果没有这些政策，公司既无法确保人工智能得到负责任地使用，也无法防范由此引发的声誉、运营或监管方面的后果。

现在正是制定战略、使其与政策保持一致，并以自信且审慎的态度拥抱人工智能的时机。问题不在于人工智能是否会取代人类，而在于人类能否学会与人工智能协同工作。那些掌握这种协作之道的人，将引领金融业的未来。

所有观点、新闻、研究、分析、价格或其他信息均作为一般性市场评论提供，而非投资建议，且所讨论的所有潜在结果均不保证能够实现。该信息可能来源于公开渠道、公司报告、个人研究或调查。 过往表现并不预示未来表现。交易存在本金亏损的风险。本服务仅面向专业客户。