随着人工智能（AI）正日益广泛的应用于商业中，给企业管理者和财务专业人士带来了不少挑战。将人工智能系统引入企业所带来预期的技术、法律及合规等问题的同时，也会带来道德规范问题。例如，我们会通过使用人工智能公平地对待客户，还是我们可能会歧视某些群体？
尽管管理会计师并不是实际编写算法和构建人工智能系统的专家，但他们具备重要的专业技能，并且凭借在组织中所处的有利地位，可以确保以符合道德规范的方式在实施AI方面发挥关键作用。这点对组织而言是很有利的。
管理会计师的技能对于财务部门实施人工智能解决方案至关重要，不仅如此，这些技能还可以在整个企业业务范围内评估人工智能能否有效使用发挥作用。
以下是财务专业人员可以采取的一些关键措施，以确保道德原则嵌入组织对人工智能的使用中。
微软首席执行官Satya Nadella在2018年公司的主题演讲中提到：“我们需要知道的不仅仅是计算机能做什么，还应该知道计算机怎么做。”了解为什么人工智能会被提议作为一个特定挑战或难题的解决方案，以及与继续采用非人工智能解决方案相比会产生什么样的影响。这可能包括财务成本或费用降低因素，以及其他更多的因素，如对工作的影响、声誉风险或最终用户体验的改善。
除此之外，公司还应考虑他们所重视的道德原则，以及如何确保任何人工智能的应用都能反映这些价值观。这可能包括承诺只使用有利于整个社会的人工智能，确保人工智能在实施之前是公正的，或者确保那些受人工智能决定影响的人能够对结果提出质疑。
MichaelHobbs是总部位于伦敦的初创企业Republe.Ai的创始人，他表示，他们公司认为使用人工智能会违反九项道德原则。“关键在于尽早提出正确的做法并定义道德原则。这可以通过确保从解决方案一开始就将道德规范纳入到流程中，从而避免问题的产生。”
在设定这些道德原则时，管理会计师可以发挥很多作用。他们基于公司业绩和战略的了解以此对确定引入AI解决方案的应用范围至关重要。同样，他们对人工智能应用的客观性承诺（CIMA的道德的基本原则之一）将有助于他们不受外界压力的影响，根据他们的判断对AI解决方案盘根问底，对在其他领域的工作人员提出探索性的问题。
公司内部的利益相关者和最终用户或消费者共同面临的一个问题是，缺乏对如何使用人工智能的理解。
如果该公司的人工智能解决方案受到质疑，而且无法快速明确地解释某个结果的细节说明，那么公司对该解决方案实施的可信度将很快丧失。在最近的一个被指存在性别歧视的Apple Card案例中，从公众的抗议和调查表明，当组织无法快速解释他们如何设置那些算法并以此作出决定进行运作时，可能会对组织声誉造成损害。由于管理会计师具备降低风险的知识，他们可以在确保构建和实施人工智能解决方案的阶段成为非常关键的一员。
公司必须能够清楚地说明基于使用了哪些数据，及应用了哪些假设后所做的决定。Hobbs认为：“关键在于，公司能够告诉人们，他们需要采取不同的行动才能获得不同的结果。”
从微观层面解释决策对企业也很重要。一个企业的声誉不仅会受到主流媒体报道的影响，还会受到社交媒体上的口碑和个人的影响。例如，最好立即向被拒绝贷款或抵押的客户提供信息，向他们解释为什么会是这个结果，从而给他们提供选择方案。
管理会计师应主动提出有关设计和构建人工智能的建议，并确保在任何时候都能清晰地理解输入、决策过程和输出。在运行测试或试验时，请开发人员解释算法所遵循的决策过程。如果他们不能用通俗易懂的语言解释普通消费者能够理解的问题，那么就需要在流程进一步深入和组织面临声誉风险之前解决这个问题。
对于使用人工智能的公司来说，一个主要的失败点可能是缺乏明确的责任。“关键在于，要确保在组织内的管理链中了解算法决策，并有明确职责分工。公司必须对算法做出的任何决定拥有所有权。” Hobbs说。
商业道德研究所在其报告《数字时代的企业道德》中总结道：“最终，必须始终有人的责任”。IBE报告特别强调董事会对人工智能的部署有足够的了解，以便能够决定人工智能方案是否正确，并且在出现问题时能够勇于承担责任。
正确的做法是，管理会计师很可能成为问责过程的核心。首席财务官和高级财务经理最终要对所有与财务相关的决策负责，包括那些由人工智能做出的决策。因此，关键是他们应具备一定的理解力，以便能够做出明智的决定：人工智能应该用于什么领域，哪些数据由算法提供信息，以及人工智能是如何决策的。
一个好的检验就是问你自己，“我能面向董事会证明计算程序的算法所做的决定是正确的吗？”如果不能，那就尽快掌握人工智能的基础知识，询问它的使用，并关注每个步骤的概述以确保可解释性和责任制度，将有助于确保人工智能方案被以符合道德规范的方式使用，并尽可能降低风险。
关注轻松呼
