“计算机永远不能承担责任，决策界限因此计算机永远不能做出管理决策。企业”

– IBM 培训手册 
，该何1979 年

人工智能 (AI) 的划清采用正在不断增加。根据IBM 2023 年全球 AI 采用指数，决策界限42% 的企业企业已积极部署 AI，40% 的该何企业正在试验该技术。在使用或探索 AI 的划清企业中 ，59% 的决策界限企业在过去两年中加快了投资和推广速度  。结果是企业利用智能工具得出（据称）准确答案的 AI 决策能力有所提升。香港云服务器

然而 ，该何快速采用也引发了一个问题：如果人工智能做出错误选择 ，划清谁该负责
？决策界限错在 IT 团队？高管？人工智能模型构建者？还是设备制造商？

在本文中，我们将探索不断发展的企业人工智能世界，并根据当前用例重新审视上述引言：公司是该何否仍然需要人类参与 ，还是可以由人工智能来做出决定 ？

正确做法：人工智能在哪些方面改善了业务成果

DEGI 首席顾问兼 ISACA 工作趋势小组成员 Guy Pearce 从事人工智能研究已有 30 多年。“起初，人工智能是象征性的 ，”他说，“现在它是源码库统计性的 。人工智能是算法和模型，可以处理数据并随着时间的推移提高业务绩效 
。”

IBM 最新发布的《AI 在行动》报告中的数据显示了这一转变的影响。三分之二的领导者表示 ，AI 推动了收入增长率超过 25%
，72% 的领导者表示，高管层与 IT 领导层在 AI 成熟道路上的模板下载下一步行动上意见完全一致
。

随着人们对人工智能的信心不断增长，企业正在实施智能工具来改善业务成果。例如 ，财富管理公司Consult Venture Partners 部署了 AIda AI ，这是一款对话式数字人工智能礼宾服务，它使用 IBM Watsonx 助手技术来回答潜在客户的问题 ，而无需人工代理 
。

结果不言而喻：Alda AI 正确回答了 92% 的查询
，47% 的查询促成了网络研讨会注册 ，39% 的免费模板查询转化为潜在客户。

偏离目标：如果人工智能犯了错误会发生什么？

92% 对于 Alda AI 来说是一个令人印象深刻的成就 。但要注意的是
，它仍然有 8% 的时间是错误的。那么，当 AI 犯错时会发生什么呢
 ？

对于皮尔斯来说，这取决于赌注
。

他以一家金融公司利用人工智能评估信用评分并发放贷款为例。这些决策的云计算结果风险相对较低。在最好的情况下，人工智能会批准按时全额偿还的贷款。在最坏的情况下 ，借款人违约 ，公司需要采取法律行动。虽然不方便 ，但负面结果远远超过了潜在的积极影响 。

“说到高风险，”皮尔斯说，“看看医疗行业 。假设我们使用人工智能来解决等待时间的建站模板问题。我们是否有足够的数据来确保患者按照正确的顺序就诊 ？如果我们做错了怎么办？结果可能是死亡 。”

因此，人工智能如何用于决策，很大程度上取决于它所做出的决策是什么，以及这些决策如何影响做出决策的公司和受决策影响的人。

在某些情况下
，即使是最坏的情况也只会带来一点不便。但在另一些情况下 ，其结果可能会造成重大损害
。 

承担责任 ：如果人工智能犯了错误 ，谁该负责？

2024 年 4 月 ，一辆处于“全自动驾驶”模式的特斯拉汽车撞死了一名摩托车手。尽管需要驾驶员主动监督 ，但该车司机承认在事故发生前一直在看手机 。

那么谁该承担责任 ？司机显然是最佳人选
，他因交通杀人罪被捕 。

但这并不是追究责任的唯一途径 。特斯拉也应该承担一定责任，因为该公司的人工智能算法未能发现受害者。责任也可以归咎于国家公路交通安全管理局 (NHTSA) 等管理机构。也许他们的测试不够严格或完整。

甚至有人认为，特斯拉人工智能的创造者应该为发布可能致命的代码承担责任。

这就是人工智能决策的悖论：是某个人犯了错 ，还是所有人都犯了错 
？“如果你把所有应该承担责任的利益相关者聚集在一起，那么责任在哪里 ？”皮尔斯问道。“是高管层？还是整个团队 ？如果责任遍布整个组织
，那么每个人都不会坐牢。最终 ，共同承担责任往往会导致没有责任  。”

划清界限：人工智能的终点在哪里 ？

那么
，组织应该在哪里划定界限呢 ？人工智能洞察力何时让位于人类决策？

有三个考虑因素至关重要  ：道德  、风险和信任。

“当涉及到道德困境时 ，”皮尔斯说，“人工智能无法解决。”这是因为智能工具自然会寻求最有效的途径，而不是最道德的途径。因此
，任何涉及道德问题或担忧的决定都应包括人类的监督 。

与此同时，风险是人工智能的专长。“人工智能擅长风险 ，”皮尔斯说。“统计模型会给你一个标准误差，让你知道人工智能的建议是具有高还是低的潜在变异性。”这使得人工智能非常适合基于风险的决策，比如金融或保险领域的决策。

最后 ，企业需要优先考虑信任
。“人们对机构的信任度正在下降 ，”皮尔斯说。“许多公民不相信他们分享的数据被以值得信赖的方式使用。”

例如
，根据《GDPR》 ，公司需要对数据收集和处理保持透明 ，并让公民有机会选择退出 。为了增强人们对使用人工智能的信任 ，组织应该清楚地说明他们使用人工智能的方式和原因 ，并（在可能的情况下）允许客户和客户选择退出人工智能驱动的流程
。

决策  ，决策

人工智能应该用于管理决策吗？也许吧。它会被用来做出一些决策吗？几乎可以肯定
。人工智能的吸引力——它能够捕获 、关联和分析多个数据集并提供新的见解——使其成为企业简化运营和降低成本的有力工具。

不太清楚的是，向管理层决策的转变将如何影响问责制。皮尔斯表示，目前的情况造成了这一领域的“界限模糊”；立法还没有跟上人工智能使用率的提高。

为了确保符合道德原则 、降低错误选择的风险并赢得利益相关者和客户的信任，企业最好让人类参与其中。也许这意味着在人工智能采取行动之前需要得到员工的直接批准 。也许这意味着偶尔要审查和评估人工智能的决策结果  。

但无论企业选择哪种方法，核心信息始终不变：在人工智能驱动的决策方面
 ，没有固定的界限 。这是一个不断变化的目标
 ，由可能的风险、潜在的回报和可能的结果决定。

(责任编辑：系统运维)