Gartner发布安全且大规模实现AI价值的四大新兴挑战

2024年第二季度Gartner对451名高级技术领导者进行的一项调研显示，57%的首席信息官（CIO）表示自身肩负着企业人工智能（AI）战略的领导责任。然而，四大新兴挑战令CIO很难实现AI的价值。

Gartner杰出研究副总裁Mary Mesaglio表示：“由于技术供应商之间的持续创新竞争，CIO常常觉得自己身处技术炒作之中；但在推动AI成果方面的事实——价值难以实现，又让他们感到身处低谷。”

Gartner杰出研究副总裁兼院士级分析师Hung LeHong表示：“CIO其实可以掌控AI成果的推进节奏。如果企业的AI目标较为适中，并且所在行业尚未被AI颠覆，CIO可以采用相对稳健的节奏，即AI稳健型步伐（AI-steady pace）。如果企业的AI目标更为宏大，或所在行业正被AI重塑，CIO就需要采用更快速的节奏，即AI加速型步伐（AI-accelerated pace）。无论是以AI稳健型步伐还是以AI加速型步伐前进，最终都必须推动价值和成果的实现。”

在近期举行的Gartner IT Symposium/Xpo开幕主题演讲中，面向现场8,000余名CIO和IT高管，Gartner分析师阐述了如何应对四大新兴挑战，以安全的方式大规模实现AI价值。

使用AI未必总能实现业务效益

使用生成式人工智能（GenAI）创造业务价值的前提是，必须在工作流中持续使用GenAI工具。2024年第二季度，Gartner对美国、英国、印度、澳大利亚和中国的5,000余名数字工作者进行了调研。结果显示，使用GenAI的员工平均每周可节省3.6小时，但并非所有使用GenAI的员工都能获得同等程度的效益。

LeHong表示：“这是AI生产力面临的真正挑战。GenAI带来的生产力提升并非均匀分布，而是因员工而异，这不仅是因为个人兴趣和采用程度存在差异，还取决于工作的复杂程度和经验水平。”

采用AI加速型步伐的企业机构不仅寻求生产力方面的效益，还在寻求其他层面的改进，包括运营和流程层面的改进（例如实现关键业务流程的自动化或重塑与聊天机器人协作的职位）以及业务层面的变革性改进（例如能够创造新收入来源或重塑企业价值主张的成果）。

Mesaglio表示：“在这种情况下，CIO应像管理投资组合一样管理AI收益，确定每个收益领域的投入大小，并平衡整个组合的风险与回报。”

AI成本可能会迅速失控

Gartner于2024年6月和7月对300余名CIO进行的调研结果显示，超过90%的CIO表示成本管理限制了其利用AI创造价值的能力。实际上，Gartner认为成本是与安全或幻觉同等重要的AI风险。

根据Gartner的估算，如果不了解GenAI成本如何扩展，CIO的成本计算可能会出现高达5到10倍的误差。

LeHong表示：“CIO需要清楚AI的成本构成，不仅要了解成本的组成和定价模式选项，还要掌握如何降低成本并与供应商谈判。CIO应创建概念验证，除测试技术的可行性外，还要重点评估成本的扩展情况。”

无处不在的数据和AI带来了新的挑战和风险

AI和数据在企业中广泛应用，已不再是IT部门直接控制的集中资产。Gartner对300余名CIO进行的调研发现，未来平均只有35%的AI能力由内部IT团队构建。这意味着企业需要采取新的方法来管理和保护数据访问、治理AI的输入和输出，并安全地实现AI价值。

在描述未来的AI技术堆栈时，LeHong表示：“这里将提及‘技术架构组合’的概念。组合的底层是所有来自IT的资产，通常是集中的资产；顶部是来自企业各处的资产，通常是分散的资产；中间则是保证所有资产安全的信任、风险和安全管理（TRiSM）技术。这种组合框架有助于企业应对各种类型的AI和数据。”

Mesaglio表示：“CIO应当设计一个技术架构组合，既能应对AI复杂性，又能对新的机遇保持开放。采取AI稳健型步伐的企业机构（AI项目不超过十个）将通过人类团队和委员会管理其技术架构组合。采用AI加速型步伐的企业机构将通过引入TRiSM技术——一系列用于建立信任、监控风险、管理安全的技术，以确保大规模AI应用的安全性。”

使用AI对员工绩效和福祉来说是一把双刃剑

有些员工可能会很喜欢AI工具，有些则会感觉受到威胁或产生反感。对AI的强烈反应可能会引发意想不到的行为结果，进而对员工的工作表现产生负面影响，例如对使用AI的同事产生嫉妒以及对AI工具的过度依赖等。

然而，很少有企业机构在积极管理这些行为结果。Gartner在2024年6月和7月进行的这项调研显示，只有20%的CIO表示自己致力于减少GenAI对员工福祉的潜在负面影响。

“大多数企业不太关心员工对于AI的感受，但这一点其实很重要，因为AI可能会引发各种意想不到的行为结果。”Mesaglio表示，“关键在于，通过变革管理解决这个问题时，企业必须明确行为结果的相应负责人，像管理技术和业务成果一样严格管理行为结果。