Veeam Software 的最新研究揭示了 EMEA 企业中日益严重的“影子代理”危机，随着自主人工智能采用的加速，组织难以保持可见性和控制力。
调查结果显示，70% 的组织承认自动化 AI 工作流程在没有完全控制的情况下与敏感的企业数据进行交互，而 67% 的组织表示员工正在创建 IT 团队无法完全跟踪的自主 AI 工作流程。
随着组织努力让人工智能发挥作用，调查结果凸显了一个关键挑战：确保为人工智能代理提供支持的数据保持可靠、安全和稳健。如果没有足够的治理、可见性和保护，企业就有可能暴露敏感信息，增加合规风险，并破坏扩展人工智能所需的可信数据基础。
日益增加的监管压力和企业责任也将人工智能管理从技术办公室推向董事会。近三分之一（32%）的组织表示，这种压力已经在领导者之间造成紧张或冲突。
管理人工智能正在成为最高管理层的责任
随着欧洲、中东和非洲地区的合规义务变得更加复杂，包括高级管理人员在网络弹性和监管合规方面承担更大的个人责任，企业领导者面临着越来越大的压力。
调查发现，58% 的受访企业现已制定新的企业责任法。然而，12% 的人表示个人责任仍然是共同的且不明确。
更大的责任对管理团队有着明显的影响。大约 40% 的人担心个人责任或后果，39% 的人表示董事会层面的审查有所加强，37% 的人表示责任增加了个人压力或焦虑。近三分之一（32%）的人表示，这造成了与其他领导人的紧张或冲突。
然而，调查也指出了积极的转变，45% 的人表示，问责制的加强改善了领导层的协调性和重点。
Veeam 欧洲、中东和非洲地区总经理兼高级副总裁 Tim Pfaelzer 表示：“高管们从未考虑过数据治理和网络弹性法规。虽然存在很大压力和紧张是完全可以理解的，但如果结果是董事会层面更好的协调，组织将更好地信任人工智能代理以实现更高的数据和人工智能。最终，将在整个组织中创建更好的数据管理、可见性和数据保护。”
“影子特工”的传播速度比管理层更快
调查结果揭示了整个欧洲、中东和非洲地区人工智能治理的分散方式。德国面临着严峻的挑战，81% 的高管承认自动化工作流程在没有监督的情况下与敏感数据进行交互，而 79% 的高管表示员工创建了 IT 团队无法跟踪的“影子工作流程”。
英国面临着类似的挑战，75% 的组织表示，他们对与敏感数据交互的人工智能代理没有足够的控制。
尽管对更加受控的人工智能环境进行了大量投资，但情况仍然如此。在欧洲、中东和非洲地区，41% 的组织正在构建自己的本地或独立 AI 模型，专门用于对抗影子 AI。大约一半（49%）采用混合方法，将敏感数据的本地和专有模型与一般任务的全局模型相结合。
MEA 组织的情况有所不同，41% 的组织完全依赖全球人工智能提供商来处理所有用例，这表明监管环境的差异正在影响整个 EMEA 的人工智能管理策略。
Pfaelzer 表示：“欧洲、中东和非洲地区的组织仍在努力应对新代理时代的治理问题。但数据表明，业界在信任人工智能方面存在错误的对话。试图一一控制数千个自主代理无法扩展规模。为了确保人工智能在企业层面的安全，组织必须保护、管理和理解这些代理所依赖的数据。”
欧盟信誉差距法案
欧盟的《人工智能法案》增加了压力，该法案的合规要求将于 2028 年生效。
虽然 83% 的高管认为该法案将对组织和更广泛的领域产生积极影响，但 62% 的高管表示不确定性或灰色地带可能会带来合规风险。另外 63% 的人担心这可能会带来不可预见的运营或法律风险。
英国和德国的担忧尤其严重，分别有 74.4% 和 73.6% 的人将立法中的不确定性视为合规的潜在风险。