企业 AI 的新经济学

想象一下，你的公司刚刚发现了电力。起初只有少数机器用电，没人担心效率问题——用电量很低，而且价值显而易见。但当电力成为基础设施后，每个流程都依赖它，问题也从“能不能用？”变成了“我们用得有多高效？”

企业 AI 正经历同样的转变。最初孤立的聊天机器人和 copilot 实验，正在成为业务的基础层，模型、智能体和数据在生产工作负载中日益互联。重要的问题不再是一个 token 或 GPU 小时的成本，而是 AI 环境将付费算力转化为有用业务成果的效率。

这才是值得追踪的指标：每项有用成果的有效成本——完成业务真正可用的工作所需的平台、模型、运维和算力总成本，无论是解决一项请求，还是完成一个工作流。

运行 AI 的三种方式

利用率是经济效益的核心。将更多工作分配给已付费的算力，可以降低单位有效成本；闲置 GPU、碎片化工作负载和过大的模型都会提高每项有用成果的成本。企业通常会在三种模式中选择：

定制化技术栈——自行采购基础设施并配置控制措施。这种方式灵活，但会带来持续的负担，因为随着模型和策略变化，团队必须不断重新验证环境。

按需使用——超大规模云服务商减轻了组装负担，适合需求较低或不确定的情况，但每次提示或智能体操作都会增加费用。

集成式私有 AI 平台——自有或专属算力搭配经过验证的技术栈。其优势不在于推理免费，而在于能够掌控效率杠杆，例如调度、模型选择、GPU 分区和缓存管理。

合适的模式取决于工作负载。对于实验或可变需求，API 可能是合理选择。随着工作负载变得持续且对业务至关重要，企业需要权衡的不只是消耗了什么，还包括系统运行得有多高效。

所有权是一种运营纪律

买一辆一级方程式赛车，停在车库里，意味着拥有有史以来最先进的车辆之一——但仅凭拥有它并不能让你具备竞争力；你仍然需要车手、机械师和赛道时间，才能证明这笔投入的价值。AI 基础设施也是如此。

企业 AI 领域最大的误区之一，是认为拥有基础设施就能自动改善经济效益。拥有 GPU 创造了提升经济效益的机会，但前提是组织有足够的需求和运营纪律，让资源持续发挥作用。

最能带来投资回报的基础设施，并非参考架构或定制化扩建方案，而是经过完整集成和验证的技术栈。它能让团队将任务分配给满足质量要求且成本最低的模型，并通过 KV-cache 管理等技术复用上下文，在保持响应速度的同时减少算力浪费。

缺少这些做法，已承诺投入的基础设施可能沦为闲置资本。有了这些做法，随着需求增长，固定成本可以分摊到更多有用工作上，从而改善经济效益——这在智能体系统中日益重要，因为其经济效益较少取决于单次提示，而更多取决于整个环境的效率。

从部署到价值

HPE Private Cloud AI 是一个可用于生产环境的基础平台，整合了基础设施、软件、模型、工具、治理和服务，可降低大规模运行私有 AI 的集成负担。其架构让团队能够将调度、模型选择、GPU 分区和缓存管理作为运营手段，根据每项工作负载的需求协调容量与服务级别。它还包含为期 90 天的合作，由前线部署工程师协助客户团队部署初始用例，并建立可重复的运营实践。

在 HPE 委托开展的独立测试中，一个以高利用率为多种工作负载提供服务的集成平台，其每个 token 的有效成本低于反复租用同等容量的成本。实际结果会因工作负载组合和利用率而异。

衡量重要指标

Token 消耗仍然有参考价值，但并不能完整衡量 AI 的经济效益。更全面的企业视角会跟踪每项与业务相关的成果成本、加速器利用率，以及模型选择是否与任务复杂度相匹配。

已经在运行私有 AI 的企业应思考自身的利用率有多成熟，以及未来 12 至 18 个月工作负载量将如何变化。还处于起步阶段的企业应从首次部署起就建立这些实践，让战略在需求成为瓶颈之前就预先考虑增长。

对于用量较低且需求难以预测的场景，API 或超大规模云服务提供商仍可能是合理选择。但随着 AI 成为持续的生产能力，企业越来越有动力提高利用率、摊销固定成本，并将环境作为长期运营资产来管理。战略问题不在于企业是否会为 AI 付费，而在于它们是否会理解并最终掌控其背后的经济效益。

如需了解更多关于 HPE Private Cloud AI 的信息，请访问 HPE。

本内容由 HPE 制作，并非由《MIT Technology Review》的编辑团队撰写。