近日, OpenAI为GPT企业版推出了助力企业监控AI使用情形, 以及追踪各团队资源耗费状况, 并为AI使用设定预算上限的费用管控功能与增强版用量分析工具。然而, 分析师表明, 当下这些工具尚不能够直接展现出成本投入同业务收益之间的关联。
新功能给管理员提供了集中式控制台, 能全面展现GPT于组织内部的使用情形,助力管理者知晓采用规律开云真人app官网登录app,开云真人app在线登录, 还能凭借设定预算以及追踪支出来管理AI成本。
OpenAI称, 全局管理控制台把GPT和Codex的积分用量整合于同一视图内, 管理员能够更细粒度地查看积分消耗明细, 从用户、产品以及模型维度, 进而清晰掌握支出的来源, 以及它同实际积分用量的对应关系。
预算管理功能的推出, 用量分析功能的出现, 反映出企业优先级持续呈现的深度转变已在发生。Forrester首席分析师Biswajeet Mahapatra说了这样一番话, 他谈及企业明显开始由以往是以采用为导向的那种热情, 转变为如今对于成本以及价值的精细管理, 不过这是一种正常的自然成熟演进状况, 并不是所谓的退潮。他指出AI现在已经不再是一个关于采用方面的问题体现, 而是一个涉及衡量以及可信度的问题表现——生产力提升的情况确实是真实存在的, 然而这种提升较为分散地存在着, 并且很难与财务结果相互关联起来。
由于AI在各个业务部门不断持续扩张, 支出渐渐分散于不一样的团队、不相同的工具以及不同的试验项目之中, 可视化管理跟治理的重要性一天比一天更加凸显出来。Mahapatra补充讲道: 所以, 预算管理、用量可视化以及费用管控正在变成基础性的需求, 而不是仅仅单纯的运营事务, 因为它们能够达成技术使用和业务目标之间的协同对齐。
曾有一位名为Anushree Verma的Gartner高级总监分析师讲过, AI成本治理正越来越成为企业所关注的重点, 她点明, 碎片化的定价模式, 还有由供应商自己定义的消耗单位, 以及各异的定价结构, 致使组织难以对AI成本进行预测, 随着企业不断去扩大AI应用规模,预计这一挑战在未来几年中还会进一步变得严重起来。
她宣称开云app官方最新下载, 到2028年的时候, 全球财富五百强企业平均将会部署超过十五万个AI智能体, 然而在2025年之际, 这个数字却还不足十五个, 这会引发显著的智能体蔓延问题, 还会致使IT复杂性上升, 并且带来管理挑战。
在这样的背景情形之下, OpenAI新近推出的管理功能, 成为了一种工具, 这个工具能够为组织提供便利助力, 在AI部署规模持续不断扩大, 并且越来越呈现出分散化状态的状况下, 实现对于用量以及支出的监控, 而且是一种具备有效性的工具。
即便OpenAI的分析功能着重于运用规律以及用量可视化, 然而有分析师予以指出, 企业最后是需要把AI消耗和业务结果关联起来的。Mahapatra表明: “仅仅依据Token消耗量是不行的, 因为它所衡量的是活动本身, 并不是实际影响。”。
他给出建议, 组织要把营收增长,成本削减以及风险缓释等这些业务方面的指标相结合开云app在线入口,开云真人官方下载, 还要将生产力提升, 质量改善此类运营方面的指标相结合, 进而针对AI举措展开综合评估。
Verma亦指出, 传统的云端财务运营即FinOps实践, 也正逐步地演进, 目的在于去适应那基于AI用量的经济模式。那传统FinOps实践, 是围绕着可预测的集中式云环境而构建起来的, 当面对像Token用量、大语言模型请求数、GPU使用时长等这类难以预测的AI消耗指标之时, 就显得力不从心了。
她还讲了, 跟着多智能体系统规模不间断地扩大, 实时追踪变得越发重要, 由于一旦配置有了偏差, AI成本有可能在相互关联的环境里快速升高。
Q&A
Q1:GPT企业版新增的费用管控功能具体能做什么?
GPT企业版新增添的费用管控功能, 给管理员予以集中式控制台, 它支持去查看GPT跟Codex的积分用量, 并且能够依照用户、产品以及模型维度开展细粒度分析, 在此基础之上, 管理员能够设定预算上限, 实时追踪各个团队的消耗状况, 进而更为妥善地管理AI使用成本, 防止产生支出失控的情况。
Q2:为什么光看Token消耗量不足以评估AI的价值?
Mahapatra这位分析师指出, Token消耗量所反映的具体是AI的使用活跃程度, 然而这并不意味着代表实际业务成效, 企业真正所需要的情况是把AI使用状况跟营收增长、成本削减、风险控制等业务指标相互结合关联才行, 通过这样做才能够判断出AI投入是不是真的带来了价值, 仅仅凭借用量数据, 是很难说明AI对财务结果的贡献情况的。
Q3:传统FinOps方法为何难以应对AI的成本管理?
A: 传统FinOps是针对可预测的集中式云环境去设计的, 然而, AI的成本构成要复杂得多, 它涉及Token用量, 涉及大语言模型请求数, 还涉及GPU使用时长这些高度动态的指标。Gartner分析师Verma指出, 特别是如果说在多智能体系统规模扩大以后, 一旦出现配置错误这种情况, 成本那么就可能地迅速在互联环境之中扩散开来, 传统方法已经难以去有效应对了。
标签: AI成本管理 预算控制 用量分析 企业版ChatGPT 智能体蔓延
还木有评论哦,快来抢沙发吧~