AT&T每天消耗80亿token却把AI成本砍掉90%:10万员工正在用的多智能体架构实战揭秘
AT&T首席数据官Andy Markus披露:公司内部AI系统每天处理80亿token,通过将大模型「超级智能体」与小模型「工作智能体」分层编排,成本降低高达90%,延迟和响应速度大幅改善。基于此架构打造的Ask AT&T Workflows已向10万名员工开放,超过一半的人每天使用,活跃用户报告生产力提升高达90%。这是迄今为止最具说服力的企业级AI落地案例之一,也是「大模型做决策、小模型干苦力」这一架构思路的最强现实验证。