万亿Token经营术 兼顾模型效率与算效
迪丽瓦拉
2026-07-08 14:22:03
0



(图片来源:摄图网)

(记者 叶菁)2026年仲夏,第23届中国信息通信业发展高层论坛在北京举办,AI智算与词元产业专题论坛成为关注焦点。就在今年3月,国家数据局正式将人工智能领域的核心计量单位Token定名为“词元”,同时披露我国日均词元调用量已突破140万亿次,较2024年初增长超千倍。

从技术文档中的专业术语,到衡量智能经济活跃度的核心指标,词元“出圈”的背后,是AI产业从技术研发迈向规模化应用的关键转折。身处产业枢纽位置的电信运营商,正站在万亿级词元调用的关口,探索一条兼顾模型服务效率与算力使用效能的平衡路径。

运营商AI“十年磨一剑”

词元经营并非行业风口下的仓促转型,而是运营商在人工智能领域十余年持续深耕的必然结果,更是其全栈国产AI能力建设的集中体现。

作为国内最早布局人工智能的市场主体之一,运营商的AI技术积累最早可追溯至网络智能化运维阶段,从最初的故障智能排查、资源智能调度,逐步延伸至通用大模型研发与全栈能力构建。以中国移动为例,其自主研发的“九天”人工智能体系已深耕十余年,覆盖从基础大模型到行业应用的全链条,形成了多模态、语言、视觉、语音等全系列模型能力,参数量覆盖十亿到万亿级全规格,汇聚700PB高质量行业数据。

中国电信则依托“云改数转智惠”战略,构建了覆盖“IaaS-PaaS-SaaS”全层级的词元服务体系。在IaaS层,其天翼云完成从基础算力底座向AI原生算力底座的升级,形成高并发、高吞吐的词元规模化生产能力,自有及接入智算总规模已达91 EFLOPS;在PaaS层,通过Triless平台架构实现资源、框架、工具三重解耦,为大模型训练与推理提供标准化工具支撑,降低了词元服务的技术门槛。

端侧落地是运营商开展词元经营的独特优势。区别于互联网厂商依赖中心化算力的模式,运营商拥有覆盖全国的网络节点与海量终端触点,能够将词元推理能力下沉至边缘节点与用户终端,在家庭安防、智慧家庭、行业终端等场景实现本地推理,既降低了中心算力压力,也缩短了服务响应时延。这种“云网边端”一体化的布局,让运营商的词元服务能够更贴近生产生活场景,具备规模化落地的天然基础。

Token倒逼智算产业链系统性重构

万亿级词元调用量的爆发式增长,正在从需求端反向重塑整个智算产业链的供给结构,推动产业从单点技术突破向全链条系统性变革演进。

算力端的需求结构正在从“训练驱动”向“训练+推理双轮驱动”切换。中国信通院报告指出,基础大模型训练推动了第一波智算集群建设浪潮,而随着AI应用规模化落地,模型推理将成为智算基建的第二条增长曲线。当前运营商的智算中心已开始同步适配训练与推理两类需求,通过算力池化、弹性调度应对词元调用的潮汐效应。

网络端的算网融合趋势持续深化。词元的实时调用特性对算力与网络的协同提出了更高要求,算力不再是孤立的节点资源,而是需要依托高速网络实现全域调度。运营商凭借基础网络优势,成为算网融合的核心推动者。如中国电信打造的“息壤”算力分发网络平台,可实现跨服务商、跨地域、跨架构的算力统一管理与调度,为不同场景的词元调用匹配最优算网资源。

平台端的一站式服务能力成为核心竞争力。随着词元成为通用计价单位,用户不再满足于单纯采购算力,而是需要“算力+模型+工具+运维”的一体化解决方案。目前运营商诸多平台已推出一站式智算服务,覆盖从数据管理、模型训练、部署上线到推理调用的全生命周期,用户可直接按词元用量结算,无需关注底层算力细节。这种一站式模式大幅降低了AI应用的落地门槛,也让词元的流通效率得到显著提升。

万亿级调用下的成本优化与价值提升路径

国家数据局数据显示,我国日均词元调用量已超140万亿次,且仍保持高速增长态势。规模扩张带来产业机遇的同时,也带来了巨大的算力成本压力。如何在保障模型服务效果的前提下,控制单位词元的算力消耗,实现模型效率与算效的平衡,是运营商乃至全行业必须破解的核心命题。

从技术路径看,模型轻量化与国产适配是成本优化的核心抓手。针对通用大模型参数量大、推理成本高的问题,运营商可基于自身行业积累,面向政务、工业、客服等典型场景推出轻量化行业模型,通过模型蒸馏、参数稀疏化、量化压缩等成熟技术,在保障场景效果的前提下,大幅降低单Token推理的算力需求。与此同时,持续推进模型与国产算力芯片的深度适配,挖掘国产芯片的性能潜力,逐步降低对高端进口芯片的依赖,从硬件层面控制算力采购成本。

从架构层面看,算网边端协同推理是提升整体效能的关键方向。构建“中心云-边缘节点-终端设备”的分层推理体系,将简单交互、低时延要求的词元处理任务下沉到边缘与端侧,复杂推理、多模态生成等高算力需求保留在中心节点,通过任务拆分与动态调度,实现算力资源的分层复用。这种模式既能够缓解中心算力的供给压力,也能减少数据传输带来的带宽成本与时延损耗,尤其适合智慧家庭、工业现场等分布式场景。

从运营维度看,精细化调度与分级服务可实现资源价值最大化。依托算网调度平台,对全国算力资源进行潮汐调度与闲时复用,错峰填补算力需求的波谷,提升整体算力利用率。同时,针对不同行业、不同场景的词元调用需求,推出差异化的分级服务,对金融、医疗等对精度和稳定性要求高的场景,提供高性能模型与专属算力保障;对通用客服、内容生成等场景,提供优化后的轻量模型与普惠型定价。通过价值与成本的匹配,在控制整体成本的同时,保障核心场景的服务质量。

从流量经营到词元经营,运营商的转型轨迹,正是我国数字经济向智能经济升级的缩影。万亿级词元调用不是产业发展的终点,而是高质量发展的新起点。在规模增长的浪潮中守住效能底线,通过技术创新、架构优化与运营精细化实现平衡,运营商不仅能找到自身的新增长曲线,也将为我国智能经济的可持续发展筑牢算网底座,推动AI技术真正高效、普惠地融入千行百业。


相关内容

热门资讯

神宇股份涨3.85%,成交额2... 5月6日,神宇股份涨3.85%,成交额2.29亿元,换手率5.11%,总市值65.05亿元。 异动分...
广发基金宣布增加瑞银证券为云计... 广发基金管理有限公司近日发布公告,宣布增加瑞银证券为旗下部分ETF的一级交易商。此次新增的一级交易商...
特斯拉一季度净利锐减71%!马... 当地时间4月22日,特斯拉首席执行官埃隆·马斯克表示,他计划在5月“大幅”减少为特朗普政府工作,以专...
湖北国资:一年收了4家上市公司... 你好,我是涛哥,专注于并购重组投资。这是涛哥的第69篇原创文章。 2024年,湖北国资收了4家上市公...
紫燕食品发布2024年年报:创... 4月17日晚,上海紫燕食品股份有限公司(简称:紫燕食品,603057.SH)发布2024年年度报告。...
原创 腾... 海内外大厂大模型研发正在进入新升级周期,为了加速补齐技术短板,腾讯混元近日进行了大幅架构调整,重构研...
红利策略进化论:从防御盾牌到现... 当前市场对贸易摩擦的敏感度明显降低,近期各类关税消息虽然层出不穷,但A股基本走出脱敏行情,相关板块波...
钧达股份通过港股IPO聆讯:光... 瑞财经 吴文婷 4月21日,海南钧达新能源科技股份有限公司(以下简称“钧达股份”)通过港交所聆讯,华...
鲁东红:提振消费政策落到实处,... 编者按:提振消费、扩大内需是促进经济持续回升向好的关键之举。近日,中国人民大学重阳金融研究院 宏观研...
我市加快建设水利基础设施持续增... 我市加快建设水利基础设施持续增强水利支撑能力 ■ 截至目前,全市136个项目已开工建设,累计完成投资...