官方网站-首页官方网站-首页

联系电话021-26883548
搜索本站

新闻中心

洞悉品牌力与AI变革

国产Token优化工厂在2026世界人工智能大会正式发布

时间:2026-07-18 21:08:27
来源:
阅读量:28
分享: 分享到微信 分享到QQ 分享到微博

  (来源:千龙网)

  7月17日,2026世界人工智能大会(WAIC 2026)在上海开幕。是石科技正式发布“国产Token优化工厂——拓元(Vectron)”。

  是石科技创始人兼董事长闫博文表示,“拓元”的定位是把每一份算力变成稳定、高效的Token(词元)——同等算力投入下产出更多有效Token,同等大模型部署下实现更快的推理响应,同等显存硬件下超长上下文运行更稳。“拓元”的核心逻辑是“一套系统完成AI推理全链路优化”。在任务自适应层面,依托请求画像匹配最优计算链路,算力按需分配,减少资源浪费;在算子库层面,通过硬件专属算子融合编译,充分释放极限算力;在模型与推理框架层面,兼容主流国产硬件与大模型,异构深度调优,提升业务并发量;在异构集群调度层面,破除跨地域、多硬件算力孤岛,统一纳管调度,盘活闲置算力。

  目前AI基础设施面临的效率难题主要包括,异构算力难以统一调度、大模型推理缺乏深度优化、长上下文导致显存与成本压力骤增、国产硬件生态适配成本高昂等。闫博文表示,针对这些痛点,“拓元”在结果感知驱动的KV Cache压缩、全模态推理的Token压缩、长上下文后训练优化、深度推理优化,以及智能体长程任务记忆机制五个方面带来了实质性突破。

  截至目前,“拓元”已兼容10余款国产算力硬件,可适配20余个主流模型,每日Token吞吐量达到千亿级,服务客户涵盖互联网企业和头部大模型厂商,以及高端制造、航空航天、生物制药、新能源等行业,应用场景包括编程应用、文生视频、OPC社区(一人社区)、企业智能体等。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。