Popular search:名下多出15台车初代吸血鬼女婴起名王者荣耀名侦探柯南复仇者联盟

文明之旅

雷扎伊：伊朗告诉世界各国，不要与美国一起对伊朗发动经济战，任何参与对伊朗实施经济限制的国家，都被伊朗视为敌人_我的网站

天下足球

一 |     评论          发表。    

快科技8月22日消息，据报道，随着AI从模型开发转向大规模部署，推理算力需求正以前所未有的速度膨胀。然而，国产AI芯片在处理编码等复杂推理任务时仍需要提高，导致国产AI企业不得不在有限的英伟达芯片供应中挤牙膏式地分配算力。趋境科技副总裁关嘉伟近日向媒体透露，推理市场已出现明显的两极分化。高质量Token的需求远大于供给，高端任务对性能的要求极为严苛，国产处理器目前还无法稳定满足。尤其是在编码等场景中，用户愿意为此支付溢价，而这些高价值任务目前仍高度依赖英伟达的芯片。正是这种供需失衡，直接推高了英伟达芯片的租赁价格。趋境科技数据显示，英伟达H200芯片的月租赁价格已从2025年第三季度末的5万至8万元人民币，飙升至今年早些时候的10万元以上。

二 | Token用量的爆炸式增长是需求端的直接推手。最新统计数据显示，我国日均词元调用量在2026年6月已激增至近175万亿，较2024年初增长超千倍。面对严峻的供应压力，中国AI企业被迫寻求技术突破。月之暗面设计了一套面向异构推理场景的数据传输库，可实现英伟达H20与华为昇腾910B芯片之间的高效数据交换。趋境科技则采用了“异构P/D分离”技术，让昇腾910B处理请求的初始阶段，英伟达H20负责最终的响应生成。趋境科技的推理引擎KTransformers已成功在单张RTX 4090上运行DeepSeek完整版模型，成本降低10至20倍。H200月租破10万仍抢不到！国产AI芯片卡在编码这道坎：高价值Token只能靠英伟达

。

Current article:http://0nxzfx.shangfochengcongshuaizhuang.buzz/dy6wi/20260826/2475.html

Published on:17:55:53


卧虎藏龙_Random reading

致我们终将逝去的青春

孤独的美食家_Active users

霍去病_Hottest this week