泛在服务
(来源:上观新闻)
这不是MCP的错🍀,是当💕初设计MCP的人🗞没预料到项目🍋🤑管理这种场景🛌🏞的复杂度😵。如果只看表😂面,这像是🏪🙍♂️资本继续押🙆♂️注头部城🔬市;但如果拆开🤲🇦🇲来看,会🎓发现这不是简🏄♀️单的一线⏪城市虹吸🇮🇷🔇效应,资金并不是🎠无差别的涌向🚒大城市,而🚮是沿着不🥽同产业带,在🇩🇯做更精细的🦒分配💉。
现在节☢点负责人自己🇸🇰🍹就能把他负责📢的节点转↖☯成AI🧡⚖节点,🇯🇴🏴让AI接管🌝🎗泛在服务。黄仁勋在G🤢🕸TC上明确划定⛏了这种分工🌰🤔,纯粹的高🙁🛳吞吐训练与批量推🗿理继续由Ve📊🕓ra Rub🥔in承担;实时🇧🇩代理式AI、对🙌话推理和🥽低延迟交🇨🇩互工作负载🕦🇨🇺,则需🇵🇾🌛要LPU的加持😉。
在GTC 202🥩6主题演讲上,🔦英伟达CEO🚗黄仁勋将这一现象🍼称为“上🇦🇶🚫下文爆炸”,📡随着历史记⏲🌩录、工具输出和推👩🏭理步骤反👁️🗨️复传递🇧🇯♻,token🧭😦总量以指数级增长🍧🍸,推理成本🌤随之急剧上升🧀👨🦱泛在服务。