（来源：上观新闻）
飞书项目🍻做的事情，💽就是那条流😇😜水线🛏🇱🇾。预填充是☂计算密集🦵🇯🇲型任务🇧🇮，与训练相似📌；解码🍔则是内存带🦶宽密集🧖♀️型任务🇸🇦，每生成🍔🇩🇰一个t🌈oken💅，都需♿要将模型的全部活🚴♀️🦀跃参数从内存中🐺8️⃣流过一遍🧿🙇♀️。与此同时，🇺🇾🎶据称该系统每👖🤫秒每个用🇱🇹户最多可生成 3🗽🚶♀️00 个to🧞♂️kens，并且📆他们预计在不久的🚕🕙将来通过🎬⚓软件改进将这一数🗼字提高到🇩🇬 350🇬🇮。
大型模型越😭来越多地运行在分🐯布式集群而🇰🇲非单一系🇸🇽🧑统上，🔦因此互连效📴🇫🇲率成为决定可扩展🙎♂️性和持续🔉📨性能的关键😎因素🦀。其实大家可以👊⚱仔细想想，🐺🎙不管是张雪，还是🚿🍈余承东，他们都💱是在自己的领域😿👨🌾里拼命实干的人🤯🇨🇿。
