文明之旅

各种AI端云模型大爆发，路由的重要性开始凸显_我的网站

A |     飞象原创（魏德龄/文）路由是很多人所熟悉的词汇，最先想到的莫过于家中的路由器，它在网络层面，将数据拆分为一个个小小的“数据包”，以最经济的传输路径，把数据传给下一个节点。如今，“路由”一词又越来越多在人工智能领域被提及。

B |          当然，此“路由”自然并非彼“路由”，但又有异曲同工之处。

C |          AI也需要路由          目前，在人工智能领域中，“路由”一词在被越来越多提及的同时，还在不同的讨论场景下，加上了相应的前缀，但总体原理上不尽相同，均在于面对不同需求，对于算力的智能分配。

D |     这篇文章包含 Lanterns 第一集的剧透。

E | Lanterns 第一集的结局令许多粉丝感到不满，尽管创作者们预料到了这种反应。在 Lanterns 第一集的结尾，剧集快进到了大约十年后，展示了 Hal Jordan 在本集早些时候出现的足球场上的尸体。然而，他的戒指不见了，而 John Stewart 也没有拿到它。Jordan 将会回归，因为剧集似乎将在两个时间线之间穿梭：2016 年和 2026 年。

F |          “算力路由”在算力感知网络中用来支撑“最优路径+最佳算力”的分配逻辑，将业务流量动态调度至算力资源的最优节点。此前，IETF还正式成立了算力路由工作组，来推进在通信协议中，使用“路由”来对算力流量进行优化分配。创作者坚称，在现有的时间线中，Hal Jordan 确实已经死了，这导致该角色的部分粉丝非常愤怒。“多亏了这个结局，正式告别 Lanterns，想象一下开启新的 DCU 却没有 Hal Jordan，”一位愤怒的粉丝说道。

G | “James Gunn 做得太差劲了。滚吧，DCU。         “模型路由”则在消费电子领域中，用来形容端侧与云端模型算力的智能切换。智能路由机制会将复杂的任务拆解为子任务，通过决策器判断该子任务是留在本地（端侧）执行以保护隐私并节省成本，还是脱敏后发往云端执行以利用更强大算力。         与此同时，现代负载均衡器已演变为“智能请求路由”系统，它们不再将请求视为可互换的单位，而是根据模型的复杂度、数据的本地性以及硬件的亲和性来导向流量。”“这是一个不尊重 DC 角色的垃圾宇宙，”一位以 Green Lantern 为头像的粉丝说。“我早就知道这部剧在 2024 年会是垃圾，这就是我抵制 Superman 和所有 DCU 相关内容的原因。这种“路由”将不仅看脸结束，还会监控CPU、GPU使用率和队列深度，以实现多维度的资源优化。”一些粉丝对 Hal 的整体刻画表达了挫败感，因为他在剧集中显得更老、愤世嫉俗且酗酒。         节省资源，保护隐私          在各个节点的算力，以及位于不同位置的模型间，使用路由来进行调度的好处在于节约资源与将敏感数据留在本地。         一个最简单易懂的原理在于，有时用户请求大模型的问题，可能仅仅是一个百科查询的问题，或只是简单的调侃，甚至所谓的低幼问题。

H | “这绝对没有致敬漫画，”另一位 Green Lantern 粉丝说。“对 Hal 的这种刻画太糟糕了。

I | 但这些请求与复杂的研究与生成内容，一样传送至了高参数量的模型中运行，几乎可以说是对算力资源的一种浪费。在第一集就杀死 Hal 是愚蠢的，即使那不是真的他。他需要成为焦点；否则，这部剧不会成功。一部太空拍档警匪剧需要两个拍档共同协作。         以英特尔在智能体PC中采用的路由机制为例，可以通过固定规则或AI模型判断该子任务的复杂度。如果子任务与本地AI能力的匹配度高，则被判定为“简单任务”，路由至本地小参数量模型执行。若本地无法胜任，则路由至云端API。”“为什么他们总是要把我们的传奇英雄变成抑郁的瘾君子，变成可耻、堕落、悲伤、孤独的笑话？”一位沮丧的观众问道。         该功能还能同时提供保护敏感数据的能力，例如目前很多公司在内部，均开始限制公司资料上传至云端AI的权限，甚至使用专用的浏览器，来对数据进行水印添加、拦截上传等操作。

J | 最后，另一位 DC 粉丝将这个结局视为 Josh Brolin 和 Matthew McConaughey 等大牌明星拒绝出演 Green Lantern 一角的原因：“现在我明白为什么没有大牌明星想演 Hal Jordan 了。而通过路由机制，可以进行隐私脱敏处理，在调度过程中，所有必须发往云端的数据都会先在本地进行脱敏处理，保护敏感信息。同时，路由并不盲目信任端侧结果。”这并不是说所有的反应都很糟糕；只是这个结局引起了分歧。一些观众（包括我自己在内）认为，通过让这一谋杀悬疑剧的受害者成为我们真正投入情感的角色，从而创造了一个引人入胜的谜团。节目统筹 Chris Mundy 在一次采访中解释说，这是刻意设计的。“我们需要这个谜团对 John、对 Hal 以及对观众来说都尽可能有意义、尽可能动人。所以，在一部讲述某人试图守住某物、失去它，然后他最终的结局以及原因的剧集中，[这样做] 感觉是正确的。在端侧执行完成后，系统会进行质量校验。

K | 我们能推导出那个结果吗？我们该如何利用它？因为显然你不会轻易做出这样的决定。这是一件大事。若结果不达标，会将其脱敏后重新提交至云端执行，并最终完成结果拼装。         路由机制也具备与AI一样的学习能力，能从过往的调度错误中积累经验，不断优化子任务的切割方式和分类器的准确度，使其越来越贴合用户习惯。         这种路由原理，在更广的终端范围内同样适用，例如在智能手表、XR眼镜、手机、边缘算力与云端，路由机制在未来同样可以完成对于任务复杂度的调度。那么，这样做是否不仅为了衬托 John，也为了以最好的方式衬托 Hal 呢？所以，他们对我们有信心，或者说至少信任我们能以应有的关怀来处理这件事，我们感到非常幸运。

L | 但没错，这确实有点重大且令人畏惧，因为这是一个抉择。

M | ”网上甚至有一些猜测认为 Hal 并没有真正死去，这与剧集创作者的言论相反。如调整设置、快速检索、优化照片这样的简单任务可以由本地2B小模型处理。第一集引入了变形外星人和 Hal 的全息图版本。这足以让任何人猜测我们所看到的景象是否真的如其所见。Cade Onder 是一名自由撰稿人。而当可穿戴设备侧算力不足时，调度平台会将任务分流到与其连接的手机、PC或专用计算单元，通过7B-10B参数的模型进行处理，而针对极其复杂的重负载任务或需要海量数据支撑的请求，系统会通过调制解调器将任务发送至云端处理。

N |          不过，对于个人用户的隐私保护而言，一旦涉及设备迁移，个性化数据则需要经过加密处理的云端服务来完成，以便用户购买新设备时，这些模型和数据会从云端无缝流转回新的端侧设备，避免了重新训练和磨合的周期。他负责报道包括游戏、电影在内的各类娱乐新闻。

o |          以往在家庭网络中被人熟悉的路由概念，如今正准备开始指挥一场关于算力的交通。而在对不同任务需求再拆分再分配的背后，用户端不仅将保持无感的体验，还将获得时延更低的反馈，以及更好的数据保护，甚至是深度用户对于Token费用的节省。你可以在 Twitter 上关注他 @Cade_Onder。

Current article:http://bwhfbnb.minshixuanhabing.bond/dee9ooa/6pwuj.html

Published on:14:19:29