现货黄金站上5050美元，现货白银107美元，现货铂金突破2800美元。
来源：外汇交易员
🌏 #全球要闻速览 2026-01-25
Engram对比传统LLM，有什么区别？
通过将部分 Transformer 层替换为 Engram 模块，训练时将部分知识挂载在模型特定的embedding层，推理时可实现根据 input token 通过哈希映射获得相应的 embedding索引，并将对应注入到模型主干网络的 hidden state 中，其中哈希映射的逻辑没有LayerNorm和非线性激活函数，计算量非常少，意味者这部分可由cpu进行计算。传统LLM在推理时，由于知识可能分布在不同层的 FFN 中，因此每次推理都需要把所有层都计算一次。而 Engram 可能在每轮计算中，通过哈希映射已经找到了对应的知识，当这个向量注入到主干网络后，门控可以判断其能否作为输出的一部分，从而实现某种程度上的 early exit。
相比Cpu取代Gpu的叙事，更重要的是存算分离。
论文虽然提到了“20/80比例”，但同时证明了更大的知识层能依然能使模型的loss下降依然遵循幂律，并且这是基于3B小模型上获得的实验结果。
目前MoE模型有着总参数大，但激活量小的特点。因为其在推理时只会激活 n 个专家，而激活量只相当于激活专家的总和。在推理时，却需要加载所有专家的权重。因此MoE会耗费非常多的显存，但计算却只需要相对于模型总参数量很小的一部分权重。
同时，由于MoE模型提前预测激活专家准确性较低，而且FFN非常厚重，通过远程内存阵列加载所有权重并流式读取在目前基本不可能，因为要低延迟其需要很高的传输带宽。目前大部分多卡分布式推理都是将模型分成多个切片在多张gpu上计算，这是极其浪费的。
而在Engram中，主干网络可能相对于embedding层来说，可能只需要保证拥有各领域基础的思维模式和基础知识，其余信息可通过哈希映射在embedding层中获取，这大大较少了模型计算的深度，提高了推理时的效率。
Engram 在前面几层就可以根据输入来获取哈希映射进而取出命中的“知识”，并且通过demo代码中 EngramConfig 可知，n_embed_per_ngram为512，n_head_per_ngram为8，在Fp16的情况下，只需要1kb的传输量。当然demo中hidden_size仅为1024，意味者这个demo对应的大概是1B左右的小模型。但即使生产部署的情况下，这个数值也不会很大，因为单个ngram的信息量只是一个词组。
由于其对比FFN而言，跨节点通讯所需的带宽大大缩短。因此，用专门的内存阵列来存储low-rank知识层，单张gpu加载主干网络变得可行，并且不需要昂贵专用互联技术，进而提升目前硬件的计算效能。
同时，Engram 也使端侧算力有限的情况下，大模型能力提升提供了一条新的路径。
（独立撰稿 LoopDns）
1月25日，腾讯旗下AI助手应用“腾讯元宝”发布《关于春节分10亿现金的通知》，宣布将于2月1日正式开启新春活动，向用户派发总额高达10亿元的现金红包。
据腾讯内部人士向《科创板日报》记者透露，元宝即将上线全新玩法，已启动内测邀约。另外，腾讯公布的产品界面图中已悄然新增一个名为“派”的底tab入口。
明尼阿波利斯再度发生联邦执法人员开枪致死事件，一名37岁美国籍男子被多名联邦特工压制在地后遭近距离射击，现场出现连续枪声，至少10声以上。
加拿大总理卡尼（在达沃斯经济论坛）的演讲：旧秩序不会回来了！如果我们不能成为座上宾，便会沦为盘中餐！
加拿大总理卡尼（在达沃斯经济论坛）的演讲：旧秩序不会回来了！如果我们不能成为座上宾，便会沦为盘中餐！
发布视频
Video is too big
国家安全部1月24日通报：某境外旅游穿搭博主，因常在视频中“夹带私货，散布歪曲事实、抹黑中国国家形象的言论”而被中国当局封禁。其粉丝陈某，接他人询问观看渠道，遂从境外搬运作品，二次剪辑后售卖给境内粉丝。
安全机关查处认定，其向千余人传播出售“危害国家安全”的视频数十条，获利数万元，“等待陈某的将是法律的严惩”。
张又侠、刘振立涉嫌严重违纪违法被立案审查调查
中央政治局委员、中央军委副主席张又侠，中央军委委员、中央军委联合参谋部参谋长刘振立涉嫌严重违纪违法，经党中央研究，决定对张又侠、刘振立立案审查调查。
美国明州明尼阿波利斯1月24日再有ICE执法人员射杀美国公民事件发生，死者是37岁男性 Alex Jeffrey Pretti，职业为重症护士，合法拥有枪支。现场视频显示，他正冒着辣椒水试图救助一名被ICE击倒的女子，结果被多名执法人员围攻，在枪声中倒地。
州长沃尔兹已下令动用国民警卫队，协助警方处理“上千名联邦移民特务在本地社区造成的公共安全破坏”。
（美联社，NBC）
俄罗斯、乌克兰和美国在阿联酋举行为期2天的会谈。泽连斯基称会谈富有“建设性”，会谈的中心议题是结束战争的“可能性方案”，“我非常赞赏各方理解美方有必要监督和监控结束战争的进程并确保真正的安全”。
泽连斯基称，就结束战争及其所需的安全条件，美方提出了“可能性方案”。各方一致同意回国后就会谈各个方面向各自领导人汇报并协调接下来的步骤。军方代表还确定了下次会谈可能讨论的议题清单。他说，只要各方愿意继续，下次会谈有望下周就举行。
（新华社，美联社）
海地过渡总统委员会成员莱斯利·伏尔泰和勒布朗·菲斯1月23日宣布，过渡总统委员会已决定解除总理菲斯-艾梅的职务。
两人表示，该决定已获得过渡总统委员会7名有投票权成员中5人的支持，达到通过所需多数。他们表示，过渡总统委员会有权在2月7日之后推动新政府和新的总统领导机构接管国家事务。
美国国务卿鲁比奥23日凌晨与菲斯-艾梅通话时强调了总理留任的重要性，要求过渡总统委员会必须在2月7日前按期解散，以推动海地政治进程。
此前，海地曾计划在2月7日前选出新的民选总统。但去年11月海地媒体报道称，临时选举委员会决定将2026年8月30日暂定为新的总统选举投票日期，选举进展取决于安全和资金状况。
（新华社，路透社）
解放军报社论，列举张又侠、刘振立罪名，认为他们对战斗力建设造成极大破坏。
严重践踏破坏军委主席负责制，严重助长“影响党对军队绝对领导、危害党的执政根基”的政治和腐败问题。
社论说，冰冻三尺非一日之寒，除三尺之冰也非一日之功，现在不是越反越腐，而是越挖越深。从政治上正本清源，推动人民军队换羽重生。
社论又说，任何风浪考验都撼动不了军队铁心向党的如磐信念。
（新华社）
特朗普1月24日威胁，如果加拿大与中国达成贸易协议，将对加拿大征收100%关税。特朗普警告加拿大总理卡尼，与中国的协议危及加拿大国家安全。
特朗普还暗示中国将试图利用加拿大规避美国关税，称如果卡尼认为他会把加拿大变成中国向美国运送货物和产品的“卸货港”，那他就“大错特错”了。
特朗普此前曾表示，卡尼应该与中国签署协议。
卡尼本周在达沃斯论坛上公开谴责强国将经济一体化作为武器和关税作为筹码。特朗普22日撤回对卡尼加入所谓“和平委员会”的邀请。
（路透社）
国家安全部1月24日通报：某境外旅游穿搭博主，因常在视频中“夹带私货，散布歪曲事实、抹黑中国国家形象的言论”而被中国当局封禁。其粉丝陈某，接他人询问观看渠道，遂从境外搬运作品，二次剪辑后售卖给境内粉丝。
安全机关查处认定，其向千余人传播出售“危害国家安全”的视频数十条，获利数万元，“等待陈某的将是法律的严惩”。
（国家安全部）
张又侠、刘振立涉嫌严重违纪违法，中共中央研究决定对二人立案审查调查。国防部发言人1月24日在记者会上宣布此事。
（中国国防部）
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。
