【Transformer 与注意力机制】30｜预训练目标：BERT、GPT、T5... - 惯性聚合

推荐订阅源

Netflix TechBlog - Medium

Engineering at Meta

Recent Announcements

The Blog of Author Tim Ferriss

Proofpoint News Feed

钛媒体：引领未来商业与生活新知

Microsoft Security Blog

宝玉的分享

Last Week in AI

OSCHINA 社区最新新闻

博客园 - Franky

博客园 - 聂微东

Microsoft Azure Blog

博客园 - 叶小钗

酷壳 – CoolShell

WordPress大学

罗磊的独立博客

土法炼钢兴趣小组的算法知识备份

国密算法与国密 TLS 系列索引【系统架构设计】架构质量属性：不只是"高可用高性能" 【系统架构设计百科】告警策略：如何避免"狼来了" 【系统架构设计】CQRS：读写分离的架构哲学【系统架构设计】空间架构：极端扩展场景的解法【系统架构设计】微服务架构深度审视：优势、代价与适用边界【系统架构设计】扩展性原理：水平、垂直与对角扩展【系统架构设计】无状态设计：扩展的第一步也是最难的一步【系统架构设计】缓存架构：从本地到分布式的多级缓存体系【系统架构设计】管道与过滤器：Unix 哲学的架构表达【系统架构设计】复杂性管理：架构的核心战场【系统架构设计】消息队列架构：异步解耦的设计与陷阱【系统架构设计】CDN 架构：全球加速的设计原理【系统架构设计】连接池设计：被忽视的性能杀手【系统架构设计】弹性设计模式：熔断器、舱壁与超时【系统架构设计】高可用设计模式：冗余、故障转移与仲裁【系统架构设计】容量规划：从拍脑袋到数据驱动【系统架构设计】数据库扩展：分库分表的工程实践与替代方案【系统架构设计】SLO 工程：可靠性的量化管理【系统架构设计】性能建模：用数学思维分析系统瓶颈【系统架构设计】混沌工程：主动验证系统的韧性【系统架构设计】零拷贝与内存映射：数据搬运的极致优化【系统架构设计】线程模型：从 thread-per-request 到协程【系统架构设计】容灾架构：多活与灾备设计【系统架构设计】数据库性能模式：索引、查询与连接管理【系统架构设计】数据建模：从关系范式到文档模型的真实权衡【系统架构设计】吞吐量优化：批处理、流水线与并发模型【系统架构设计】流处理架构：从批处理到实时的范式迁移【系统架构设计】搜索引擎架构：倒排索引之上的系统设计【系统架构设计】时序数据架构：监控与 IoT 的存储设计

【Transformer 与注意力机制】30｜预训练目标：BERT、GPT、T5...

2026-04-15 · via 土法炼钢兴趣小组的算法知识备份

此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。原文来自 — 版权归原作者所有。