惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

C
Cisco Blogs
NISL@THU
NISL@THU
G
GRAHAM CLULEY
T
Threatpost
I
Intezer
D
Darknet – Hacking Tools, Hacker News & Cyber Security
P
Proofpoint News Feed
L
Lohrmann on Cybersecurity
Cisco Talos Blog
Cisco Talos Blog
P
Privacy & Cybersecurity Law Blog
Security Latest
Security Latest
P
Palo Alto Networks Blog
L
LINUX DO - 热门话题
Cyberwarzone
Cyberwarzone
AI
AI
Help Net Security
Help Net Security
Forbes - Security
Forbes - Security
T
The Exploit Database - CXSecurity.com
月光博客
月光博客
The GitHub Blog
The GitHub Blog
aimingoo的专栏
aimingoo的专栏
C
CERT Recently Published Vulnerability Notes
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
N
News and Events Feed by Topic
Recent Commits to openclaw:main
Recent Commits to openclaw:main
Scott Helme
Scott Helme
A
About on SuperTechFans
N
Netflix TechBlog - Medium
TaoSecurity Blog
TaoSecurity Blog
V
V2EX
MongoDB | Blog
MongoDB | Blog
AWS News Blog
AWS News Blog
Google DeepMind News
Google DeepMind News
Google Online Security Blog
Google Online Security Blog
O
OpenAI News
Y
Y Combinator Blog
S
Securelist
GbyAI
GbyAI
D
Docker
SecWiki News
SecWiki News
The Hacker News
The Hacker News
有赞技术团队
有赞技术团队
T
Tenable Blog
WordPress大学
WordPress大学
S
SegmentFault 最新的问题
P
Privacy International News Feed
S
Security Affairs
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Hacker News - Newest:
Hacker News - Newest: "LLM"
H
Hackread – Cybersecurity News, Data Breaches, AI and More

博客园_首页

Plist 二进制格式 Milvus 和 PGVector,哪个更好? OpenClaw 已过时?在 VS Code 中运行 Hermes Agent! 第30篇文章:一个大三计科生的自白 Manim如何在数学公式中完美显示中文? Docker 部署 RocketMQ 5 并发编程核心概念辨析 C#事务处理最佳实践:别再让“主表存了、明细丢了”的破事发生 CLI 是什么?为什么大厂突然集体卷命令行? 【从0到1构建一个ClaudeAgent】协作-自主Agent UIImageView 设置图片不生效的原因排查 最小二乘问题详解20:无先验约束下的增量式SFM自由网平差 痞子衡嵌入式:大话双核i.MXRT1180之XIP应用里借助MU实现可靠Flash IAP的方法 AI Chat 封装, SemanticKerne.AiProvider.Unified 已发布 Windows下右键编辑js文件无法打开记事本——在注册表中使用环境变量 在后台服务中使用 Scoped 服务,为什么总是报错? H200 安装驱动并使用sglang启动模型 wireshark 抓包Trap上报告警内容 我用 AI 辅助开发了一系列小工具(2):图片压缩工具 [A Primer On MC and CC] 2.1 Memory Consistency 1 - 指令重排序和 SC 模型 Oracle数据库SCN推进技术详解与实践指南 玩转控件:封装个带图片的Label控件 Claude Code 4.7 真正该升级的不是模型,而是你的工作流 前端小白一句话,AI 帮我做了个颜值拉满的桌面媒体播放器。当代码不再是门槛,一句话编程就是现实。 5. WorkBuddy: 小龙虾的灵魂三件套,让你的小龙虾不只是工具 SQLite 分片方案实战:三种分片策略的深度对比 告别简陋 UI!一款基于 Fluent Design 和基于 WinUI 的开源免费、现代化的 Avalonia UI 控件库 关于二进制排列组合枚举的总结 AI开发-python-LangGraph框架(3-27-LangGraph从零实现大模型智能决策工作流) ElasticSearch主分片和副本分片概念详解 【002】HTTPS 粗解:证书、TLS 握手与对后端配置的影响 Hermes Agent 一周暴涨五万 Star,但我劝你别急着追 明明连接的是Redis的DB0,为什么能查到DB3的数据? 【从0到1构建一个ClaudeAgent】协作-Agent团队 熟悉电子元器件之后,电子小白下一步该怎么走? MAF快速入门(23)通过C#类定义Skills .NET 高级开发 | 手写一个对象映射框架 FastAPI数据库ORM怎么选?我肝了三个Demo后,终于不再纠结了 mysqldump 参数拾遗:在遗忘与铭记之间 C# .NET 周刊|2026年3月5期 Claude code入门 - 陈彦斌 一文学习入门 ThingsBoard 开源物联网平台 GitHub 热门项目 | 2026年04月16日 如何为GIT设置全局勾子,为每次提交追加信息 Number.isFinite和isFinite与isNaN()和Number.isNaN的区别 PortSwigger SQL注入LAB2 推荐一个测试人必备的Skills,从功能到性能全搞定(附详细实操和安装下载方式) 筑基期:掌握Odoo基础核心知识点02(Odoo XML 开发方式详解) GLM模型这么火,咱们用vllm也咧一个呗! 深入理解 AbortController:从底层原理到跨语言设计哲学 字符串学习笔记 多租户系统框架的基础模块设计和分析设计 Apache SeaTunnel Zeta 为什么能做到“又快又稳”? AI开发-python-LangGraph框架(3-26-LangGraph基本概念及第一个简单样例) Vue 3 组件通信,别只会用 Props 和 Emits 了,这几个狠活儿你得看看 ElasticSearch7.X版本配置密码 用Manim实现动态交点计算--从一个动点问题说起 团结引擎+Addressable+Instant Game打包抖音小游戏 function call 实战:让 LLM 自动判断 pod 异常、调用日志工具并完成故障分析 bubseek —— 让 Agent 的足迹,变成团队的洞察 通过 C# 读取并导出 PDF 书签 如何用 GitHub Actions 实现 Steam 自动化发布 【从0到1构建一个ClaudeAgent】并发-后台任务 .NET 高级开发 | 定制 ASP.NET Core 框架 电子小白:什么是运算放大器(运放) zero2Agent:面向大厂面试的 Agent 工程教程,从概念到生产的完整学习路线 堆上的ORW HC32F460 USB CDC通信异常:非对齐访问异常排查 20260413-Hyperbridge 攻击事件:发生在默克尔山上的验证绕过 那些喊着AI 要淘汰你的人,正在靠你的焦虑赚大钱! 深度学习进阶(八)Swin Transformer 最小二乘问题详解19:带先验约束的增量式SFM优化与实现 SnapTranslate 3.0 正式发布:全局划词翻译 + 完整英语学习闭环,一站式搞定查词、记词、复习 工作的意义、工作的困难认知再思考 .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 开了 TUN 模式还是直连?90% 的人都踩过这个坑 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术
一行代码抓遍全网 20 个热榜!Aneiang.Pa 4.0 发布 — 极简 .NET 爬虫库
Caco_D · 2026-06-23 · via 博客园_首页

var data = await Pa.Source("WeiBo").GetAsync(); — 微博热搜到手。
抓 20 个平台无需写代码,新增平台只需写一份 YAML。本文带你看完 Aneiang.Pa 4.0 的所有亮点。


引子:你写过多少次"重复的爬虫"?

我做这件事是因为 过去半年,我至少写了 5 次"抓某个热榜然后存数据库"的代码

  • 一次是给个人博客做"今日热点"侧边栏
  • 一次是给客户做内部数据看板
  • 一次是为了挖掘话题写公众号
  • 一次是测试 LLM 对中文热点的反应
  • 最后一次……我已经想不起来了,反正又重写了一遍

每次都长这样:

var client = new HttpClient();
client.DefaultRequestHeaders.UserAgent.ParseAdd("Mozilla/5.0...");
var html = await client.GetStringAsync("https://s.weibo.com/top/summary");
var doc = new HtmlDocument();
doc.LoadHtml(html);
var nodes = doc.DocumentNode.SelectNodes("//tr");
// ... 然后是 try/catch、重试、缓存、限流、日志...

这件事不应该每次都重写。

于是有了 Aneiang.Pa 4.0。


一行起步

using Aneiang.Pa;

var data = await Pa.Source("WeiBo").GetAsync();
foreach (var item in data.Data)
    Console.WriteLine(item["title"]);

完事。Pa.Source(name).GetAsync() 内部已经处理了:

  • ✅ HttpClient 创建和超时控制
  • ✅ UA 轮换
  • ✅ 3 次指数退避重试
  • ✅ 5 分钟内存缓存
  • ✅ 连续失败熔断 60 秒
  • ✅ 结构化日志
  • ✅ Prometheus 指标
  • ✅ OpenTelemetry 追踪

全部默认启用,零配置。


强类型映射

public class Repo
{
    public string? Title { get; set; }
    public string? Url { get; set; }
    public string? Lang { get; set; }
}

var repos = await Pa.Source("Github.Trending").GetAsync<Repo>();
foreach (var r in repos.Data)
    Console.WriteLine($"[{r.Lang}] {r.Title}");

20 个内置平台

分类 平台
新闻热榜 微博、知乎、B站、百度、抖音、头条
虎扑、腾讯、掘金、澎湃、豆瓣、凤凰网
CSDN、博客园、IT之家、36氪
GitHub Github.Trending、Github.Releases
彩票 双色球、大乐透
foreach (var r in Pa.Sources())
    Console.WriteLine($"{r.Category}/{r.Name}  {r.DisplayName}");

输出:

[News]    BaiDu             百度热榜
[News]    Bilibili          B 站热搜
[News]    DouYin            抖音热搜
[News]    Github.Releases   GitHub Releases (dotnet/runtime)
[News]    Github.Trending   GitHub Trending
[News]    WeiBo             微博热搜
[News]    ZhiHu             知乎热榜
... 共 20 个

新增一个平台 = 一份 YAML

想抓 Hacker News?写一份 hackernews.yaml

name: HackerNews
category: News
display_name: Hacker News 头条
fetch:
  url: https://news.ycombinator.com/
parse:
  type: html
  container: "tr.athing"
  fields:
    title:  { selector: "span.titleline a", trim: true }
    url:    { selector: "span.titleline a", attr: href }
    rank:   { selector: "span.rank" }
Pa.Configure(c => c.UseRecipesFolder("./recipes"));
var hn = await Pa.Source("HackerNews").GetAsync();

0 行 C# 代码。无需新建项目。无需重新编译框架。


四种 Recipe 来源,各有适用

方式 适用场景
内置 YAML 框架自带,开箱即用
外部 YAML 文件夹 配置外置,运维可改,社区共享
Builder DSL(C# 内联) 动态构造、运行时定义
特性标注 强类型、IDE 友好

Builder DSL 示例

Pa.Define("MyAPI", b => b
    .Get("https://api.example.com/items?page={pageNo}")
    .Header("Authorization", "Bearer xxx")
    .ParseJson(p => p
        .Items("$.data")
        .Field("id", "id")
        .Field("title", "title")));

var data = await Pa.Source("MyAPI").WithPaging(1, 30).GetAsync();

特性标注示例

[Recipe("MyTrending", Category = "Tech")]
[Get("https://github.com/trending")]
[Container("article.Box-row")]
public class Repo
{
    [Selector("h2 a")] public string? Title { get; set; }
    [Selector("h2 a", Attr = "href", Base = "https://github.com")] public string? Url { get; set; }
}

Pa.DiscoverFromLoadedAssemblies();
var data = await Pa.Source("MyTrending").GetAsync<Repo>();

ASP.NET Core 集成 — 5 行变 REST API

using Aneiang.Pa.AspNetCore;

var builder = WebApplication.CreateBuilder(args);
builder.Services.AddPa();

var app = builder.Build();
app.MapPaApi();
app.Run();

自动暴露端点:

GET /api/pa/sources             — 列出所有源
GET /api/pa/source/WeiBo        — 抓微博热搜
GET /api/pa/source/BaiDu        — 抓百度热榜
GET /api/pa/source/Lottery.SSQ  — 抓双色球
GET /api/pa/health              — 健康检查

打包成 Docker 镜像,一台服务器就能给你的所有项目提供热榜 API。


难搞的抖音怎么办?

抖音热搜接口需要先访问 login.douyin.com 拿 Cookie,否则直接 403。

Aneiang.Pa 内置 DouYinCookieMiddleware,自动处理:

var data = await Pa.Source("DouYin").GetAsync();

实测输出:

[DouYinCookie] 已获取 Cookie(114 字节,10 分钟内复用)
成功!共 48 条热搜:
  1. 拿捏夏日高能运动穿搭        🔥 11951312
  2. 父亲的爱藏在买与不买里      🔥 11907634
  3. 假日经济活力迸发           🔥 11989625
  ...

类似的特殊站点(小红书、微信公众号等)未来都会有对应的内置中间件。


性能与可靠性

  • 超时:30 秒硬超时(可配置)
  • 重试:3 次指数退避,最长 14 秒(500ms → 2s → 8s)
  • 熔断:连续 5 次失败开启 60 秒熔断
  • 缓存:默认 5 分钟内存缓存
  • 限流:滑动窗口令牌桶(按需启用)
  • 代理池:轮询/随机 + 健康跟踪 + 失败自动禁用

安装

# 主包(核心 + 20 内置 Recipe)
dotnet add package Aneiang.Pa

# Web API 集成(可选)
dotnet add package Aneiang.Pa.AspNetCore

# HTTP 客户端 SDK(可选)
dotnet add package Aneiang.Pa.Client

单包 18 MB 左右,无重型依赖。


实测截图

======================================================
  Aneiang.Pa 4.0 — 全能力 Demo
======================================================

── ① 所有已注册 Recipe ──
  [News] WeiBo / BaiDu / Bilibili / ZhiHu / DouYin / TouTiao ...
  [News] Github.Trending / Github.Releases
  [Lottery] Lottery.SSQ / Lottery.DLT
  共 20 个

── ② 基础调用 — 百度热榜 ──
  成功 50 条:
    - 2比2战平乌拉圭!佛得角再造冷门
    - 注意防范暴雨、强对流天气
    - 洲际导弹:不试则已 一试惊人

── ③ 强类型映射 — Github.Releases ──
  [v9.0.17] .NET 9.0.17  by by-msft  @ 2026-06-09
  [v8.0.28] .NET 8.0.28  by by-msft  @ 2026-06-09
  [v10.0.9] .NET 10.0.9  by by-msft  @ 2026-06-09

── ⑦ 缓存中间件验证 ──
  第二次调用 BaiDu(命中缓存): 0ms

适合谁

  • ✅ 想给自己的项目接热点 Feed 的独立开发者
  • ✅ 需要给客户做"数据看板""舆情大屏"的外包工作室
  • ✅ 想给 LLM 喂中文实时热点的 AI 应用
  • ✅ 对 .NET 爬虫库现状不满,想找一个"现代化"替代品的人

开源地址

Gitee: https://gitee.com/aneiangsoft/Aneiang.Pa

GitHub: https://github.com/AneiangSoft/Aneiang.Pa

欢迎 Star、Issue、PR

新增平台不需要写 C# 代码 —— 提交一份 YAML 文件就能让全世界的 .NET 用户用上你贡献的平台。

var data = await Pa.Source("YourPlatform").GetAsync();

期待你的贡献。


Aneiang.Pa 4.0 — 让 .NET 爬虫像 LINQ 一样自然。