惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Vulnerabilities – Threatpost
Know Your Adversary
Know Your Adversary
C
Cyber Attacks, Cyber Crime and Cyber Security
S
Secure Thoughts
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
宝玉的分享
宝玉的分享
Spread Privacy
Spread Privacy
AWS News Blog
AWS News Blog
D
Docker
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
TaoSecurity Blog
TaoSecurity Blog
博客园 - 三生石上(FineUI控件)
Apple Machine Learning Research
Apple Machine Learning Research
Cyberwarzone
Cyberwarzone
V
V2EX
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
WordPress大学
WordPress大学
P
Palo Alto Networks Blog
H
Heimdal Security Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
博客园 - 叶小钗
N
News and Events Feed by Topic
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Simon Willison's Weblog
Simon Willison's Weblog
Project Zero
Project Zero
Martin Fowler
Martin Fowler
大猫的无限游戏
大猫的无限游戏
D
DataBreaches.Net
Engineering at Meta
Engineering at Meta
S
Schneier on Security
Google DeepMind News
Google DeepMind News
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
Hugging Face - Blog
Hugging Face - Blog
P
Proofpoint News Feed
S
SegmentFault 最新的问题
Hacker News: Ask HN
Hacker News: Ask HN
小众软件
小众软件
博客园 - 聂微东
S
Security Affairs
T
Tor Project blog
www.infosecurity-magazine.com
www.infosecurity-magazine.com
T
Threat Research - Cisco Blogs
T
Threatpost
博客园 - 【当耐特】
L
LINUX DO - 热门话题
G
Google Developers Blog
P
Privacy & Cybersecurity Law Blog
A
About on SuperTechFans
F
Fortinet All Blogs

博客园_首页

Plist 二进制格式 Milvus 和 PGVector,哪个更好? OpenClaw 已过时?在 VS Code 中运行 Hermes Agent! 第30篇文章:一个大三计科生的自白 Manim如何在数学公式中完美显示中文? Docker 部署 RocketMQ 5 并发编程核心概念辨析 C#事务处理最佳实践:别再让“主表存了、明细丢了”的破事发生 CLI 是什么?为什么大厂突然集体卷命令行? 【从0到1构建一个ClaudeAgent】协作-自主Agent UIImageView 设置图片不生效的原因排查 最小二乘问题详解20:无先验约束下的增量式SFM自由网平差 痞子衡嵌入式:大话双核i.MXRT1180之XIP应用里借助MU实现可靠Flash IAP的方法 AI Chat 封装, SemanticKerne.AiProvider.Unified 已发布 Windows下右键编辑js文件无法打开记事本——在注册表中使用环境变量 在后台服务中使用 Scoped 服务,为什么总是报错? H200 安装驱动并使用sglang启动模型 wireshark 抓包Trap上报告警内容 我用 AI 辅助开发了一系列小工具(2):图片压缩工具 [A Primer On MC and CC] 2.1 Memory Consistency 1 - 指令重排序和 SC 模型 Oracle数据库SCN推进技术详解与实践指南 玩转控件:封装个带图片的Label控件 Claude Code 4.7 真正该升级的不是模型,而是你的工作流 前端小白一句话,AI 帮我做了个颜值拉满的桌面媒体播放器。当代码不再是门槛,一句话编程就是现实。 5. WorkBuddy: 小龙虾的灵魂三件套,让你的小龙虾不只是工具 SQLite 分片方案实战:三种分片策略的深度对比 告别简陋 UI!一款基于 Fluent Design 和基于 WinUI 的开源免费、现代化的 Avalonia UI 控件库 关于二进制排列组合枚举的总结 AI开发-python-LangGraph框架(3-27-LangGraph从零实现大模型智能决策工作流) ElasticSearch主分片和副本分片概念详解 【002】HTTPS 粗解:证书、TLS 握手与对后端配置的影响 Hermes Agent 一周暴涨五万 Star,但我劝你别急着追 明明连接的是Redis的DB0,为什么能查到DB3的数据? 【从0到1构建一个ClaudeAgent】协作-Agent团队 熟悉电子元器件之后,电子小白下一步该怎么走? MAF快速入门(23)通过C#类定义Skills .NET 高级开发 | 手写一个对象映射框架 FastAPI数据库ORM怎么选?我肝了三个Demo后,终于不再纠结了 mysqldump 参数拾遗:在遗忘与铭记之间 C# .NET 周刊|2026年3月5期 Claude code入门 - 陈彦斌 一文学习入门 ThingsBoard 开源物联网平台 GitHub 热门项目 | 2026年04月16日 如何为GIT设置全局勾子,为每次提交追加信息 Number.isFinite和isFinite与isNaN()和Number.isNaN的区别 PortSwigger SQL注入LAB2 推荐一个测试人必备的Skills,从功能到性能全搞定(附详细实操和安装下载方式) 筑基期:掌握Odoo基础核心知识点02(Odoo XML 开发方式详解) GLM模型这么火,咱们用vllm也咧一个呗! 深入理解 AbortController:从底层原理到跨语言设计哲学 字符串学习笔记 多租户系统框架的基础模块设计和分析设计 Apache SeaTunnel Zeta 为什么能做到“又快又稳”? AI开发-python-LangGraph框架(3-26-LangGraph基本概念及第一个简单样例) Vue 3 组件通信,别只会用 Props 和 Emits 了,这几个狠活儿你得看看 ElasticSearch7.X版本配置密码 用Manim实现动态交点计算--从一个动点问题说起 团结引擎+Addressable+Instant Game打包抖音小游戏 function call 实战:让 LLM 自动判断 pod 异常、调用日志工具并完成故障分析 bubseek —— 让 Agent 的足迹,变成团队的洞察 通过 C# 读取并导出 PDF 书签 如何用 GitHub Actions 实现 Steam 自动化发布 【从0到1构建一个ClaudeAgent】并发-后台任务 .NET 高级开发 | 定制 ASP.NET Core 框架 电子小白:什么是运算放大器(运放) zero2Agent:面向大厂面试的 Agent 工程教程,从概念到生产的完整学习路线 堆上的ORW HC32F460 USB CDC通信异常:非对齐访问异常排查 20260413-Hyperbridge 攻击事件:发生在默克尔山上的验证绕过 那些喊着AI 要淘汰你的人,正在靠你的焦虑赚大钱! 深度学习进阶(八)Swin Transformer 最小二乘问题详解19:带先验约束的增量式SFM优化与实现 SnapTranslate 3.0 正式发布:全局划词翻译 + 完整英语学习闭环,一站式搞定查词、记词、复习 工作的意义、工作的困难认知再思考 .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 开了 TUN 模式还是直连?90% 的人都踩过这个坑 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术
数据去重:通过 C# 删除 Excel 中的重复行
LAYONTHEGROU · 2026-05-13 · via 博客园_首页

在日常数据处理中,Excel 表格中的重复行是一个常见问题。无论是数据清洗、报表生成还是数据分析,去除重复记录都是一项基础且关键的操作。本文将详细介绍如何使用 Free Spire.XLS for .NET(一款免费、无需安装 Microsoft Office 的 Excel 操作组件),通过 C# 代码以编程方式删除 Excel 工作表中的重复行。

实现思路

删除重复行的核心逻辑如下:

  1. 指定关键列:确定用于判断重复的列(例如第一列 A 列)。
  2. 分组识别:遍历数据区域,根据关键列的值对每一行进行分组。
  3. 标记重复行:在每个分组中,保留第一次出现的行(索引最小),将其余行的行号记录下来。
  4. 安全删除:按照行号从大到小的顺序删除这些重复行,避免因删除操作导致的索引错位。

详细步骤解析

1. 安装免费库

在编写代码之前,通过 NuGet 安装所需的免费库:

Install-Package FreeSpire.XLS

或者在 Visual Studio 的“管理 NuGet 程序包”中搜索 FreeSpire.XLS 并安装。

注意:免费版提供了大部分基础功能,足以应对中小规模数据的处理需求。

2. 加载工作簿和工作表

using Spire.Xls;
using System.Linq;

// 创建 Workbook 实例并加载文档
Workbook workbook = new Workbook();
workbook.LoadFromFile("Test.xlsx");

// 获取第一个工作表
Worksheet sheet = workbook.Worksheets[0];

3. 确定数据范围

为了仅对实际存在数据的行进行操作,我们使用工作表的 LastRow 属性获取最后有效行号,并构造一个从 A1 到 A 列最后一行的范围(例如 A1:A100)。实际使用时,可以根据需要调整起始行,例如跳过标题行。

// 假设数据从第1行开始,以 A 列作为判重依据
string rangeAddress = $"A1:A{sheet.LastRow}";
var range = sheet.Range[rangeAddress];

4. 找出需要删除的重复行号

利用 LINQ 对范围内的每一行进行分组。DisplayedText 属性返回单元格在 Excel 界面上的显示文本(会考虑格式、公式计算结果等),相比直接使用 ValueText 更为可靠。

var duplicatedRows = range.Rows
    .GroupBy(row => row.Columns[0].DisplayedText)   // 按第一列的显示文本分组
    .Where(group => group.Count() > 1)             // 只筛选存在重复的分组
    .SelectMany(group => group.Skip(1))            // 跳过每组的第一行(保留行),取其余重复行
    .Select(row => row.Columns[0].Row)             // 获取这些行的行号
    .ToList();
  • Range.Rows 返回范围内的所有行对象。
  • GroupBy 根据 A 列的显示文本对行进行分组。
  • Skip(1) 忽略每个分组中的第一行(即保留的那一行)。
  • 最终得到 List<int>,其中包含所有待删除行的行号(升序排列)。

5. 删除重复行

关键点:如果直接按照升序的行号顺序删除,会导致后续行号发生偏移。正确的做法是从后往前删除,这样可以保证每次删除时行号仍然准确。

// 将行号降序排列,然后逐个删除
foreach (int rowNum in duplicatedRows.OrderByDescending(r => r))
{
    sheet.DeleteRow(rowNum);
}

也可以使用索引修正法:sheet.DeleteRow(duplicatedRows[i] - i),两种方法效果相同,但从后往前删除的逻辑更为直观。

6. 保存结果

workbook.SaveToFile("RemoveDuplicateRows.xlsx", ExcelVersion.Version2016);

默认保存为 .xlsx 格式,也可以指定为 .xls 或其他 Excel 版本。

完整代码示例

将以上步骤整合为一个完整的控制台应用程序(包含资源释放建议):

using Spire.Xls;
using System.Linq;

namespace RemoveDuplicateRows
{
    class Program
    {
        static void Main(string[] args)
        {
            // 使用 using 语句确保资源被正确释放
            using (Workbook workbook = new Workbook())
            {
                // 加载文档
                workbook.LoadFromFile("Test.xlsx");

                // 获取第一个工作表
                Worksheet sheet = workbook.Worksheets[0];

                // 定义判重范围(A列,从第1行到最后有效行)
                var range = sheet.Range[$"A1:A{sheet.LastRow}"];

                // 获取需要删除的重复行号
                var duplicatedRows = range.Rows
                    .GroupBy(x => x.Columns[0].DisplayedText)
                    .Where(x => x.Count() > 1)
                    .SelectMany(x => x.Skip(1))
                    .Select(x => x.Columns[0].Row)
                    .ToList();

                // 从后向前删除重复行,避免索引错乱
                foreach (int rowNum in duplicatedRows.OrderByDescending(r => r))
                {
                    sheet.DeleteRow(rowNum);
                }

                // 保存结果
                workbook.SaveToFile("RemoveDuplicateRows.xlsx");
            }
        }
    }
}

关键点与注意事项

1. 判断重复的依据列

上面的代码仅基于 A 列进行判重。如果需要根据多列组合(例如 A 列和 B 列同时相同才算重复),只需修改 GroupBy 的键:

.GroupBy(row => new 
{ 
    Col1 = row.Columns[0].DisplayedText, 
    Col2 = row.Columns[1].DisplayedText 
})

2. 保留表头(标题行)

如果第一行是标题行,不应参与重复判断和删除。只需将范围的起始行改为第 2 行:

var range = sheet.Range[$"A2:A{sheet.LastRow}"];

同时,LastRow 属性会自动包含最后一行数据,因此标题行不受影响。删除重复行后,表头行将保持不变。

3. DisplayedTextValue 的区别

属性 说明 推荐场景
DisplayedText 返回单元格在 Excel 界面上显示的内容,考虑了数字格式、日期格式、公式等 业务上的重复判断(推荐)
Value 返回原始值(公式计算结果,但可能忽略显示格式) 需要精确原始值的场景

在简单文本情况下两者结果一致,但推荐使用 DisplayedText 以避免因格式差异导致的误判。

4. 内存与资源释放

Workbook 类实现了 IDisposable 接口,强烈建议使用 using 语句或手动调用 Dispose() 方法,以避免内存泄漏,尤其是在处理大型文件时。


本文演示了使用 C# 删除 Excel 重复行的完整流程,包括加载文件、识别重复行、删除行以及保存结果。该方法灵活可定制,支持单列或多列判重,能够无缝集成到数据清洗的自动化流程中。