本教程详细介绍了如何使用 c# 中的 htmlagilitypack 库,从包含多个表格的 html 文档中准确选择并解析特定的 html 表格。文章纠正了常见的 xpath 使用误区,强调了在选定节点上下文中执行查询的重要性,并提供了完整的代码示例,帮助开发者高效、精确地提取所需数据。
在 Web 数据抓取和 HTML 解析任务中,HtmlAgilityPack 是 .NET 开发者常用的强大工具。它能够将 HTML 文档解析成 DOM 结构,并通过 XPath 或 CSS 选择器方便地查询和操作节点。然而,当 HTML 文档包含多个结构相似的元素(例如多个
| head1 | head2 |
|---|---|
| data1_1 | data1_2 |
| data1_3 | data1_4 |
This is where second table starts
| headA | headB |
|---|---|
| data2_A | data2_B |
| data2_C | data2_D |
我们将使用 HtmlAgilityPack 来加载这个 HTML,并根据需要选择不同的表格。
要解析第一个表格,我们首先需要使用 XPath //table[1] 准确地选中它。然后,所有后续的行 (
using HtmlAgilityPack;
using System.Data;
using System.Linq; // For .Skip()
public class TableParser
{
public DataTable ParseFirstTable(string htmlContent)
{
HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(htmlContent);
DataTable dt = new DataTable();
// 假设我们知道表格结构,预先定义列
dt.Columns.Add("ColumnA", typeof(string));
dt.Columns.Add("ColumnB", typeof(string));
// 选中第一个表格节点
HtmlNode table = doc.DocumentNode.SelectSingleNode("//table[1]");
if (table != null)
{
// 在选定的 'table' 节点内部查找所有的 'tr' 节点
// 注意:这里使用 "tr" 或 ".//tr" 而不是 "//tr"
// "tr" 表示直接子元素,".//tr" 表示当前节点下的任意后代元素
// 考虑到表格结构,"tr" 通常是更精确和高效的选择
var rows = table.SelectNodes("tr");
if (rows != null)
{
// 跳过表头行(如果有的话),从第二行开始处理数据
foreach (var row in rows.Skip(1)) // 假设第一行是表头
{
var cells = row.SelectNodes("td"); // 在当前行 'row' 内部查找 'td' 节点
if (cells != null && cells.Count >= 2) // 确保有足够的单元格
{
string colA = cells[0].InnerText.Trim();
string colB = cells[1].InnerText.Trim();
dt.Rows.Add(colA, colB);
}
}
}
}
return dt;
}
}解析第二个表格的方法与第一个表格类似,只需将 XPath 表达式改为 //table[2] 即可。
using HtmlAgilityPack;
using System.Data;
using System.Linq;
public class TableParser
{
// ... (ParseFirstTable 方法省略) ...
public DataTable ParseSecondTable(string htmlContent)
{
HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(htmlContent);
DataTable dt = new DataTable();
// 假设我们知道表格结构,预先定义列
dt.Columns.Add("ColumnX", typeof(string));
dt.Columns.Add("ColumnY", typeof(string));
// 选中第二个表格节点
HtmlNode table = doc.DocumentNode.SelectSingleNode("//table[2]");
if (table != null)
{
var rows = table.SelectNodes("tr");
if (rows != null)
{
foreach (var row in rows.Skip(1)) // 假设第一行是表头
{
var cells = row.SelectNodes("td");
if (cells != null && cells.Count >= 2)
{
string colX = cells[0].InnerText.Trim();
string colY = cells[1].InnerText.Trim();
dt.Rows.Add(colX, colY);
}
}
}
}
return dt;
}
}通过遵循这些原则,您可以有效地利用 HtmlAgilityPack 从复杂的 HTML 文档中提取所需的数据,并确保解析过程的准确性和健壮性。理解 XPath 上下文是掌握 HtmlAgilityPack 进行高级数据抓取的基石。