17370845950

Go 的 encoding/xml 解析 RSS 经常失败，根本原因是 RSS（尤其是 Atom 混合源）含 CDATA、命名空间、HTML 实体及不规范换行；标准库不自动解码实体、不忽略命名空间冲突，需预处理字符串、用 xml.CharData 类型、显式声明命名空间字段。

为什么 Go 的 encoding/xml 解析 RSS 经常失败

直接用 xml.Unmarshal 解析 RSS 时，常见报错如 XML syntax error on line X: invalid character entity 或字段全为空，根本原因是 RSS（尤其是 Atom 混合源）常含 CDATA、命名空间（xmlns）、HTML 实体（ ）及不规范换行。Go 标准库不自动解码 HTML 实体，也不忽略命名空间冲突。

• 必须预处理 XML 字符串：用 strings.ReplaceAll 替换   等实体为普通空格，或用 html.UnescapeString 全量解码
• RSS 2.0 推荐用无命名空间结构体；若遇 atom: 前缀，结构体字段需加 xml:"atom:title,attr" 显式声明
• 对 这类可能含 HTML 的字段，定义为 xml.CharData 类型而非 string，避免截断

如何用 net/http 安全抓取 RSS 并防超时/重定向失控

直接 http.Get(url) 抓 RSS 源极易卡死或跳转到登录页，尤其面对 Cloudflare 防护或反爬中间页时。

• 显式设置 http.Client：超时控制必须设 Timeout: 10 * time.Second，且启用 CheckRedirect 限制跳转次数（建议 ≤3）
• 添加基础请求头：User-Agent 设为常见浏览器值（如 "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36"），否则部分站点返回 403
• 检查响应状态码和 Content-Type 头，仅当含 application/rss+xml 或 application/atom+xml 才继续解析，避免把 HTML 错当 RSS

用 goquery 补救非标准 RSS（如网页内嵌 RSS 链接或伪 RSS）

很多“RSS 源”实际是普通 HTML 页面里藏了 ，或直接把文章列表渲染成 HTML——这时不能硬套 XML 解析。

• 先用 goquery.NewDocument 加载 HTML，提取真实 RSS 地址：

  doc.Find("link[rel=alternate][type='application/rss+xml']").Attr("href")

• 若目标无标准 RSS，直接用 goquery 提取文章列表：

  doc.Find("article h2 a, .post-title a").Each(func(i int, s *goquery.Selection) {
      title := s.Text()
      link, _ := s.Attr("href")
  })

• 注意：goquery 不处理相对 URL，需用 url.Join 拼接基础地址

展示层避免模板注入与 XSS 的关键处理

RSS 的 和 常含未过滤 HTML，直接塞进 HTML 模板会触发 XSS。

• 服务端渲染时，用 template.HTMLEscapeString 处理所有字段，而非依赖前端 JS 转义
• 若需保留部分格式（如
  、），改用 bluemonday 库白名单过滤：

  policy := bluemonday.UGCPolicy()
  cleanDesc := policy.Sanitize(rssItem.Description)

• 时间字段别用原始 pubDate 字符串，统一转为 time.Time 后再格式化（item.PubDate.Format("Jan 2, 2006")），避免时区混乱

RSS 的难点不在抓取本身，而在应对现实世界中五花八门的“伪标准”——命名空间混用、HTML 实体乱飞、重定向陷阱、以及发布者随手写的 malformed XML。真正稳定的实现，永远是组合策略：HTTP 层控超时+UA，XML 层做预清洗+容错结构体，HTML 层兜底用 goquery，展示层强制转义。