file_get_contents()最直接但需allow_url_fopen开启且URL带协议头;cURL更可控,支持重定向、Header、证书等;路径拼接勿混用本地/远程;采集后须处理编码与XSS。
file_get_contents() 抓取远程 HTML 文件最直接PHP 默认开启 allow_url_fopen 时,file_get_contents() 可直接读取 HTTP/HTTPS URL。它简单、无需额外扩展,适合轻量采集。
allow_url_fopen = On(很多云环境或 Docker 镜像默认关掉)"https://example.com/page.html",不能写成 "//example.com/page.html"
default_socket_timeout(通常 60 秒),卡住时会阻塞脚本,建议显式控制DOMDocument 或正则,别误以为能直接调 $html->find()
if (ini_get('allow_url_fopen')) {
$html = @file_get_contents('https://httpbin.org/html');
if ($html === false) {
echo "抓取失败:可能网络不通、域名解析失败,或目标返回 4xx/5xx";
}
}
cURL 更可控,尤其要处理重定向、Header、证书或代理当 file_get_contents() 不够用(比如目标强制跳转、需要携带 Cookie、校验 HTTPS 证书、走公司代理),cURL 是事实标准。它不依赖 allow_url_fopen,且错误可细粒度捕获。
CURLOPT_FOLLOWLOCATION 默认关闭,遇到 301/302 不会自动跳,得手动开CURLOPT_SSL_VERIFYPEER 设为 false 才能通(仅测试用,生产禁用)User-Agent 的请求,加 CURLOPT_USERAGENT 能绕过基础反爬curl_error($ch) 和 curl_getinfo($ch, CURLINFO_HTTP_CODE) 区分是连接失败、超时,还是返回了 403/404$ch = curl_init('https://httpbin.org/html'); curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true); curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/5.0 (X11; Linux x86_64) PHP-cURL'); $html = curl_exec($ch); $http_code = curl_getinfo($ch, CURLINFO_HTTP_CODE); if ($html === false || $http_code >= 400) { echo "cURL 错误: " . curl_error($ch) . " | HTTP 状态: " . $http_code; } curl_close($ch);
很多人把本地文件路径逻辑套到远程 URL 上,比如用 dirname(__FILE__) . '/remote.html' 拼出一个“路径”,再丢给 file_get_contents()——这只会尝试读服务器本地文件,根本不会发 HTTP 请求。
"http://" 或 "https://" 开头,不能是相对路径或以 / 开头的绝对路径$base = "https://api.example.com"; $path = "/v1/data"; file_get_contents($base . $path) 正确;但若 $base 末尾已有 /,再拼 /v1/data 就变双斜杠,多数服务能容错,但部分 API 网关会 400urlencode() 路径段,或整个 URL 用 rawurlencode() 处理,否则请求直接 400echo,小心 XSS 和编码乱码抓回来的 HTML 如果未经处理就输出到浏览器,可能触发 XSS(比如目标页里藏了 ),而且如果源站用 GBK 编码而你用 UTF-8 输出,页面就全乱码。
mb_detect_encoding() + mb_convert_encoding() 统一转成 UTF-8,再交给 DOMDocument::loadHTML()
htmlspecialchars($html, ENT_QUOTES, 'UTF-8') 转义,避免执行任意 HTML/JSDOMDocument 解析,别用正则匹配 (.*?) ——嵌套标签、换行、属性值含 > 都会让正则崩 澹版