本文介绍在 python 中利用 selenium 4.8 提取嵌套在 `
要从动态渲染的网页中可靠提取特定链接(如每个
以下是一个完整、健壮的实现示例:
from selenium import webdriver from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.chrome.options import Options # 可选:无头模式(适合服务器环境) chrome_options = Options() chrome_options.add_argument("--headless") driver = webdriver.Chrome(options=chrome_options) try: driver.get("https://example.com") # 替换为目标网站 URL # 显式等待:等待所有匹配的 元素出现在 DOM 中(不需可点击,仅需存在) wait = WebDriverWait(driver, 25) # 最长等待 25 秒 link_elements = wait.until( EC.presence_of_all_elements_located(( By.XPATH, '//li//h4[@class="programme titles"]/a[@class="br-blocklink__link"]' )) ) # 提取所有 href 属性,自动过滤 None 值(若某元素无 href,get_attribute 返回 None) href_list = [elem.get_attribute('href') for elem in link_elements if elem.get_attribute('href')] print(f"成功提取 {len(href_list)} 个有效链接:") for i, url in enumerate(href_list, 1): print(f"{i}. {url}") # ✅ 此时 href_list 即为可直接迭代的 Python 列表,例如: # for url in href_list: # driver.get(url) # # 进行详情页解析... finally: driver.quit()
关键说明与注意事项:
通过该方法,你将获得一个纯净、可用的 href 字符串列表,无缝对接后续的多页面抓取、并发请求或数据持久化流程。