首页 > 后端开发 > Python教程 > 如何在 Python 中使用 Selenium WebDriver 有效检测网页(无限滚动)何时已完全加载?

如何在 Python 中使用 Selenium WebDriver 有效检测网页(无限滚动)何时已完全加载?

DDD
发布: 2024-12-16 20:28:15
原创
136 人浏览过

How Can I Efficiently Detect When a Web Page (with Infinite Scrolling) Has Fully Loaded Using Selenium WebDriver in Python?

如何使用 Selenium WebDriver for Python 等待页面加载

从无限滚动实现的网页中抓取数据时,至关重要的是有效检测页面何时完全加载新内容。本文探讨了一种比每次滚动后等待固定时间间隔更省时的方法。

默认页面加载机制

默认情况下,Selenium WebDriver 的 .get () 方法等待页面完全加载。但是,这不考虑在框架内或通过 AJAX 请求加载。

对特定元素使用 WebDriverWait

等待特定元素在页面,将 WebDriverWait() 与预期条件一起使用。例如:

from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By

delay = 3 # seconds
driver = webdriver.Firefox()
driver.get("url")
try:
    myElem = WebDriverWait(driver, delay).until(EC.presence_of_element_located((By.ID, 'id-of-element')))
    print("Page is ready!")
except TimeoutException:
    print("Loading took too much time!")
登录后复制

注意事项

请注意,WebDriverWait 仅等待指定的元素或条件变为 true。如果等待其他元素或条件,您可能需要使用自定义代码来检测页面加载完成。

以上是如何在 Python 中使用 Selenium WebDriver 有效检测网页(无限滚动)何时已完全加载?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板