Web Scraping: Fehlendes href-Attribut – Müssen Mausklicks für Web Scraping simuliert werden?

Question

Für ein unterhaltsames Web-Scraping-Projekt möchte ich NHL-Daten von ttps://www.nhl.com/stats/teams sammeln.

Es gibt eine anklickbare Excel-Export-Registerkarte, die ich mit selenium 和 bs4 finden kann.

Leider endet es hier: Da es kein href-Attribut gibt, kann ich anscheinend nicht auf die Daten zugreifen.

Ich habe bekommen, was ich will, indem ich einen Mausklick mit pynput simuliert habe, aber ich möchte wissen:

Was hätte ich anders machen können? Wenn es sich unangenehm anfühlt.

-> Etiketten mit Exportsymbolen finden Sie hier:

a class="styles__ExportIcon-sc-16o6kz0-0 dIDMgQ"

-> Das ist mein Code

`import pynput
from pynput.mouse import Button, Controller
import time

from bs4 import BeautifulSoup
from selenium import webdriver
driver = webdriver.Chrome(executable_path = 'somepath\chromedriver.exe')

URL = 'https://www.nhl.com/stats/teams'

driver.get(URL)
html = driver.page_source  # DOM with JavaScript execution complete
soup = BeautifulSoup(html)
body = soup.find('body')
print(body.prettify())


mouse = Controller()

time.sleep(5) # Sleep for 5 seconds until page is loaded
mouse.position = (1204, 669) # thats where the icon is on my screen
mouse.click(Button.left, 1) # executes download`

Answer 1

没有href属性，通过JS触发下载。使用 selenium 时找到您的元素并使用 .click() 下载文件：

driver.find_element(By.CSS_SELECTOR,'h2>a').click()

在这里使用 css 选择器 来获取直接子级 的<a>

或者通过以styles__E​​xportIcon开头的类直接选择它：

driver.find_element(By.CSS_SELECTOR,'a[class^="styles__ExportIcon"]').click()

示例

您可能需要处理 onetrust 横幅，因此请先单击它，然后下载该表。

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.chrome.service import Service
from webdriver_manager.chrome import ChromeDriverManager
driver = webdriver.Chrome(service=Service(ChromeDriverManager().install()))

url = 'https://www.nhl.com/stats/teams'
driver.get(url)
driver.find_element(By.CSS_SELECTOR,'#onetrust-reject-all-handler').click()
driver.find_element(By.CSS_SELECTOR,'h2>a').click()