Mengikis web menggunakan Python tetapi tidak pasti apa yang perlu dilakukan dengan URL statik(?).

Question

Saya cuba belajar cara mengekstrak data daripada url ini: https://denver.coloradotaxsale.com/index.cfm?folder=auctionResults&mode=preview

Walau bagaimanapun, masalahnya ialah apabila saya cuba menukar halaman, URL tidak berubah, jadi saya tidak pasti bagaimana untuk menghitung atau menggelungkannya. Memandangkan halaman web mempunyai 3000 titik data jualan, cuba mencari cara yang lebih baik sedang dilakukan.

Ini adalah kod permulaan saya, ia sangat mudah tetapi saya akan berterima kasih atas sebarang bantuan yang boleh saya berikan atau sebarang petua. Saya rasa saya mungkin perlu bertukar kepada beg lain tetapi saya tidak pasti yang mana satu mungkin sup cantik?

导入请求
url =“https://denver.coloradotaxsale.com/index.cfm?folder=auctionResults&mode=preview”

html = requests.get(url).content
df_list = pd.read_html(html,标题 = 1)[0]
df_list = df_list.drop([0,1,2]) #删除不需要的行

Answer 1

Untuk mendapatkan data daripada lebih banyak halaman, anda boleh menggunakan contoh berikut:

导入请求
将 pandas 导入为 pd
从 bs4 导入 BeautifulSoup


数据 = {
    "folder": "拍卖结果",
    “登录ID”：“00”，
    "页数": "1",
    "orderBy": "AdvNum",
    "orderDir": "asc",
    "justFirstCertOnGroups": "1",
    "doSearch": "真",
    "itemIDList": "",
    "itemSetIDList": "",
    “兴趣”： ””，
    “优质的”： ””，
    "itemSetDID": "",
}

url =“https://denver.coloradotaxsale.com/index.cfm?folder=auctionResults&mode=preview”


所有数据 = []

for data["pageNum"] in range(1, 3): # 
Cetakan: 





SEQ NUM
Tahun cukai
Pemberitahuan
ID Plot
Bilangan muka
Memenangi bidaan
Dijual kepada

标题>


96
000094
2020

00031-18-001-000
$905.98
$81.00
00005517


97
000095
2020

00031-18-002-000
$750.13
$75.00
00005517


98
000096
2020

00031-18-003-000
$750.13
$75.00
00005517


99
000097
2020

00031-18-004-000
$750.13
$75.00
00005517


100
000098
2020

00031-18-007-000
$750.13
$76.00
00005517


101
000099
2020

00031-18-008-000
$905.98
$84.00
00005517


102
000100
2020

00031-19-001-000
$1,999.83
$171.00
00005517


103
000101
2020

00031-19-004-000
$1,486.49
$131.00
00005517


104
000102
2020

00031-19-006-000
$1,063.44
$96.00
00005517


105
000103
2020

00031-20-001-000
$1,468.47
$126.00
00005517


表>