に質問検索_PHP中国語ウェブサイト

コミュニティ学ぶツールライブラリレジャー

日本語

人気の検索：
PHP
MySQL
jquery
HTML
CSS

Web クローラー - Python クローラーの概要

私はもうすぐ 2 年生ですが、Python を独学で勉強しており、基本的な文法は知っています。クロールを学びたいのですが、かなり知識が必要な気がするのですが、経験者の方で知っていることをまとめたり、Pythonのクロールの学び方を教えていただける方はいらっしゃいますか？

欧阳克 2017-07-05 10:34:11

PHP クローラーはどのようにして動的クローラーエージェントにアクセスしますか?

php クローラーはどのようにしてクローラーエージェントにアクセスしますか? 以前に Python を使用したことがありますか? php と同じアクセス方法ですか?

Laical 2020-03-13 17:10:19

Python - 画像のクロールについて質問がありますか?

現在のクローラーは通常、HTML から画像を解析しますが、問題は、一部の画像パスが JS で記述されていることです。これどうやって登るの？ブラウザで f12 ポイントを開いてソース内の画像を表示できることはわかっていますが、クローラーを使用してソース内のリソースをクロールするにはどうすればよいでしょうか?

我想大声告诉你 2017-06-28 09:25:40

Web クローラー - Python のrequests.get クローラーセットのプロキシ IP アドレスは変更されていません

この作業には Amazon 上の情報をクローリングする必要がありますが、Amazon のアンチクローラーが強力すぎるため、同じ IP アドレスはブロックされてしまいます。 Python バージョン: 3.6、IDE: Pycharm 2017.1. ネットで色々調べたり、リクエストライブラリのマニュアルを読んだりしましたが、どれも同じ方法で、コードは次の通りです: {code...}.. 。

typecho 2017-06-12 09:24:11

redis - Python クローラーを実行すると、MySQL バージョンは 5.7 であり、常にエラーが報告されます

Python クローラーを実行すると、MySQL バージョンは 5.7 で、常にエラー {code...} が報告されます。何が問題ですか?どうやって解決すればいいでしょうか？

扔个三星炸死你 2017-06-12 09:19:42

Web クローラー - Python リクエストクローラーの問題

リクエストクローラーを使用しているときに問題が発生しました。アカウントとパスワードを送信しても、最初に Web ページが送信されず、代わりにスワイプ防止の標識が表示され、URL が変更されませんでした。その後、更新しても、ウェブページのデータは「別のページに送信」になります。直接送信する方法を教えてください。または...

仅有的幸福 2017-05-27 17:39:37

Web クローラー - Python3.4.1 リクエストモジュールがエラー「リスト」オブジェクトに属性「get」がありませんと報告する

Python を使用して IP アドレスをクロールするクローラーを作成しました。Web サイトはアンチクローラーであるため、エージェントを作成し、スレッドプールを使用して IP アドレスをクロールする 10 個のスレッドを開きました。しかし、エラー 'list' オブジェクトには属性 ' がありませんget' が直接報告されました。解決方法をご存知の場合は、コードを投稿してください。 BS4 インポートから...

世界只因有你 2017-06-12 09:24:16

node.js - ノードクローラー、IP プールを使用してアンチクロールを防ぐにはどうすればよいですか?

問題はこれです。私はノードを学び始めたばかりの初心者です。もちろん、これは明らかにクローラー用です。それで、最近小説を読んでいたのですが、無料小説サイトでは広告が多すぎるので、小説全体をクロールするクローラーを書こうと思ったのですが、URL リクエストが多すぎて逆になってしまいました。 - クロールされてブロックされました。

为情所困 2017-06-05 11:13:33

Python - csdn クローラーのレビュー

https://github.com/xchaoinfo/fuck-login/blob/master/015%20CSDN/csdn.py 87〜88行目のコメントによると、クローラを使用してリンクを行うときに、なぜこのリンクに変換する必要があるのですか？ csdn の記事にコメントしますか? このリンクをどのように取得しましたか? Web ページのコードを確認しましたが、関連するリンクがありません...

仅有的幸福 2017-05-18 10:53:42

selenium - Python クローラーツールについて質問します。

1) キャプチャしたいのは、Instagram 上の特定の有名人のファンです 2) Instagram の PC サイトは、js レンダリングを多用しています 3) クローラーを書いたことがなく、上司が明日データを必要とするので、現在 BeautifulSoup を使用しています、selenium、および phantomjs。コードデモはおそらく { Code...} です。質問は次のとおりです: 1) わかりません...

阿神 2017-06-28 09:22:20

Web クローラー - node.js クローラー外部呼び出し関数が変数値を取得できません

最近、いくつかの小説を読むためのクローラーを作成したいと思ったのですが、console.log(catalogUrl) は必要な URL を出力できますが、関数 var xxx = getCatalogUrl を呼び出すことで、catalogUrl を取得できることが期待されています。 (本) この変数の値を外部で試してみます...

習慣沉默 2017-05-16 13:25:17

html - クロール時に「DNS ルックアップに失敗しました」と表示されますが、Web ページを開くときには問題ありません。何が起こっていますか?

RT、Pythonを使ってクロールしたところ、最初は正常だったのですが、突然Webページが固まってしまい、しばらく待つと元に戻りましたが、この時に再度クロールすると「DNSルックアップに失敗しました」と報告されてしまいます。 "。多くの Web サイトを試しましたが、Web ページは失敗しました。正常に開きます。理由と解決策を教えてください。ひざまずいて、ありがとう！！

PHP中文网 2017-06-14 10:50:53

python爬虫 - scrapy使用redis的时候，redis需要进行一些设置吗？

用scrapy+redis+mongodb写了个爬虫，运行时不能爬取所有符合规则的网址，猜想是不是redis需要进行设置之类的，求高手解答。

巴扎黑 2017-04-24 09:12:00

Python - クローラーを使用して Web ページから画像をバッチでクロールするにはどうすればよいですか?

画像のように、ネットワーク経由で画像を閲覧して読み込み、1枚ずつ右クリックで保存するのは面倒なので、ここで画像を一括取得するクローラーを記述する方法はありますか？

给我你的怀抱 2017-06-28 09:25:48

Python - クローラーがログインをシミュレートした後、csdn バックグラウンド記事リストをクロールする際に問題が発生しました

クローラーは確かにログインしています。個人情報をクロールして取得できるためですが、次の図の URL は取得できません。URL は http://write.blog.csdn.net/postlist です。これはあなたのものです。 csdn バックステージ。コードを投稿しましょう。py2.7 の {code...}。上記のコードの出力は...

ringa_lee 2017-05-18 10:51:59

Python - Alibaba クローラーのソースコードに関するアプリケーションの疑問

1. 現在の問題: py ファイルを実行しても何も起こりません。何が問題ですか? 2. 私は完全な初心者で、py に触れたことはなく、html+css の基本を学んだだけです。しかし、会社のプロジェクトで地域のサプライヤー情報を収集する必要があったため、py クローラーを思いついたところ、科学オタクの Web サイトでクローラーを見つけました。

阿神 2017-06-22 11:51:27

java - 画像のクロールに問題がありますか?

POM を変更したところです。ソースコードを再度ダウンロードできます。これは、私が作成したクローラーのプロジェクトアドレスです。プロジェクトはエラーを報告しませんが、問題は、イメージをローカルエリアにダウンロードした後、イメージが次のように、不完全なことがよくあります: これは、イメージをダウンロードするためのコアコードです。次のように: {code...} データクエリの後、スコープは次のように感じます...

天蓬老师 2017-06-23 09:12:30

Python - クローラーを作成するときに、ソースコードに csrf トークンがありません。それを取得するにはどうすればよいですか?

AliExpressをクロールするためのクローラーを作成したときに、NTEWROKのPOSTにcsrfトークンが表示されましたが、ページのソースコードを表示するときにcsrf値を取得するにはどうすればよいですか?ありがとう。

漂亮男人 2017-05-24 11:35:05

Python - クローラーのコンテンツをテキストファイルに保存するエンコーディングの問題

非常にシンプルな Web ページのテキストコンテンツをローカルコンピューターに保存する、非常に単純なクローラーをテストします。最後にエラーが発生しました: {code...} コードは次のとおりです: {code...}

欧阳克 2017-06-12 09:26:21

PHP クローラーを使用して Amazon を収集するにはどうすればよいですか?

Amazon の Web サイトの前回のアップグレードによりクローラーがハングアップして以来、Amazon のポケッティング対策ポリシーはさらに厳しくなりました。そのため、正常な収集ができなくなります。新しい買収戦略はありますか?

Laical 2020-03-26 17:20:49