python - Pyspider url列表溢出 UnicodeError: label empty or too long

Question

需要抓取url大概为12000个左右，Pyspider报错，

报错提示：
UnicodeError: encoding with 'idna' codec failed (UnicodeError: label empty or too long)

这该如何解决，我刚刚接触这个框架的爬虫，不是很了解，还有个问题是，这个框架可以通过python脚本来调用吗？

Answer 1

크롤러 스크립트는 기본적으로 데이터베이스에 저장되며 직접 스크립트 호출을 지원하지 않습니다.
또한 UnicodeError는 분명히 코딩 오류이므로 구체적인 오류 정보를 게시할 수 있습니다