爬虫错误日志
在爬取的过程中,有时需要翻页操作时,如果响应时间不够,容易会出现以上错误。
这个错误主要是因为响应下一页时,下一页界面的包还没有加载完成就进行页面的获取,这样就会重复获取上一个页面的数据(如果没有保存缓存,可能会爬空),此时编辑器判断出未更新重复获取而报错,因此我们需要给页面加载完成后再对这个页面的数据进行获取。

可以利用time中的sleep方法,强制使页面等待一定时间,这样就可以等待数据传输完成后,正常获取,不出现错误。

	# 等待两秒后,再进行页面数据的获取
	time.sleep(2)
    # 获得第一页面信息#root > div > div.js-responded-list > div > div > div.box-bd
    # js-live-list > li:nth-child(64) > a.title
    temp = self.driver.find_elements(by=By.XPATH, value='/html/body/div[1]/div/div[2]/div/div/div[4]/ul/li')
    # 对页面信息进行整理,保存照片url         /html/body/div[1]/div/div[2]/div/div/div[4]/ul/li[1]/a[2]
    # print(len(temp))                 /html/body/div[1]/div/div[2]/div/div/div[4]/ul/li[119]/a[2]

总结:
页面翻页数据获取错误,只需要在页面翻页后等待几秒钟,等数据加载完毕后,再获取页面数据即可。

Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐