Python爬虫等待页面JS加载

图片需要向下滑动才可以加载，可以使用response.html.render(scrolldown=页面向下滚动的次数)来加载图片。requests_html库的reder()方法可以等待js加载。等待js加载完毕后在使用正则或xpath等方法获取img地址。用requests_html代替requests库。

怜渠客

918人浏览 · 2025-02-22 10:05:21

怜渠客 · 2025-02-22 10:05:21 发布

用requests_html代替requests库
requests_html库的reder()方法可以等待js加载

response = requests.get(table_link, headers=headers)

response .html.render()

等待js加载完毕后在使用正则或xpath等方法获取img地址
图片需要向下滑动才可以加载，可以使用response.html.render(scrolldown=页面向下滚动的次数)来加载图片。

response = requests.get(table_link, headers=headers)

response.html.render(scrolldown=页面向下滚动的次数)

print(response.text)

天启AI社区

GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。

更多推荐