你爱我,我爱你,IP被封很头疼【Python爬虫实战:ip代理js逆向采集】
开发环境:win10、python3.7 开发工具:pycharm、Chrome 工具包:requests,lxml。out函数从html页面获取到td的v标签数据进行解析 showm为MD5的加密方法。通过xpath的方式提取出对应的网页数据 提取下来的数据是进行加密的。请求目标网页地址 从静态网页中提取出ip地址(端口图片暂时不做处理)找到数据的加密方法 查看是否为动态加载的数据。并不是动态数
工具使用
开发环境:win10、python3.7 开发工具:pycharm、Chrome 工具包:requests,lxml
项目思路解析
请求目标网页地址 从静态网页中提取出ip地址(端口图片暂时不做处理)
通过xpath的方式提取出对应的网页数据 提取下来的数据是进行加密的
提取数据的代码
session = requests.session()
url = ‘https://www.zdaye.com/FreeIPList.html’
response = session.get(url, headers=headers)
data = response.content.decode()
html_object = etree.HTML(data)
data_list = html_object.xpath(‘//*[@id=“ipc”]/tbody/tr’)
ip_list = []
for tr in data_list:
ipnum = tr.xpath(‘./td[1]/text()’)[0]
ipnum2 = tr.xpath(‘./td[1]/@v’)[0]
ip_list.append((ipnum, ipnum2))
找到数据的加密方法 查看是否为动态加载的数据
并不是动态数据 找到加密的js文件
打断点调试js代码
解析对应的加密函数
def sdfsgfdg(s):
s2 = s.split(‘m’)
ts = ‘’
for i in range(len(s2) - 1, -1, -1):
ts += chr(int(s2[i]) - 352)
return ts
def MD5§:
return hashlib.md5(§.encode()).hexdigest().upper()
def get_keyurl(mk, ak):
url = ‘https://www.zdaye.com/’ + mk + “_” + MD5(MD5(sdfsgfdg(mk) + “beiji” + ak)) + ‘.gif’
return url
def dsfgsd(s, kk):
s2 = s.split(‘#’)
ts = ‘’
for i in range(len(s2) - 1, -1, -1):
ts += chr(int(s2[i]) - kk)
return ts
t = str(time.strftime(‘%Y/%m/%d %H:%M:%S’,time.localtime())).replace(’ ', “%20”).replace(“/0”, “/”)
new_url = ‘https://www.zdaye.com/js/base.js?’ + t
pp = session.get(new_url, headers=headers)
mk = re.findall(‘mk = “(.*?)”;’, pp.text)[0]
ak = re.findall(‘ak = “(.*?)”;’, pp.text)[0]
key_url = get_keyurl(mk, ak)
key = session.get(key_url, headers=headers)
out函数从html页面获取到td的v标签数据进行解析 showm为MD5的加密方法
简易源码分享
import re
import time
import requests
from lxml import etree
import hashlib
headers = {
‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36’,
‘Referer’: ‘https://www.zdaye.com/FreeIPList.html’,
}
def sdfsgfdg(s):
s2 = s.split(‘m’)
ts = ‘’
for i in range(len(s2) - 1, -1, -1):
ts += chr(int(s2[i]) - 352)
return ts
def MD5§:
return hashlib.md5(§.encode()).hexdigest().upper()
def get_keyurl(mk, ak):
url = ‘https://www.zdaye.com/’ + mk + “_” + MD5(MD5(sdfsgfdg(mk) + “beiji” + ak)) + ‘.gif’
return url
def dsfgsd(s, kk):
s2 = s.split(‘#’)
ts = ‘’
for i in range(len(s2) - 1, -1, -1):
ts += chr(int(s2[i]) - kk)
return ts
session = requests.session()
url = ‘https://www.zdaye.com/FreeIPList.html’
response = session.get(url, headers=headers)
data = response.content.decode()
html_object = etree.HTML(data)
data_list = html_object.xpath(‘//*[@id=“ipc”]/tbody/tr’)
ip_list = []

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。
更多推荐
所有评论(0)