提问人:King 提问时间:11/18/2023 最后编辑:marc_sKing 更新时间:11/23/2023 访问量:43
代理使用太多数据来自打开 1 个简单网站
Proxy is using too much data from opening 1 simple website
问:
我正在使用我自己的手机作为代理,我正在使用一个名为 iproxy 的应用程序,一切正常,但我有一个问题:
当使用我的 python selenium 通过我的代码打开“我的 IP 地址是什么”网站时,它使用了大约 50MB 的数据,这太疯狂了
但是,当我在没有代码的情况下手动执行相同的过程时,它只需要花费 1-3MB 的数据使用量
一些注意事项:
我正在使用此代码来配置我的“代理身份验证”过程,该过程需要用户名和密码:https://stackoverflow.com/a/55582859
我仍然没有 wifi 拆分我的代理,但我很确定这不是问题
我的代码是空的,它只打开网站,不知道为什么它使用这么多数据
这是我的代码:
import os
import zipfile
from selenium.webdriver.chrome.service import Service
from selenium import webdriver
import time
# Your proxy details
PROXY_HOST = 'hidden' # rotating proxy or host
PROXY_PORT = hidden # port
PROXY_USER = 'hidden' # username
PROXY_PASS = 'hidden' # password
manifest_json = """
{
"version": "1.0.0",
"manifest_version": 2,
"name": "Chrome Proxy",
"permissions": [
"proxy",
"tabs",
"unlimitedStorage",
"storage",
"<all_urls>",
"webRequest",
"webRequestBlocking"
],
"background": {
"scripts": ["background.js"]
},
"minimum_chrome_version":"22.0.0"
}
"""
# Replace the placeholders in the background.js string with your actual proxy details
background_js = """
var config = {
mode: "fixed_servers",
rules: {
singleProxy: {
scheme: "http",
host: "%s",
port: parseInt(%s)
},
bypassList: ["localhost"]
}
};
chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});
function callbackFn(details) {
return {
authCredentials: {
username: "%s",
password: "%s"
}
};
}
chrome.webRequest.onAuthRequired.addListener(
callbackFn,
{urls: ["<all_urls>"]},
['blocking']
);
""" % (PROXY_HOST, PROXY_PORT, PROXY_USER, PROXY_PASS)
def get_chromedriver(use_proxy=False, user_agent=None):
path = os.path.dirname(os.path.abspath(__file__))
# Create a Service object with the path to the chromedriver executable
service = Service(executable_path=os.path.join(path, 'chromedriver.exe'))
# Initialize ChromeOptions
chrome_options = webdriver.ChromeOptions()
# Add proxy and user agent settings if necessary
if use_proxy:
pluginfile = 'proxy_auth_plugin.zip'
with zipfile.ZipFile(pluginfile, 'w') as zp:
zp.writestr("manifest.json", manifest_json)
zp.writestr("background.js", background_js)
chrome_options.add_extension(pluginfile)
if user_agent:
chrome_options.add_argument('--user-agent=%s' % user_agent)
# Initialize the Chrome WebDriver with the Service object and ChromeOptions
driver = webdriver.Chrome(service=service, options=chrome_options)
return driver
def main():
driver = get_chromedriver(use_proxy=True)
driver.get('https://www.google.com/search?q=my+ip+address')
driver.get('https://httpbin.org/ip')
if __name__ == '__main__':
main()
我正在尝试减少代理数据使用量
答:
好吧,我应该指出几件事
后台服务:Selenium可能会在每次执行时启动浏览器的新实例,这可能会在后台触发更新或数据同步过程,而这些过程在您手动浏览时不会发生。Web 扩展程序:您用于处理代理身份验证的方法涉及动态创建 Chrome 扩展程序。每次运行 Selenium 脚本时都会打包并安装此扩展,这可能涉及您在手动浏览中不会遇到的其他数据交换。缓存:浏览器使用缓存通过在本地存储资源来减少数据使用量。Selenium,特别是当设置为在每次运行时使用新的配置文件时,可能不会使用缓存,从而导致每次都下载所有资源。其他请求:Selenium 可能会发出您不是手动发出的其他 HTTP 请求。这可能是由于自动浏览器环境中的不同行为所致。代理配置:与 Selenium 一起使用时,您的代理配置可能会有所不同。可能是代理正在提供更高质量的内容,或者当请求来自 Selenium 时不压缩数据。
你应该也许
监控网络流量:使用浏览器的“开发人员工具网络”选项卡等工具来监控 Selenium 生成的网络流量,并将其与手动浏览进行比较。Har 文件:您可以将网络流量导出为 HAR 文件,并分析它们是否存在内容大小的任何差异。减少资源:修改 Selenium 中的浏览器设置以阻止图像、JavaScript 或 CSS,看看这是否能减少数据使用量。检查代理日志:由于您使用手机作为代理,因此请检查手机上的代理软件是否提供日志,以查看可能导致额外数据使用的原因。持久配置文件:对 Selenium 使用持久配置文件,允许在运行之间进行缓存。无外设模式:在无外设模式下运行浏览器,以潜在地减少开销。扩展缓存:您可以创建一次代理扩展,保存它,然后在 Selenium 会话中重复使用它,看看这是否能减少数据使用量,而不是每次都动态创建代理扩展。直接代理配置:如果可能,请直接在 Selenium 中配置代理,而无需使用扩展,这可能会减少开销。
评论