《Proxy Lite安装与配置指南》

1. 项目基础介绍

Proxy Lite是一个开源项目，它是Proxy助手的一个简化版本，具有开放权重。Proxy Lite旨在作为一个自主完成任务的工具，而不是一个完整的能与用户互动的助手。该项目主要是用Python语言编写的。

2. 关键技术和框架

• Python：作为主要的编程语言，Python因其强大的库支持和简洁的语法而被广泛应用于开源项目中。
• playwright：这是一个自动化库，用于在浏览器环境中模拟用户行为，如点击、输入等。
• transformers：由Hugging Face提供的库，用于自然语言处理任务，这里用于处理和解析模型的消息。
• vLLM：用于将模型部署为服务的工具，这里用于搭建本地服务端点。

3. 安装和配置

准备工作

在开始安装之前，请确保您的系统中已安装以下软件：

• Python 3.11（或更高版本）
• pip（Python的包管理器）
• Git（版本控制系统）

安装步骤

1. 克隆仓库

   首先，您需要从GitHub克隆项目仓库：

   git clone https://github.com/convergence-ai/proxy-lite.git
   

2. 设置环境

   进入项目目录，使用make命令设置环境：

   cd proxy-lite
   make proxy
   

   如果您更喜欢手动安装，可以执行以下步骤：

   pip install uv
   uv venv --python 3.11 --python-preference managed
   uv sync
   uv pip install -e
   

3. 安装playwright依赖

   使用以下命令安装playwright：

   playwright install
   

4. 运行本地Web界面

   如果您想运行本地Web界面，可以使用以下命令：

   make app
   

5. 搭建本地服务端点（可选）

   如果您想将模型部署为本地服务端点，您需要先安装vLLM和transformers。使用以下命令安装所有必要的依赖：

   uv sync --all-extras
   

   然后，使用以下命令启动服务：

   vllm serve convergence-ai/proxy-lite-3b \
   --trust-remote-code \
   --enable-auto-tool-choice \
   --tool-call-parser hermes \
   --port 8008
   

   请注意，这里的--api-base参数应该设置为您的本地端点，例如：

   export PROXY_LITE_API_BASE=http://localhost:8008/v1
   

6. 运行示例任务

   最后，您可以运行一个示例任务来测试您的安装：

   proxy --help
   

   或者，您可以尝试运行以下命令：

   proxy "Find some markets near Kings Cross and tell me their ratings."
   

以上步骤应该能够帮助您成功安装和配置Proxy Lite项目。如果在安装过程中遇到任何问题，请参考项目的README文件或GitHub仓库中的问题页面获取更多帮助。