跳到主要内容

Agently 智能体应用

如何使用 PerfXCloud 实现 Agently 智能体应用

一、准备​

本项目使用 www.perfxcloud.net 大模型平台，网站上有详细的说明文档。 快速开始 | PerfXCloud

注意：PerfXCloud 的 API 接口兼容 OpenAI 的 ChatGPT，可以直接使用 OpenAI SDK 或者其他中间件来访问 PerfXCloud。这使得开发者从 ChatGPT 或者其他平台切换到 PerfXCloud 变得非常非常容易。

1.如果没有 PerfXCloud 的账号，请登录网站创建。​

2.PerfXCloud 目前支持：​

Qwen1.5-110B-Chat-GPTQ-Int4、Qwen1.5-72B-Chat-GPTQ-Int4、Qwen2-72B-Instruct-GPTQ-Int4、

Meta-Llama-3-70B-Instruct-GPTQ-Int4、Qwen-14B-Chat-Int4、Meta-Llama-3-8B-Instruct、Llama3-Chinese_v2、

chatglm3-6b、llama-3-8b、Qwen1.5-7B、Qwen2-7B,gpt2、SOLAR-10_7B-Instruct、llama-2-7b、PHI_1-5,opt-1b3、

phi-2、internLM、Mistral-7B-Instruct、MindChat-Qwen-7B-v2、StarCoder-1B。 （还在持续更新中）

二、Agently 的应用​

Agently 是一个基于人工智能的自动化对话代理平台，旨在简化和自动化各种任务和流程。它允许开发者创建智能对话代理，通过配置不同的模型和插件来实现不同的功能。Agently 平台可以支持我们的 PerfXCloud API，可以借此更加简单的使用 PerfXCloud API 来实现各种各样的智能 ai 应用。本项目基于 https://agently.cn/ 进行开发。

三、程序部署​

本地开发环境支持 MacOS、Windows、Linux 系统，需要安装 python 环境，python 推荐的版本在 3.8 ~ 3.9.X 之间，使用 3.8 以下的版本可能会出现问题，推荐 3.9 版本，可前往官网下载。

(1)下载相应库​

使用 pip 命令安装 agently 库： pip install -U Agently 如果使用的是 pycharm，也可以在设置中找到 python 解释器，手动搜索 agently 安装。

(2)配置​

创建 python 文件，输入下面的代码，修改所需配置，具体配置含义参考配置说明。 只需要在下面的 api-key 中替换为 PerfXCloud API，在 model 一行改正用到的模型名称即可。

"""创建Agent实例"""
import Agently
agent = (
    Agently.create_agent()
        # 支持通过配置快速切换多种模型
        # 将代码的业务逻辑表达和模型配置格式依赖解耦
        .set_settings("current_model", "OpenAI")
        .set_settings("model.OpenAI.auth", { "api_key": "your-api" })
        .set_settings("model.OpenAI.url", 'https://cloud.perfxlab.cn/v1')
        .set_settings("model.OpenAI.options", { "model": "llama-3-8b" })
        # 支持设置Proxy进行前向代理
        #.set_proxy("http://127.0.0.1:7890")
)
"""进行基础请求"""
result = (
    agent
        # 支持str格式输入
        .input("给我输出3个单词和2个句子")
        # 支持Key-Value格式输入
        .instruct("输出语言", "中文")
        # 支持dict格式输入
        # 并且通过框架特有的(<type>, <desc>)语法格式描述生成元素
        .output({
            "单词": [("str", )], # 没有<desc>可省略
            "句子": ("list", ),
        })
        .start()
)
print(result)

配置的效果如下，可以配置自己的模型和 api-key ：

四、运行​

运行项目​

我们使用的是 python 代码进行运行，所以只要像平常一样运行就可以，任何支持 python 的编程软件都可以 我们使用的是 pycharm，点击开始运行即可

使用说明​

只需要在代码中的 input 的内容改为我们要输入的内容即可

你可以在项目地址上找到更多的其他示例，只需要更改上面提到的 url、api、模型名称即可，满足代码的运行条件，点击运行就可以完美部署各种各样的 ai 任务

参考代码地址：https://agently.cn/