在使用PaiFlow工作流时,需要我们先维护不同厂家的大模型访问信息,最后在编排工作流时,才可以选择不同的模型。
PaiFlow 目前支持OpenAI接口风格的三方模型及本地模型;接下来我们重点介绍一下,当前主流的大模型配置以及PaiFlow上的配置方案。
统一接口风格的本质是为了降低工作流引擎对模型厂商的耦合度,让模型变成可以替换的资源。
PaiFlow 不关心你用的是哪家模型,它只关心一件事:这个模型,能不能稳定地被调用。所以我们把模型做成了可配置的,而不是写死在节点里。下面你看到的所有配置,本质都是在干这一件事。
1.智谱大模型
进入开发平台,在 API Key 申请一个自己的ApiKey,访问地址:https://www.bigmodel.cn/usercenter/proj-mgmt/apikeys
添加 ApiKey。
配置完毕之后,你会得到一个形如 beb8fxxxxxxx.xxxxxxxxmqp的ApiKey;然后在PaiFlow 的模型管理这里,添加智谱模型。
注意:
接口地址为OpenAI风格的访问路径 https://open.bigmodel.cn/api/paas/v4/chat/completions
智谱的 OpenAI 接口兼容度很高,参数行为也比较收敛。
2.百炼大模型
阿里的百炼大模型,同样是申请账号,在后台的密钥管理处添加ApiKey,访问地址:https://bailian.console.aliyun.com/?tab=model#/api-key

真诚点赞 诚不我欺
回复