添加大模型
大模型是指機(jī)器學(xué)習(xí)模型,例如最出名的openai的gpt-3.5 gpt-4等。
webman ai支持常見的大模型包括openai的 gpt-3.5 gpt-4、百度文心一言、訊飛星火、阿里通義千問、清華智普、谷歌Gemini、Claude等模型。
如果需要接入其它模型,請(qǐng)參考以下文檔。
管理后臺(tái)添加模型
假設(shè)我們要添加moonshoot模型,進(jìn)入管理和后臺(tái)AI模型管理頁(yè)面,點(diǎn)擊新增模型按鈕
- 名稱:
moonshoot
- 類型:
moonshoot
- 處理器:
plugin\ai\app\handler\Gpt
- 支持的模型:
moonshot-v1-8k moonshot-v1-32k moonshot-v1-128k
- 優(yōu)先級(jí):0
- 設(shè)置:
{ "api": { "name": "api地址", "type": "text", "value": "https:\/\/api.moonshot.cn", "desc": "例如 https://api.openai.com" }, "apikey": { "name": "ApiKey", "type": "text", "value": "<這里填寫moonshot的apikey,sk-開頭的字符串>", "desc": "這里填寫ApiKey" }, "regFreeCount": { "name": "注冊(cè)贈(zèng)送", "type": "number", "value": "100" }, "dayFreeCount": { "name": "每日贈(zèng)送", "type": "number", "value": "100" } }
保存
注意
因?yàn)閙oonshoot的接口支持GPT格式,所以這里的處理器是plugin\ai\app\handler\Gpt
,如果是其它模型,處理器可能不同。
設(shè)置AI模型列表
現(xiàn)在webman ai內(nèi)部已經(jīng)擁有處理moonshoot的模型的能力了,接下來(lái)需要將moonshoot模型暴露出來(lái),讓用戶可以選擇使用。
如圖模型列表里添加對(duì)外暴露的模型及別名,這里只暴露了moonshot-v1-8k
并起了別名kimi
,你也可以將 moonshot-v1-32k
moonshot-v1-128k
都暴露出來(lái),別名例如kimi-32k
kimi-128k
。
添加AI角色
在AI角色管理頁(yè)面添加一個(gè)角色,選擇剛剛暴露的kimi
模型,保存,這樣用戶就能看到kimi角色了。