文章目录
- 前言
- 操作步骤
- 步骤1:注册账号
- 步骤2:在线体验
- 步骤3:获取API密钥
- 步骤4:安装chatbox
- 步骤5:chatbox设置
- 价格方面
前言
最近在使用DeepSeek时,开启深度思考功能后,频繁遇到“服务器繁忙,请稍后再试”
的提示,体验大打折扣。
为了解决这个问题,我尝试在本地配置deepseek-r1的蒸馏模型(如Ollama+chatbox,支持7B、14B、32B、70B版本),但发现70B以下的模型效果与网页版差距较大,本地部署的意义有限。
此外,我有时并不需要开启R1深度思考模型,而是更倾向于使用V3版本。同时,我还想尝试Qwen 2.5 32B模型在代码编写辅助方面的表现。
经过一番搜索,我发现了另一种更灵活的解决方案:通过大模型云服务平台,以免费或付费的方式将所需模型的API整合到chatbox中,实现便捷的访问和模型切换。
本文将以硅基流动为例,分享这类一站式云服务平台与chatbox的配置教程,供大家参考。
操作步骤
步骤1:注册账号
登录硅基流动官网,注册账号
- 官网:https://account.siliconflow.cn/
- 邀请码:
ai8Z8qFu
步骤2:在线体验
网站注册后可领14元的体验额度,可通过点击可用赠费
筛选出可供免费体验的模型,如deepseek-ai/DeepSeek-R1
。
对于部分模型,平台同时提供免费版和收费版。免费版按照原名称命名;收费版会在名称前加上“Pro/”以示区分。例如,DeepSeek-R1
的免费版命名为“deepseek-ai/DeepSeek-R1”,收费版则命名为“Pro/deepseek-ai/DeepSeek-R1”。
步骤3:获取API密钥
API密钥相当于访问硅基流动模型库的授权码,可通过API密钥->新建密钥获取,具体步骤如下:
创建API密钥后,即可通过复制得到完整的API密钥,需要注意的是不要将自己的API密钥泄露给其他人。
步骤4:安装chatbox
chatbox网址:https://chatboxai.app/zh
步骤5:chatbox设置
1.安装chatbox后,打开左下角的设置
窗口
2. 添加自定义提供方,在下拉菜单,选择添加自定义提供方
3. 添加硅基流动API
可参考下图进行设置,需要设置的参数包括:
API模式
:OpenAI API兼容名称
:自定义,如硅基流动)API域名
:https://api.siliconflow.cn/v1API路径
:/chat/completionsAPI密钥
(重要):输入步骤三中创建的密钥模型
(重要):要添加的模型名称
其中,模型
参数通过手动输入添加,可在硅基流动官网点击模型旁边的复制按钮获取。
以下是一些常用的模型名称
deepseek-ai/DeepSeek-R1
deepseek-ai/DeepSeek-V3
deepseek-ai/DeepSeek-R1-Distill-Llama-70B
Qwen/Qwen2.5-Coder-32B-Instruct
Pro/deepseek-ai/DeepSeek-R1
(收费版)
Pro/deepseek-ai/DeepSeek-V3
(收费版)
通过以上步骤后,就可以在chatbox的对话框右下角灵活的切换各种模型,并进行对话了
价格方面
个人的理解是该网站租了一些算力部署本地的deepseek-r1版模型,然后将这部分成本平坦给用户。付费价格方面,对比deepseek官网的token价格基本一致,R1模型均为输入 4元/M Tokens, 输出16元/M Tokens。
最后,需要说明的是,尽管多数平台声称其模型为671B满血版,但模型性能不仅取决于参数量。实际表现与DeepSeek官网存在差距。