AI Prompt需要AI 服务支持才能工作，在添加AI Pormpt之前，如果还没有添加AI服务，按以下步骤添加AI 服务
在DictTango中添加AI服务
- 在DictTango App 主窗口中点击 AI 服务 (如果是极简模式，AI相关的功能会自动隐藏，需要在"设置" → “用户界面” 中关闭极简模式
- 在AI服务列表窗口中点击右上角的添加图标，打开添加AI 服务界面
- 在添加AI服务，完成以下内容填写
- 服务提供者: AI API服务的提供者，一般我们选择Open AI, 这是大多数AI提供商兼容的API方式，如果是本地大模型文件，就要选择"本地大语言模型"
- 服务名称: AI服务的名称，仅用于显示
- 系统角色信息: 这是给AI发送消息里的指令（System Prompt)
- API Key: [非本地大语言模型] 一般需要填写AI服务提供商的API Key
- 模型: [非本地大语言模型] 调用的AI模型，一般可向AI服务提供商查询
- 接口网址: [非本地大语言模型] AI API接口的网址，如果是Open AI兼容的网址，不用包括"/chat/completions"的部分
- 大语言模型文件: [本地大语言模型] 本地大语言模型的GGUF文件
自己构建本地AI服务
如果有独立显卡的，可以按以下步骤构建本地AI服务器并提供API给DictTango调用
- 下载相关语言模式gguf文件，例如 Qwen3.5-9B, 8G显存应该可以轻松跑起
- 下载llama.cpp 下载地址， 请注意这里有分CPU和GPU的版本，如果是NVdia的显示卡，一般下载Windows x64 (CUDA 12)或者Windows x64 (CUDA 13)的版本，CUDA的版本可以在NVdia的Windows应用中检查
- 解压缩下载好的llama.cpp程序包，然后运行llama.cpp加载大语言模型
set SERVER_CMD=H:\AI\llama-cuba-server\llama-server
set MODEL_DIR=H:\AI\Models\Qwen3_9B
set MODEL_FILE_NAME=Qwen3.5-9B-Q4_K_M.gguf
%SERVER_CMD% --jinja -m %MODEL_DIR%\%MODEL_FILE_NAME% --chat_template_kwargs "{\"enable_thinking\": false}" --host 0.0.0.0 --port 8089 --api-key 123456
pause
说明:
- –host后面一定要跟0.0.0.0才可以在手机上访问电脑上的AI API
- –chat_template_kwargs “{"enable_thinking": false}” 这个是禁止AI进行深度思考，可以加快AI的回应速度
- –jinja 是开启工具调用，一般不需要
- 运行大语言模型后，就可以在DictTango中添加AI服务
添加完AI服务后，就可以添加AI Prompt