1、聊天模型配置（ChatConfig）
ChatConfig，聊天模型配置
| 属性 |
要求 |
描述 |
apiUrl:String |
必须 |
模型服务接口地址（是完整地址） |
apiKey:String |
|
接口令牌 |
provider:String |
|
服务提供者（如ollama、dashscope、openai），默认为 openai |
model:String |
必须 |
模型名字 |
headers:Map<String, String> |
|
头信息（其它配置，都以头信息形式添加） |
timeout:Duration |
|
请求超时（默认：60s） |
proxy:ProxyDesc |
|
网络代理 |
| |
|
|
defaultTools:Map |
|
默认工具（每次请求，都会附上） |
defaultToolsContext:Map |
|
默认工具上下文（每次请求，都会附上） |
defaultInterceptors:List |
|
默认拦截器（每次请求，都会附上） |
defaultOptions:Map |
|
默认选项（每次请求，都会附上） |
关于 model 配置：
- 如果是 ollama ，运行什么模型即填什么（如：
ollama run deepseek-r1:7b，则填：deepseek-r1:7b）
- 如果是其它服务平台，请按平台的接口说明填写
更多可参考：《模型实例的构建和简单调用》
示例：
//用 ChatConfig 构建聊天模型（ChatConfig 一般用于接收配置注入）
public void case1(@Inject("${xxx.yyy}") ChatConfig config) {
ChatModel chatModel = ChatModel.of(config).build();
}
//直接构建聊天模型（ChatModel.Builder 内置 ChatConfig）
public void case2() {
ChatModel chatModel = ChatModel.of(apiUrl).apiKey(apiKey).model(model).build();
}
2、聊天模型请求选项（ChatOptions）
ChatOptions，聊天请求选项（不同模型，支持情况不同）
| 方法 |
描述 |
toolsContext():Map |
获取工具上下文（附加参数）。v3.4.0 后支持 |
toolsContext(Map):self |
设置工具上下文（附加参数）。v3.4.0 后支持 |
| |
|
|
tools():FunctionTool[] |
获取所有函数工具（内部构建请求时用） |
tool(name):FunctionTool |
获取函数工具 |
toolsAdd(FunctionTool):self |
添加函数工具 |
toolsAdd(Iterable<FunctionTool>):self |
添加函数工具 |
toolsAdd(ToolProvider):self |
添加函数工具 |
toolsAdd(Object):self |
添加函数工具（@ToolMapping object） |
toolsAdd(String, Consumer<FunctionToolDesc>):self |
添加函数工具（构建模式） |
| |
|
|
interceptors():ChatInterceptor[] |
获取所有聊天拦截器（内部构建请求时用） |
interceptorAdd(ChatInterceptor):self |
添加聊天拦截器 |
interceptorAdd(int, ChatInterceptor):self |
添加聊天拦截器 |
| |
|
|
options():Map<String, Object> |
获取所有选项（内部构建请求时用） |
option(key):Object |
获取选项 |
optionAdd(key,val):self |
添加选项（常用选项之外的选项） |
| |
|
|
tool_choice(choiceOrName):self |
常用选项：工具选择（可选：none，auto，required，或 tool-name） |
max_tokens(val):self |
常用选项：最大提示语令牌数限制 |
max_completion_tokens(val):self |
常用选项：最大完成令牌数限制 |
temperature(val):self |
常用选项：temperature 采样 |
top_p(val):self |
常用选项：top_p 采样 |
top_k(val):self |
常用选项：top_k 采样 |
frequency_penalty(val):self |
常用选项：频率惩罚 |
presence_penalty(val):self |
常用选项：存在惩罚 |
| |
|
|
response_format(map):self |
常用选项：响应格式 |
user(user):self |
常用选项：用户 |
示例：
public void case1(ChatConfig config) {
ChatModel chatModel = ChatModel.of(config).build(); //使用聊天配置
chatModel.prompt("hello")
.options(o->o.max_tokens(500)) //使用聊天选项
.call();
}
public void case2(ChatConfig config, String user) {
ChatModel chatModel = ChatModel.of(config).build(); //使用聊天配置
chatModel.prompt("hello")
.options(o->o.toolsAdd(new WeatherTool()).toolsContext(Utils.asMap("user", user))) //使用聊天选项
.call();
}
//user 参数不加 @Param（即不要求 llm 输出），由 toolsContext 传入（扩展参数）！
public class WeatherTool {
@ToolMapping(description = "获取指定城市的天气情况")
public String get_weather(@Param(description = "根据用户提到的地点推测城市") String location, String user) {
return "晴，24度"; //可使用 “数据库” 或 “网络” 接口根据 location 查询合适数据;
}
}
3、关于 response_format （模型的响应格式）
每个模型可能不同，一般：默认为 md 格式。其它格式参考（具体要看模型的说明）：
chatModel.prompt("hello")
.options(o->o.response_format(Utils.asMap("type", "json_object"))) //使用聊天选项
.call();
chatModel.prompt("hello")
.options(o->o.response_format(Utils.asMap("type", "json_schema",
"json_schema", Utils.asMap("type","object","properties",Utils.asMap()),
"strict", true))) //使用聊天选项
.call();
