作者：AI小火箭的HB

我是AI小火箭的HB，我探索和写作人工智能和语言交叉点的所有事物，范围从LLM，聊天机器人，语音机器人，开发框架，以数据为中心的潜在空间等。

范例

初步体验

OpenAI新增了“函数调用”功能，这是什么呢？

我们先调用API来体验下。

下面是发送到模型的 JSON 文档。此调用的目的是生成一个 JSON 文件，该文件可用于发送到发送电子邮件的 API。

您可以看到函数名称为 send_email，并定义了三个参数， to_address ， subject 和 body ，即电子邮件正文。

用户请求为： Send Cobus from humanfirst ai an email asking for the monthly report?

curl --location 'https://api.openai.com/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-xxxx' \
--data '{
  "model": "gpt-3.5-turbo-0613",
  "messages": [
    {"role": "user", "content": "Send Cobus from humanfirst ai an email asking for the monthly report?"}
  ],
  "functions": [
    {
      "name": "send_email",
      "description": "Please send an email.",
      "parameters": {
        "type": "object",
        "properties": {
          "to_address": {
            "type": "string",
            "description": "To address for email"
          },          
          "subject": {
            "type": "string",
            "description": "subject of the email"
          },
          "body": {
            "type": "string",
            "description": "Body of the email"
          }
        }
      }
    }
  ]
}'

下面是返回的 JSON

{
    "id": "chatcmpl-7TQuwzJpQAY470saQM2RPfxwF6DDE",
    "object": "chat.completion",
    "created": 1687249338,
    "model": "gpt-3.5-turbo-0613",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": null,
                "function_call": {
                    "name": "send_email",
                    "arguments": "{\n  \"to_address\": \"cobus@humanfirst.ai\",\n  \"subject\": \"Request for Monthly Report\",\n  \"body\": \"Hi Cobus,\\n\\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\\n\\nThanks,\\n[Your Name]\"\n}"
                }
            },
            "finish_reason": "function_call"
        }
    ],
    "usage": {
        "prompt_tokens": 86,
        "completion_tokens": 82,
        "total_tokens": 168
    }
}

GPT模型会返回需要调用的函数名 send_email和对应的参数（放在arguments字段）。

{
  "to_address": "cobus@humanfirst.ai",
  "subject": "Request for Monthly Report",
  "body": "Hi Cobus,\n\nI hope you're doing well. Could you please share the monthly report with me? It would be great to have it before the end of the week.\n\nThanks,\n[Your Name]"
}

这就非常有用，第三方的应用可以提供多个函数/服务（类似插件），GPT模型可以根据用户的指令自动选择不同的函数/服务。

现在再来看示例，就比较清晰了。

用途

根据官网文档，函数调用允许您更可靠地从模型中获取结构化数据。例如，您可以：

• 创建聊天机器人，通过调用外部 API 来回答问题（例如 ChatGPT 插件）

  • 例如，定义像 send_email(to: string, body: string) 或 get_current_weather(location: string, unit: 'celsius' | 'fahrenheit') 这样的函数

• 将自然语言转换为 API 调用

  • 例如，将“谁是我的顶级客户？”转换为 get_customers(min_revenue: int, created_before: string, limit: int) 并调用您的内部 API

• 从文本中提取结构化数据

  • 例如，定义一个名为 extract_data(name: string, birthday: string) 或 sql_query(query: string) 的函数

函数调用的基本步骤顺序如下：

1. 使用用户查询和函数参数中定义的一组函数调用模型。

2. 模型可以选择调用函数;如果是这样，内容将是符合自定义架构的字符串化 JSON 对象（注意：模型可能会生成无效的 JSON 或幻觉参数）。

3. 在代码中将字符串解析为 JSON，并使用提供的参数调用函数（如果存在）。

4. 通过将函数响应追加为新消息来再次调用模型，并让模型将结果汇总回给用户。

AI小火箭

AI小火箭已经支持函数调用和gpt-3.5-turbo-16k、gpt-3.5-turbo-0613、gpt-3.5-turbo-16k-0613，大家可以去体验下。