OpenAI?Function?Calling特性示例詳解

更新時間：2023年07月09日 10:40:11 作者：莫爾索隨筆

這篇文章主要為大家介紹了OpenAI?Function?Calling特性作用詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪

Function Calling使用

OpenAI 在gpt-3.5-turbo-0613 和 gpt-4-0613兩個模型的chat completion api中增加了一個叫 Function Calling 的新功能，本篇文章對其功能進行探究，并分析其作用。

我認為這是一種比Plugin更優(yōu)雅的方式，給開發(fā)者提供了更多的自由度，一方面識別出何時需要調用函數(shù)來對輸出格式化，一方面設定具體的格式化數(shù)據(jù)有助于接入后續(xù)業(yè)務邏輯。達到盡可能保證（注意這里，是根據(jù)你的函數(shù)描述最大可能保證，不能100%）LLM輸出可控的基礎上，來增強自己業(yè)務的目的。

show me code

下面以記賬應用為例，告訴AI：“今天喝奶茶花了6元”，正常思路來說，交互流程應該是這樣的：

用戶輸入prompt
AI進行語義分析
返回結構化的數(shù)據(jù)（每個子項是什么，花費是多少）
拿到數(shù)據(jù)進行下一步操作

借助Function Calling，微調后的模型可以檢測何時應該調用函數(shù)并使用符合函數(shù)簽名的 JSON 進行響應，下面看代碼例子??

import openai
import json
from enum import Enum
class BaseTool(Enum):
    Bookkeeping = "record_price"
    RecordingTask = "record_task"
def record_price(category, price):
    print(category, price)
    # 記賬應用 API
    print("記賬成功!")
def funtion_call_conversation():
    response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo-0613",
    messages=[
      {"role": "user", "content": "今天喝奶茶花了6元"},
    ],
    temperature=0,
    functions=[
      {
        "name": BaseTool.Bookkeeping.value,
        "description": "bookkeeping assistant",
        "parameters": {
          "type": "object",
          "properties": {
            "category": {
              "type": "string",
              "description": "類目",
            },
            "price": {"type": "string", "description": "金額"},
          },
          "required": ["category", "price"],
        },
      }
    ],
    function_call="auto",
    )
    message = response["choices"][0]["message"]
    if(message.get("function_call")):
        function_name = message["function_call"]["name"]
        if function_name == BaseTool.Bookkeeping.value:
            arguments = json.loads(message["function_call"]["arguments"])
            record_price(arguments.get('category'), arguments.get('price'))

接口調用說明

name字段表示要調用的函數(shù)名，description表示函數(shù)描述，paramters是一個符合JSON Schema格式的對象，用來描述這個函數(shù)的入參信息（讓 LLM 讀得懂的工具函數(shù)說明）

record_price是用來給Function Calling調用的函數(shù)，這個函數(shù)接收兩個必填的參數(shù)，category類目（string類型），price金額（string類型）

functions=[
{
  "name": BaseTool.Bookkeeping.value,
  "description": "bookkeeping assistant",
  "parameters": {
    "type": "object",
    "properties": {
      "category": {"type": "string","description": "類目"},
      "price": {"type": "string", "description": "金額"},
    },
    "required": ["category", "price"],
  },
}
],

LLM分析結果

LLM 分析后命中了函數(shù)簽名描述，就會返回給我們 function_call 這個字段以及函數(shù)簽名中我們預定義的相關信息：

{
  "role": "assistant",
  "content": null,
  "function_call": {
    "name": "record_price",
    "arguments": "{\n  \"category\": \"\u5976\u8336\",\n  \"price\": \"6\u5143\"\n}"
  }
}

category返回給我們了類目是奶茶
price識別出了金額是6元

接下來拿到參數(shù)，調用 record_price 進行記賬的操作即可；如果沒有命中函數(shù)簽名描述，就不會返回function_call字段，也就不需要進行任何操作：

if(message.get("function_call")):
        function_name = message["function_call"]["name"]
        if function_name == BaseTool.Bookkeeping.value:
            arguments = json.loads(message["function_call"]["arguments"])
            record_price(arguments.get('category'), arguments.get('price'))

按照這種思路，可以擴展自己的外部工具，比如發(fā)郵件，記錄待辦清單，讓LLM變成私人管家。