OpenAI Assistants API 初體驗

前言

最近 OpenAI 有推出 GPTs 可以很方便的讓人直接上傳文件做人知識庫並建立 Bot 來對話，
對話的理解能力還不輸之前自已將文件內容拆分一段段轉成 Embedding 後再跟使用者的問來來比較相似度。
但因為目前 GPTs 還不 Support API 存取，所以改用 OpenAI Assistants API 來試試。
另外 OpenAI Assistants API 是用多少算多少$，可以從 usage 看到目前的花費(預設有給 5美元)。

體驗

如果要手動測試的話，可以直接到 Assistants playground ，
建立新的 Assistant、上傳文件、設定 Model (gpt-3.5-turbo-1106 or …) 、啟用 Tools Retrieval)後，就可以進行對話。

說明

開始之前，先來了解什麼是 Assistant, Thread, Message, Run 及 File。

Assistant 就是一個知識助理，包含要使用的 instructions, model, files 及 tools
Thread 使用者的 Session，所有的對話都會在這裡面。以前在 Chat 需要多輪對話時，需要自已將多次的對話訊息包含在一起，現在則不需要，會自動被記錄在 Thread 之中。
Message 使用者發送的問題及 Assistant 回覆的內容
Run 當使用者發送問題後，透過 Run 來讓 Assistant 回覆使用者的問題
File 要給 Fine-tuning 或 Assistants 使用的檔案

使用 API

以下介紹使用 C# HttpClient 呼叫 Assistants API 來建立 Assistant 並對話及取得 Assistant 回覆內容。
要達到這樣子的過程有以下幾個步驟，

  1. 取得 API Key
  2. 上傳要做為知識庫的文件
  3. 建立 Assistant
  4. 為一個使用者建立 Thread
  5. 在這個 Thread 中發送使用者 Message
  6. 發送 Run 來讓 Assistant 處理使用者詢問的問題
  7. 取回 Message
  8. 最後跟使用者結束所有對話時，可以將 Thread 刪除掉

以下我們一步步展開來看，

0. 取得 API Key

到 API Keys 建立 Secretkey ，並將它 Copy 下來

1. 上傳要做為知識庫的文件

這裡的文件格式目前只支援 'c', 'cpp', 'csv', 'docx', 'html', 'java', 'json', 'md', 'pdf', 'php', 'pptx', 'py', 'rb', 'tex', 'txt', 'css', 'jpeg', 'jpg', 'js', 'gif', 'png', 'tar', 'ts', 'xlsx', 'xml', 'zip'

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
string jsonContentType = "application/json";
string apiKey = "取得的Secretkey";
var leaveDoc = @"C:\OpenAI\docs\請假規則.docx";
await UploadFile(leaveDoc);
//將 fileId 記錄下來，在建立 Assistant 會使用到

//要查看有上傳那些檔案可以呼叫
//await ListUploadFiles();

async Task UploadFile(string filePath)
{
    var url = "https://api.openai.com/v1/files";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    using var content = new MultipartFormDataContent();
    using var fileStream = new FileStream(filePath, FileMode.Open);
    content.Add(new StreamContent(fileStream), "file", Path.GetFileName(filePath));
    var purpose = new StringContent("assistants");
    content.Add(purpose, "purpose");
    var response = await client.PostAsync(url, content);
    if (response.IsSuccessStatusCode)
    {
        string responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"錯誤：{response.StatusCode} - {response.ReasonPhrase}");
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

async Task ListUploadFiles()
{
    var url = "https://api.openai.com/v1/files";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    var response = await client.GetAsync(url);
    if (response.IsSuccessStatusCode)
    {
        string responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"錯誤：{response.StatusCode} - {response.ReasonPhrase}");
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

結果如下，

1
2
3
4
5
6
7
8
9
10
{
    "object": "file",
    "id": "file-9xpwQr4rni98mUcrQtlkDkvc",
    "purpose": "assistants",
    "filename": "請假規則.docx",
    "bytes": 33078,
    "created_at": 1701237463,
    "status": "processed",
    "status_details": null
}
2. 建立 Assistant
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
var file1Id = "file-9xpwQr4rni98mUcrQtlkDkvc";
var instructions = @"你是GSS的請假助手，你的任務是基於上傳的檔案內容，回答使用者的問題。
任務說明:
- 當使用者提問時，仔細分析問題並基於上傳的檔案內容給出回答。
- 如果上傳的檔案內容沒有能回答使用者問題的參考內容，請直接回答'我不知道'";
var assistantName = "GSS的請假助手";
//code_interpreter, retrieval, or function
var tools = new List<object> { new { type = "retrieval" } };
var model = "gpt-3.5-turbo-1106";
var file_ids = new List<string> { file1Id };
await CreateAssistant(instructions, assistantName, tools, model, file_ids);
//將  assistantId 記錄下來

//要查看有那些 Assistants 可以呼叫 ListAssistants()
//await ListAssistants();


async Task CreateAssistant(string instructions, string name, List<object> tools, string model, List<string> file_ids)
{
    var url = "https://api.openai.com/v1/assistants";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");
    var jsonStr = JsonSerializer.Serialize(new
    {
        instructions = instructions,
        name = name,
        tools = tools,
        model = model,
        file_ids = file_ids
    });

    using var jsonContent = new StringContent(jsonStr,
        Encoding.UTF8,
        "application/json");

    var response = await client.PostAsync(url, jsonContent);
    if (response.IsSuccessStatusCode)
    {
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"Err:{response.StatusCode}-{response.ReasonPhrase}");
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

async Task ListAssistants()
{
    var url = "https://api.openai.com/v1/assistants?order=desc&limit=20";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");
    var response = await client.GetAsync(url);
    if (response.IsSuccessStatusCode)
    {
        string responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"錯誤：{response.StatusCode} - {response.ReasonPhrase}");
        string responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

執行結果如下，

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
{
  "id": "asst_zsAKidrHJw3GwgI0mtsLFTnf",
  "object": "assistant",
  "created_at": 1701237547,
  "name": "GSS的請假助手",
  "description": null,
  "model": "gpt-3.5-turbo-1106",
  "instructions": "你是GSS的請假助手，你的任務是基於上傳的檔案內容，回答使用者的問題。\r\n任務說明:\r\n- 當使用者提問時，仔細分析問題並基於上傳的檔案內容給出回答。\r\n- 如
果上傳的檔案內容沒有能回答使用者問題的參考內容，請直接回答'我不知道'",
  "tools": [
    {
      "type": "retrieval"
    }
  ],
  "file_ids": [
    "file-9xpwQr4rni98mUcrQtlkDkvc"
  ],
  "metadata": {}
}
3. 為一個使用者建立 Thread
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
var assistantId = "asst_zsAKidrHJw3GwgI0mtsLFTnf";
//為使用者建立 Thread
await CreateThread();

async Task CreateThread()
{
    var url = "https://api.openai.com/v1/threads";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");

    var response = await client.PostAsync(url, null);
    if (response.IsSuccessStatusCode)
    {
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"Err:{response.StatusCode}-{response.ReasonPhrase}");
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

執行結果如下，

1
2
3
4
5
6
{
    "id": "thread_CwNorPHLj7eGt7UmoCEp7PxV",
    "object": "thread",
    "created_at": 1701237686,
    "metadata": {}
}
4. 在這個 Thread 中發送使用者 Message
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
var threadId = "thread_CwNorPHLj7eGt7UmoCEp7PxV";
//發送問題
var q1 = @"請問出差有什麼規定嗎?";
await CreateMessage(threadId, q1);

async Task CreateMessage(string threadId, string question)
{
    var url = $"https://api.openai.com/v1/threads/{threadId}/messages";
    using var client = new HttpClient();
    client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
    client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");
    var jsonStr = JsonSerializer.Serialize(new
    {
        role = "user",
        content = question
    });
    using var jsonContent = new StringContent(jsonStr,
        Encoding.UTF8,
        "application/json");

    var response = await client.PostAsync(url, jsonContent);
    if (response.IsSuccessStatusCode)
    {
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
    else
    {
        Console.WriteLine($"Err:{response.StatusCode}-{response.ReasonPhrase}");
        var responseBody = await response.Content.ReadAsStringAsync();
        Console.WriteLine(responseBody);
    }
}

執行結果如下，

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
{
    "id": "msg_RY12iYrr14wESdn4v6xUuwHJ",
    "object": "thread.message",
    "created_at": 1701237757,
    "thread_id": "thread_CwNorPHLj7eGt7UmoCEp7PxV",
    "role": "user",
    "content": [
        {
            "type": "text",
            "text": {
                "value": "請問出差有什麼規定嗎?",
                "annotations": []
            }
        }
    ],
    "file_ids": [],
    "assistant_id": null,
    "run_id": null,
    "metadata": {}
}
5. 發送 Run 來讓 Assistant 處理使用者詢問的問題
1
2
3
4
5
6
await CreateRun(assistantId, threadId);
//將 runId 記錄下來
var run1Id = "run_B62wmGcFQyBllyRDGhNXfTBG";
Thread.Sleep(2000);
//Loop 等到 Run 的狀態為 completed 才離開
await RetrievesRun(threadId, run1Id);
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
//剛建立時 status 是 ("status": "queued")，要 RetrievesRun 到 completed
async Task CreateRun(string assistantId, string threadId)
{
  var url = $"https://api.openai.com/v1/threads/{threadId}/runs";
  using var client = new HttpClient();
  client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
  client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");


  using StringContent jsonContent = new(JsonSerializer.Serialize(new
  {
    assistant_id = assistantId
  }),
      Encoding.UTF8,
      jsonContentType);

  var response = await client.PostAsync(url, jsonContent);
  if (response.IsSuccessStatusCode)
  {
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
  else
  {
    Console.WriteLine($"Err:{response.StatusCode}-{response.ReasonPhrase}");
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
}

async Task RetrievesRun(string threadId, string runId)
{
  var url = $"https://api.openai.com/v1/threads/{threadId}/runs/{runId}";
  using var client = new HttpClient();
  client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
  client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");
  var response = await client.GetAsync(url);
  if (response.IsSuccessStatusCode)
  {
    // 讀取回應內容
    string responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
  else
  {
    Console.WriteLine($"錯誤：{response.StatusCode} - {response.ReasonPhrase}");
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
}


結果如下，

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
{
  "id": "run_B62wmGcFQyBllyRDGhNXfTBG",
  "object": "thread.run",
  "created_at": 1701237910,
  "assistant_id": "asst_zsAKidrHJw3GwgI0mtsLFTnf",
  "thread_id": "thread_CwNorPHLj7eGt7UmoCEp7PxV",
  "status": "queued",
  "started_at": null,
  "expires_at": 1701238510,
  "cancelled_at": null,
  "failed_at": null,
  "completed_at": null,
  "last_error": null,
  "model": "gpt-3.5-turbo-1106",
  "instructions": "你是GSS的請假助手，你的任務是基於上傳的檔案內容，回答使用者的問題。\r\n任務說明:\r\n- 當使用者提問時，仔細分析問題並基於上傳的檔案內容給出回答。\r\n- 如
果上傳的檔案內容沒有能回答使用者問題的參考內容，請直接回答'我不知道'",
  "tools": [
    {
      "type": "retrieval"
    }
  ],
  "file_ids": [
    "file-9xpwQr4rni98mUcrQtlkDkvc"
  ],
  "metadata": {}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
{
  "id": "run_B62wmGcFQyBllyRDGhNXfTBG",
  "object": "thread.run",
  "created_at": 1701237910,
  "assistant_id": "asst_zsAKidrHJw3GwgI0mtsLFTnf",
  "thread_id": "thread_CwNorPHLj7eGt7UmoCEp7PxV",
  "status": "completed",
  "started_at": 1701237910,
  "expires_at": null,
  "cancelled_at": null,
  "failed_at": null,
  "completed_at": 1701237918,
  "last_error": null,
  "model": "gpt-3.5-turbo-1106",
  "instructions": "你是GSS的請假助手，你的任務是基於上傳的檔案內容，回答使用者的問題。\r\n任務說明:\r\n- 當使用者提問時，仔細分析問題並基於上傳的檔案內容給出回答。\r\n- 如
果上傳的檔案內容沒有能回答使用者問題的參考內容，請直接回答'我不知道'",
  "tools": [
    {
      "type": "retrieval"
    }
  ],
  "file_ids": [
    "file-9xpwQr4rni98mUcrQtlkDkvc"
  ],
  "metadata": {}
}
6. 取回 Message

取得最後回 2 個訊息

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
await ListMessages(threadId);

async Task ListMessages(string threadId)
{
  var url = $"https://api.openai.com/v1/threads/{threadId}/messages?order=desc&limit=2";
  using var client = new HttpClient();
  client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
  client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");
  var response = await client.GetAsync(url);
  if (response.IsSuccessStatusCode)
  {
    string responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
  else
  {
    Console.WriteLine($"錯誤：{response.StatusCode} - {response.ReasonPhrase}");
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
}

結果如下，

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
{
  "object": "list",
  "data": [
    {
      "id": "msg_TfOynQ2UdfJUaJ77HAjiuytv",
      "object": "thread.message",
      "created_at": 1701237913,
      "thread_id": "thread_CwNorPHLj7eGt7UmoCEp7PxV",
      "role": "assistant",
      "content": [
        {
          "type": "text",
          "text": {
            "value": "根據公司的請假規定，有幾個主要的規則需要注意：\n1. 請假時數計算：每週一至五的工作日有具體的時間計算，上午8:30~12:00計3.5小時，下午13:00~17:30計4.5小
時，共計8小時【7†source】。\n2. 特休假的核算方式以休假年資為準，依特定規定給予特別休假，具體以年資表為準。\n3. 遇到臨時狀況，如果因突發事件或生病必須於當日請假，可以於當日
10:00前以電話向主管報備，並在事後補辦請假手續【7†source】。\n\n以上是關於請假的一些規定，如果你有其他問題或需要進一步了解請假的相關規定，請隨時告訴我。",
            "annotations": [
              {
                "type": "file_citation",
                "text": "【7†source】",
                "start_index": 96,
                "end_index": 106,
                "file_citation": {
                  "file_id": "file-9xpwQr4rni98mUcrQtlkDkvc",
                  "quote": "臨時狀況\n同仁因突發事件或生病必須於當日請假者，得於當日10:00前以電話向主管報備，並於事後補辦請假手續。\n同仁未依規定辦理請假手續者，事後又不補
辦請假手續並說明原因者，視同曠職。\n\n第一條 請假時數計算\n＊每週一～五，上午8:30~12:00，計3.5小時；\n 下午13:00~17:30，計4.5小時，共8小時。\n＊請假最小單位依各假別規定。
\n\n第二條 給假規定 \n特休假\n\t特休假的核算方式以休假年資為準，依下列規定給予特別休假：\n六個月以上一年未滿者，三日。\n一年以上二年未滿者，七日。\n二年以上三年未滿者，十
日。\n三年以上五年未滿者，每年十四日。\n五年以上十年未滿者，每年十五日。\n十年以上者，每一年加給一日，加至三十日為止。\n\n＊ 同仁於年度開始時應做休假規劃，以期達到身心舒展
的目的。休假之規劃應與主管取得溝通，以免造成工作安排之困擾。\n＊ 因年度終結或終止契約而應休未休之日數，由本公司發給工資。經勞資雙方協商，同仁可選擇全數遞延一年或結算薪資；
遞延者，至多以遞延一年為限；若員工未於期限內回覆者，將一律結算薪資予同仁。\n＊ 如特休年度屆滿或終止契約而應休未休之日數，將依原始年度之薪資結算給同仁。\n＊ 特休假期間薪資
照給。\n＊ 請假最小單位為0.5小時。\n\n加班補休\n＊ 加班補休時數使用期限以當年度特休假使用期限之迄日做為加班補休之迄日。\n＊ 加班補休期限屆滿於約定之工資給付日結算薪資發給
。\n＊ 請假最小單位為0.5小時。\n\n生日假\n＊ 同仁到職當年度即享有一天生日假，生日當月可擇一日請 ( 放 ) 生日假。\n＊ 生日假於生日當月有效，棄權者不得再補休。\n＊ 生日假薪資
照給。\n＊ 請假最小單位為1天。\n\n普通傷病假\n＊ 同仁因普通傷害、疾病或生理原因造成身體狀況無法正常工作，而必須治療或休養者，得請普通傷病假。\n1. 未住院者，一年內合計不得
超過30日。\n2. 住院者，二年內合計不得超過一年。\n3. 未住院及住院者，二年內合計不得超過一年。\n＊ 普通傷病假第一年合計未超過30日部份，工資折半發給。超過30日時以特休假或事假
抵充，抵充後若仍然不夠者，得予留職停薪，以一年為限，之後若仍然無法工作者，依法資遣或自請退休。\n＊ 請假超過五日者，須於事後持醫院證明銷假，未持證明者以特休假處理，超過十五
日而又未能提出醫院證明者，以曠職論。\n＊ 一次連續請普通傷病假超過三十日以上之期間，如遇例假日、紀念日、勞動節日及由中央主管機關規定應放假之日，併計於請假期間內。\n＊ 薪資
減半發給"
                }
              },
              {
                "type": "file_citation",
                "text": "【7†source】",
                "start_index": 207,
                "end_index": 217,
                "file_citation": {
                  "file_id": "file-9xpwQr4rni98mUcrQtlkDkvc",
                  "quote": "臨時狀況\n同仁因突發事件或生病必須於當日請假者，得於當日10:00前以電話向主管報備，並於事後補辦請假手續。\n同仁未依規定辦理請假手續者，事後又不補
辦請假手續並說明原因者，視同曠職。\n\n第一條 請假時數計算\n＊每週一～五，上午8:30~12:00，計3.5小時；\n 下午13:00~17:30，計4.5小時，共8小時。\n＊請假最小單位依各假別規定。
\n\n第二條 給假規定 \n特休假\n\t特休假的核算方式以休假年資為準，依下列規定給予特別休假：\n六個月以上一年未滿者，三日。\n一年以上二年未滿者，七日。\n二年以上三年未滿者，十
日。\n三年以上五年未滿者，每年十四日。\n五年以上十年未滿者，每年十五日。\n十年以上者，每一年加給一日，加至三十日為止。\n\n＊ 同仁於年度開始時應做休假規劃，以期達到身心舒展
的目的。休假之規劃應與主管取得溝通，以免造成工作安排之困擾。\n＊ 因年度終結或終止契約而應休未休之日數，由本公司發給工資。經勞資雙方協商，同仁可選擇全數遞延一年或結算薪資；
遞延者，至多以遞延一年為限；若員工未於期限內回覆者，將一律結算薪資予同仁。\n＊ 如特休年度屆滿或終止契約而應休未休之日數，將依原始年度之薪資結算給同仁。\n＊ 特休假期間薪資
照給。\n＊ 請假最小單位為0.5小時。\n\n加班補休\n＊ 加班補休時數使用期限以當年度特休假使用期限之迄日做為加班補休之迄日。\n＊ 加班補休期限屆滿於約定之工資給付日結算薪資發給
。\n＊ 請假最小單位為0.5小時。\n\n生日假\n＊ 同仁到職當年度即享有一天生日假，生日當月可擇一日請 ( 放 ) 生日假。\n＊ 生日假於生日當月有效，棄權者不得再補休。\n＊ 生日假薪資
照給。\n＊ 請假最小單位為1天。\n\n普通傷病假\n＊ 同仁因普通傷害、疾病或生理原因造成身體狀況無法正常工作，而必須治療或休養者，得請普通傷病假。\n1. 未住院者，一年內合計不得
超過30日。\n2. 住院者，二年內合計不得超過一年。\n3. 未住院及住院者，二年內合計不得超過一年。\n＊ 普通傷病假第一年合計未超過30日部份，工資折半發給。超過30日時以特休假或事假
抵充，抵充後若仍然不夠者，得予留職停薪，以一年為限，之後若仍然無法工作者，依法資遣或自請退休。\n＊ 請假超過五日者，須於事後持醫院證明銷假，未持證明者以特休假處理，超過十五
日而又未能提出醫院證明者，以曠職論。\n＊ 一次連續請普通傷病假超過三十日以上之期間，如遇例假日、紀念日、勞動節日及由中央主管機關規定應放假之日，併計於請假期間內。\n＊ 薪資
減半發給"
                }
              }
            ]
          }
        }
      ],
      "file_ids": [],
      "assistant_id": "asst_zsAKidrHJw3GwgI0mtsLFTnf",
      "run_id": "run_B62wmGcFQyBllyRDGhNXfTBG",
      "metadata": {}
    },
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": {
            "value": "請問出差有什麼規定嗎?",
            "annotations": []
          }
        }
      ],
      "file_ids": [],
      "assistant_id": null,
      "run_id": null,
      "metadata": {}
    }
  ],
  "first_id": "msg_TfOynQ2UdfJUaJ77HAjiuytv",
  "last_id": "msg_RY12iYrr14wESdn4v6xUuwHJ",
  "has_more": false
}

可以發現，第一個內容就是 Assistant 的回覆。

7. 最後跟使用者結束所有對話時，可以將 Thread 刪除掉
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
//清除使用者的 Thread
await DeleteThread(threadId);

async Task DeleteThread(string threadId)
{
  var url = $"https://api.openai.com/v1/threads/{threadId}";

  using var client = new HttpClient();
  client.DefaultRequestHeaders.Add("Authorization", $"Bearer {apiKey}");
  client.DefaultRequestHeaders.Add("OpenAI-Beta", "assistants=v1");

  var response = await client.DeleteAsync(url);
  if (response.IsSuccessStatusCode)
  {
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
  else
  {
    Console.WriteLine($"Err:{response.StatusCode}-{response.ReasonPhrase}");
    var responseBody = await response.Content.ReadAsStringAsync();
    Console.WriteLine(responseBody);
  }
}

結論

從整個測試下來，只要給文件就幫忙做成知識庫，
省去了之前建立 Bot 時，要依不同文件格式，切節章、轉成 Embedding 再跟使用者問題比對相似度的成本。
透過 Thread 來掌控 Bot 與 使用者對話的內容，不需要將所有的對話一直附加到對話中，導致 Token 逾來逾多的問題。
不過要 loop 看 Run 是否執行完成對使用 API 來說，不是很方便。

  • 註: 如果要使用到 GPT 4 ，會員等級起碼要是 Tier 1 以上，就是起碼要付 5 美元

參考資源

Assistants API
OpenAI’s Assistants API — A hands-on demo
Assistants API - Rate limits

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

大家好，我是亂馬客 Rainmaker，目前任職於叡揚資訊，大家也都叫我 RM 。 平常負責開發公司各產品線的加值、共用的軟體，例如 Azure, OpenAI, Chatbot, Database ... 同時 Support 公司各種技術及資安修改問題。 Blog中的內容也是個人的看法， 如果有需要討論的地方， 可以留言，或是 mail 給我 :) rainmaker_ho@gss.com.tw