Semantic Kernel | 探索 Semantic Kernel 在客服 ChatBot 中的應用(我的客服Bot除了會說，還會做)

2024-04-02

前言

以前的客服對話機器人，可以讓用戶詢問 FAQ 的內容。
如果用戶有其他的服務，就需要判斷用戶的意圖，走那個意圖的流程。
例如，判斷到用戶輸入要退貨，走退貨的流程，
跑一個退貨的卡片出來，或是一個問題一個問題地讓用戶輸入我們所需要的資料。
所以客服對話機器人後端可能需要
1.FAQ 的問答集，2.取用戶意圖的服務，3.取得對話中的 Entity(地點、人名、金額…)

有了 OpenAI 及 Semantic Kernel 後，一切將變的非常容易，而且還很有彈性哦~

實作

以下以PChome 常見問題來測試，

1. 將常見問題存到 Memory，讓用戶來查詢
透過MemoryBuilder.WithPostgresMemoryStore，將PChome 常見問題存到PostgreSQL(ISemanticTextMemory.SaveReferenceAsync)之中

var memoryDeploymentName = "aoai的 embedding model，例如 ada002";
var chatDeploymentName = "aoai的 chat model，例如 gpt4-32k";
var endpoint = "aoai endpoint";
var apikey = "aoai apikey";
var connectionString = "PostgreSQL連線字串";

var memoryBuilder = new MemoryBuilder();
memoryBuilder.WithAzureOpenAITextEmbeddingGeneration(
    memoryDeploymentName,
    endpoint,
    apikey);

memoryBuilder.WithPostgresMemoryStore(connectionString, 1536);
ISemanticTextMemory memory = memoryBuilder.Build();
//先把 FAQ 存到 postgresql DB 之中
await StoreMemoryAsync(memory);


private static async Task StoreMemoryAsync(ISemanticTextMemory memory)
{
    var faqs = FAQList();
    var i = 0;
    foreach (var qa in faqs)
    {
        var qaText = $$"""
            User:{{qa.Question}}
            Assistant:{{qa.Answer}}
            """;
        await memory.SaveReferenceAsync(
            collection: "pchomefaq",
            externalSourceName: qa.Category,
            externalId: $"{qa.Id}",
            description: qaText,
            text: qaText);

        WriteLine($" #{++i} saved.");
    }
    Console.WriteLine("\n----------------------");
}

private static List<QAClass> FAQList()
{
    //取自 https://ecvip.pchome.com.tw/web/pages/faqmap.htm?qid=1
    return new List<QAClass>
    {
        new QAClass{ Id=1, Category="帳號問題", Answer="是的，為了保障您的權益，需要成為會員還能在PChome 24h購物購買商品，此外，成為會員才能享有購物行銷活動及累積P幣等優惠哦！", Question="我一定要成為會員，才能在PChome 24h購物中訂購商品嗎？"},
        new QAClass{ Id=2, Category="帳號問題", Answer="""
                    您可透過以下兩個方式成為註冊會員：
        以手機門號註冊，依頁面指示完成資料填寫，即可建立您的個人帳號。
        透過第三方帳號快速登入(Facebook/ Google/ Apple帳號與PChome旗下平台帳號)，需輸入第三方帳號密碼並驗證手機門號，驗證完成後即會建立您的個人帳號。
        """, Question="如何註冊為會員？"},
        new QAClass{ Id=3, Category="發票問題", Answer="根據財政部訂定之「電子發票實施作業要點」，於PChome消費開立之「電子發票」將不再主動寄送，後續也會將發票上傳至『財政部電子發票整合服務平台』供會員查閱，相關資料可至財政部電子發票整合服務平台。", Question="什麼是電子發票？"},
        new QAClass{ Id=4, Category="發票問題", Answer="""
                    發票開立後即e-mail發票開立通知信，因此在商品送達前就會先收到。
        (依據財政部核准字號第0940211766號 「網路購物開立統一發票交付非營業人作業規定」，於本網站消費所開立之個人發票將不主動郵寄(公司發票除外) 。
        """, Question="為什麼還沒收到商品就收到發票的開立通知信?"},
    };
}

執行完成後。
可以發現PostgreSQL中會自動建立pchomefaq這個 Table，並存放常見問題，

2. 建立 Plugin 來賦與 Chatbot 能力
我們需要 Chatbot 除了可以讓用戶查詢 FAQ 外(Ask)，還要可以處理退貨(ReturnGoods)、退貨進度(CheckReturnReceiptProgress)及退款進度(CheckRefundProgress)等服務，所以以要傳入ISemanticTextMemory，如下，

public class PCHomePlugin(ISemanticTextMemory textMemory)
{
    private readonly ISemanticTextMemory _textMemory = textMemory;

    [KernelFunction, Description("回答用戶的任何問題")]
    [return: Description("回傳FAQ結果")]
    public async Task<string> Ask([Description("用戶的問題")] string question)
    {
        var result = "從FAQ找不到，請判斷是否進行訂貨、退貨、回收等任務";
        var results = await _textMemory.SearchAsync("pchomefaq", question, limit: 2, minRelevanceScore: 0.7).ToListAsync();
        if (results.Any())
        {
            result = results.Select(r => r.Metadata.Description).Aggregate((a, b) => a + Environment.NewLine + b);
        }
        return result;
    }

    [KernelFunction, Description("執行退貨申請")]
    [return: Description("回傳執行退貨的結果")]
    public string ReturnGoods(
        [Description("訂購人員姓名")] string customerName,
        [Description("訂購人員電話")] string phoneNumber,
        [Description("訂單編號")] string orderNumber)
    {
        var order = GetOrder(customerName, phoneNumber, orderNumber);
        var result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]您好，已為您申請退貨流程，宅配將於2-3日內聯繫取件，請您協助將商品恢復原到貨包裝封箱備妥，留意宅配取件通知，謝謝您";
        DateTime.TryParse(order.OrderDate, out var orderDate);
        var diffOfDates = DateTime.Now - orderDate;
        if (diffOfDates.Days > 7)
        {
            result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]您好，因為您的商品已超過七日猶豫期，若有問題可洽廠商/原廠處理，謝謝您";
        }
        return result;
    }

    [KernelFunction, Description("查詢退貨收件進度")]
    [return: Description("回傳查詢退貨收件進度的結果")]
    public string CheckReturnReceiptProgress(
        [Description("訂購人員姓名")] string customerName,
        [Description("訂購人員電話")] string phoneNumber,
        [Description("訂單編號")] string orderNumber)
    {

        var order = GetOrder(customerName, phoneNumber, orderNumber);
        DateTime.TryParse(order.OrderDate, out var orderDate);
        order.ApplyReturnGoodDate = orderDate.AddDays(1).ToString();
        order.ReceiptDate = orderDate.AddDays(3).ToString();
        var result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]您好，查詢您已於{order.ApplyReturnGoodDate}申請退貨，退貨商品將於申請退貨後由「物流商」前往取件，會在{order.ReceiptDate}收件，請您協助保持手機暢通並留意接聽電話";
        if (order.OrderNumber == "0001")
        {
            result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]您好，查詢您已於{order.ApplyReturnGoodDate}申請退貨，但尚未與物流商約定時間，我們將為您通知「物流商」儘速與您聯繫約定取件時間，請您協助保持手機暢通並留意接聽電話";
        }
        return result;
    }

    [KernelFunction, Description("查詢退款進度")]
    [return: Description("回傳查詢退款進度的結果")]
    public string CheckRefundProgress(
        [Description("訂購人員姓名")] string customerName,
        [Description("訂購人員電話")] string phoneNumber,
        [Description("訂單編號")] string orderNumber)
    {

        var order = GetOrder(customerName, phoneNumber, orderNumber);

        var result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]退貨商品已驗收完成，待確認退款憑證與退款方式無誤後將會進入退款作業，敬請耐心等候，謝謝您";
        if (order.OrderNumber != "0001")
        {
            result = $"[{order.CustomerName},{order.PhoneNumber}, {order.PaymentType}]因退貨商品尚未驗收完成，需請您耐心等候。若退貨商品尚未取件，懇請您主動與我們聯絡，謝謝您";
        }
        return result;
    }

    private Order GetOrder(string customerName,
        string phoneNumber, string orderNumber = "")
    {
        Random rnd = new Random();
        Order order = new Order()
        {
            OrderNumber = orderNumber,
            CustomerName = customerName,
            PhoneNumber = phoneNumber,
            Id = rnd.Next(10000)
        };
        if (orderNumber == "0001")
        {
            order.OrderDate = DateTime.Now.AddDays(-5).ToString();
        }
        else
        {
            order.OrderDate = DateTime.Now.AddDays(-1).ToString();
        }
        return order;
    }
}

public class Order
{
    public int Id { get; set; }
    public string OrderNumber { get; set; }=string.Empty;
    public string OrderDate { get; set; }=DateTime.Now.ToString();
    public string PhoneNumber { get; set;}=string.Empty;
    public string CustomerName { get; set;}=string.Empty;
    public string PaymentType { get; set; }=string.Empty;
    public string ReceiptDate { get; set;} = string.Empty;
    public string ApplyReturnGoodDate { get; set; } = string.Empty;
}

3. 透過 Semantic Kernel 將 LLM, Plugin 及 Memory 整合起來服務用戶

var memoryDeploymentName = "aoai的 embedding model，例如 ada002";
var chatDeploymentName = "aoai的 chat model，例如 gpt4-32k";
var endpoint = "aoai endpoint";
var apikey = "aoai apikey";
var connectionString = "PostgreSQL連線字串";

var memoryBuilder = new MemoryBuilder();
memoryBuilder.WithAzureOpenAITextEmbeddingGeneration(
    memoryDeploymentName,
    endpoint,
    apikey);
//設定存到 PostgreSQL
memoryBuilder.WithPostgresMemoryStore(connectionString, 1536);
ISemanticTextMemory memory = memoryBuilder.Build();

var kernelBuilder = Kernel.CreateBuilder();
kernelBuilder.Services.AddAzureOpenAIChatCompletion(
    chatDeploymentName,
    endpoint,
    apikey
);
var kernel = kernelBuilder.Build();

var plugin = new PCHomePlugin(memory);
//賦與 Chatbot 有Plugin能力
kernel.ImportPluginFromObject(plugin);
IChatCompletionService chatCompletionService = kernel.GetRequiredService<IChatCompletionService>();
//讓LLM使用我們提供的Function，並使用中文對話
ChatHistory chatMessages = new("""
    Answer the questions as accurately as possible using the provided functions.
    Continue the conversation acting as the ASSISTANT.
    Respond to the USER by using available information and functions.
    Use zh-TW.
    """);
Console.WriteLine("請在 User > 後輸入您想要提問的問題，輸入 exit 就結束對話。");
Console.WriteLine(new string('*', 100));
while (true)
{
    Console.ForegroundColor = ConsoleColor.Yellow;
    Console.Write("User > ");
    var userInput = System.Console.ReadLine()!;
    if (userInput == "exit")
    {
        break;
    }
    chatMessages.AddUserMessage(userInput);

    OpenAIPromptExecutionSettings openAIPromptExecutionSettings = new()
    {
        //設定讓 ChatCompletionService 可依語義自動去呼叫需要的 Functions(Function Calling)
        ToolCallBehavior = ToolCallBehavior.AutoInvokeKernelFunctions,
        Temperature = 0
    };
    var result = chatCompletionService.GetStreamingChatMessageContentsAsync(
        chatMessages,
        executionSettings: openAIPromptExecutionSettings,
        kernel: kernel);
    string fullMessage = "";
    var first = true;
    Console.WriteLine(new string('*', 100));
    Console.ForegroundColor = ConsoleColor.DarkGreen;

    await foreach (var content in result)
    {
        if (content.Role.HasValue && first)
        {
            Console.Write($"Assistant > ");
            first = false;
        }
        Console.Write(content.Content);
        fullMessage += content.Content;
    }
    Console.WriteLine();
    // Add the message from the agent to the chat history
    chatMessages.AddAssistantMessage(fullMessage);
}
Console.ForegroundColor = ConsoleColor.DarkRed;
Console.WriteLine("結束對話...");

測試

1. 詢問常見問題
詢問我一定要成為會員，才能在PChome 24h購物中訂購商品嗎？，會將會員相關內容透過LLM總結回覆，如下，

2. 申請退貨
輸入我要退貨，LLM 會判斷要呼叫ReturnGoods這個 Function，並詢問用戶取得需要的參數值。
當收到用戶輸入的參數值後，會透過Semantic Kernel來呼叫ReturnGoods，並帶入參數，如下，

最後將ReturnGoods的結果，透過LLM總結回覆，如下，

3. 查詢收貨進度
輸入我有申請退貨的商品什麼時候要來收呢?，LLM 會判斷要呼叫CheckReturnReceiptProgress這個 Function，並詢問用戶取得需要的參數值。
當收到用戶輸入的參數值後，會透過Semantic Kernel來呼叫CheckReturnReceiptProgress，並帶入參數，最後將CheckReturnReceiptProgress的結果，透過LLM總結回覆，如下，

總結

原本需要很多 AI 服務，並需要開發人員去寫出各種複雜的程式流程，
當透過Semantic Kernel來協調整合LLM、Memory及Plugins後，
一切變很容易很多。
當然，這其中還有許多要克服的事，例如，

1.使用 ChatGPT3.5 會有參數幻覺問題(hallucinate parameters)，不會問用戶，會直接給參數值

2.LLM 總結回覆花費蠻多時間

3.查詢 FAQ 是否準確
…

但不可否認，這是一個美好的開始，讓寫 Chatbot 更容易、更有彈性。

參考資源

Semantic Kernel
Semantic Kernel | 如何建立智慧助理(Agent)
Semantic Kernel(SK) Orchestration for Healthcare Administrative operations
實體擷取預建模型
 PChome 常見問題
 Vector Embeddings, Dimensionality, and Retriever-Augmented Generation

一隻手只捉到一條魚: 勸人做事要專一，以免貪多嚼不爛，應作明確的抉擇。

jsonContent: meta: false pages: false posts: title: true date: true path: true text: false raw: false content: false slug: false updated: false comments: false link: false permalink: false excerpt: false categories: false tags: true