以下是一些關鍵指標,顯示您應該使用像 Claude 這樣的 LLM 而非傳統 ML 方法來處理您的分類任務:
在自動化之前,了解您現有的工單系統至關重要。首先調查您的支援團隊目前如何處理工單路由。
考慮以下問題:
您越了解人類如何處理某些案例,就越能與 Claude 合作完成任務。
一個定義明確的使用者意圖類別清單,對於使用 Claude 進行準確的支援工單分類至關重要。Claude 在您的系統中有效路由工單的能力,與您系統類別的定義完善程度成正比。
以下是一些使用者意圖類別和子類別的範例。
除了意圖之外,工單路由和優先排序也可能受到其他因素的影響,例如緊急程度、客戶類型、SLA 或語言。在建構您的自動化路由系統時,請務必考慮其他路由標準。
與您的支援團隊合作,定義明確的成功標準,並設定可衡量的基準、門檻和目標。
以下是使用 LLM 進行支援工單路由時的一些標準準則和基準:
以下是一些無論是否使用 LLM 都可能有用的常見成功標準:
模型的選擇取決於成本、準確度和回應時間之間的權衡。
許多客戶發現 claude-haiku-4-5-20251001 是工單路由的理想模型,因為它是 Claude 4 系列中最快且最具成本效益的模型,同時仍能提供出色的結果。如果您的分類問題需要深厚的領域專業知識、大量的意圖類別或複雜的推理,您可以選擇更大的 Sonnet 模型。
工單路由是一種分類任務。Claude 分析支援工單的內容,並根據問題類型、緊急程度、所需專業知識或其他相關因素將其分類到預先定義的類別中。
撰寫一個工單分類提示。初始提示應包含使用者請求的內容,並同時回傳推理和意圖。
試試 Claude Cookbook 中的 metaprompt 範例,讓 Claude 為您撰寫初稿。
以下是一個工單路由分類提示的範例:
def classify_support_request(ticket_contents):
# 定義分類任務的提示
classification_prompt = f"""You will be acting as a customer support ticket classification system. Your task is to analyze customer support requests and output the appropriate classification intent for each request, along with your reasoning.
Here is the customer support request you need to classify:
<request>{ticket_contents}</request>
Please carefully analyze the above request to determine the customer's core intent and needs. Consider what the customer is asking for has concerns about.
First, write out your reasoning and analysis of how to classify this request inside <reasoning> tags.
Then, output the appropriate classification label for the request inside a <intent> tag. The valid intents are:
<intents>
<intent>Support, Feedback, Complaint</intent>
<intent>Order Tracking</intent>
<intent>Refund/Exchange</intent>
</intents>
A request may have ONLY ONE applicable intent. Only include the intent that is most applicable to the request.
As an example, consider the following request:
<request>Hello! I had high-speed fiber internet installed on Saturday and my installer, Kevin, was absolutely fantastic! Where can I send my positive review? Thanks for your help!</request>
Here is an example of how your output should be formatted (for the above example request):
<reasoning>The user seeks information in order to leave positive feedback.</reasoning>
<intent>Support, Feedback, Complaint</intent>
Here are a few more examples:
<examples>
<example 2>
Example 2 Input:
<request>I wanted to write and personally thank you for the compassion you showed towards my family during my father's funeral this past weekend. Your staff was so considerate and helpful throughout this whole process; it really took a load off our shoulders. The visitation brochures were beautiful. We'll never forget the kindness you showed us and we are so appreciative of how smoothly the proceedings went. Thank you, again, Amarantha Hill on behalf of the Hill Family.</request>
Example 2 Output:
<reasoning>User leaves a positive review of their experience.</reasoning>
<intent>Support, Feedback, Complaint</intent>
</example 2>
<example 3>
...
</example 8>
<example 9>
Example 9 Input:
<request>Your website keeps sending ad-popups that block the entire screen. It took me twenty minutes just to finally find the phone number to call and complain. How can I possibly access my account information with all of these popups? Can you access my account for me, since your website is broken? I need to know what the address is on file.</request>
Example 9 Output:
<reasoning>The user requests help accessing their web account information.</reasoning>
<intent>Support, Feedback, Complaint</intent>
</example 9>
Remember to always include your classification reasoning before your actual intent output. The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
"""以下是此提示的關鍵組成部分:
ticket_contents 插入到 <request> 標籤中。<reasoning> 標籤內提供其推理和分析,接著在 <intent> 標籤內提供適當的分類標籤。讓 Claude 將其回應拆分為獨立的 XML 標籤區段,可以讓您使用正規表達式分別從輸出中提取推理和意圖。這讓您可以在工單路由工作流程中建立有針對性的後續步驟,例如僅使用意圖來決定將工單路由給哪個人。
如果不在測試生產環境中部署並執行評估,很難知道您的提示效果如何。
建構部署結構。首先定義用於包裝 Claude 呼叫的方法簽章。擴展您先前開始撰寫的方法,該方法以 ticket_contents 作為輸入,現在讓它回傳 reasoning 和 intent 的元組作為輸出。如果您已有使用傳統 ML 的現有自動化,您會希望遵循該方法簽章。
import re
# 建立 Claude API 用戶端的實例
client = anthropic.Anthropic()
# 設定預設模型
DEFAULT_MODEL = "claude-haiku-4-5-20251001"
def classify_support_request(ticket_contents):
# 定義分類任務的提示
classification_prompt = f"""You will be acting as a customer support ticket classification system.
...
... The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
"""
# 將提示傳送至 API 以分類支援請求。
message = client.messages.create(
model=DEFAULT_MODEL,
max_tokens=500,
temperature=0,
messages=[{"role": "user", "content": classification_prompt}],
stream=False,
)
reasoning_and_intent = message.content[0].text
# 使用 Python 的正規表達式函式庫來擷取 `reasoning`。
reasoning_match = re.search(
r"<reasoning>(.*?)</reasoning>", reasoning_and_intent, re.DOTALL
)
reasoning = reasoning_match.group(1).strip() if reasoning_match else ""
# 同樣地,也擷取 `intent`。
intent_match = re.search(r"<intent>(.*?)</intent>", reasoning_and_intent, re.DOTALL)
intent = intent_match.group(1).strip() if intent_match else ""
return reasoning, intent此程式碼:
classify_support_request 函式,接受一個 ticket_contents 字串。classification_prompt 將 ticket_contents 傳送給 Claude 進行分類。reasoning 和 intent。由於必須先生成完整的推理和意圖文字才能進行解析,此範例設定 stream=False(預設值)。
提示通常需要經過測試和最佳化才能達到生產就緒狀態。要判斷您的解決方案是否就緒,請根據您先前建立的成功標準和門檻來評估效能。
要執行評估,您需要測試案例來執行。本指南的其餘部分假設您已經開發了測試案例。
本指南的範例評估沿著三個關鍵指標衡量 Claude 的效能:
您可能需要根據對您重要的因素,從其他面向評估 Claude。
為了進行評估,首先修改腳本,新增一個函式來比較預測意圖與實際意圖,並計算正確預測的百分比。然後新增成本計算和時間測量功能。
import re
# 建立 Claude API 用戶端的實例
client = anthropic.Anthropic()
# 設定預設模型
DEFAULT_MODEL = "claude-haiku-4-5-20251001"
def classify_support_request(request, actual_intent):
# 定義分類任務的提示
classification_prompt = f"""You will be acting as a customer support ticket classification system.
...
...The reasoning should be enclosed in <reasoning> tags and the intent in <intent> tags. Return only the reasoning and the intent.
"""
message = client.messages.create(
model=DEFAULT_MODEL,
max_tokens=500,
temperature=0,
messages=[{"role": "user", "content": classification_prompt}],
)
usage = message.usage # Get the usage statistics for the API call for how many input and output tokens were used.
reasoning_and_intent = message.content[0].text
# 使用 Python 的正規表達式函式庫來擷取 `reasoning`。
reasoning_match = re.search(
r"<reasoning>(.*?)</reasoning>", reasoning_and_intent, re.DOTALL
)
reasoning = reasoning_match.group(1).strip() if reasoning_match else ""
# 同樣地,也擷取 `intent`。
intent_match = re.search(r"<intent>(.*?)</intent>", reasoning_and_intent, re.DOTALL)
intent = intent_match.group(1).strip() if intent_match else ""
# 檢查模型的預測是否正確。
correct = actual_intent.strip() == intent.strip()
# 回傳 reasoning、intent、correct 和 usage。
return reasoning, intent, correct, usage以下是編輯內容的說明:
classify_support_request 方法現在接受測試案例中的 actual_intent,並將其與 Claude 的意圖分類進行比較,以評估它們是否相符。適當的評估需要明確的門檻和基準來判斷什麼是好的結果。前面的腳本會回傳準確度、回應時間和每次分類成本的執行時數值,但您仍需要明確建立的門檻。例如:
有了這些門檻,您就可以快速、輕鬆地以公正的實證方式大規模判斷哪種方法最適合您,以及可能需要進行哪些變更以更符合您的需求。
在複雜的情境中,除了標準的提示工程技巧和防護機制實作策略之外,考慮其他策略來提升效能可能會有所幫助。以下是一些常見情境:
隨著類別數量的增加,所需的範例數量也會增加,可能使提示變得難以管理。作為替代方案,您可以考慮使用混合分類器來實作階層式分類系統。
例如,您可能有一個頂層分類器,將工單大致分類為「技術問題」、「帳單問題」和「一般查詢」。然後,這些類別中的每一個都可以有自己的子分類器來進一步細化分類。

優點 - 更細緻且更準確: 您可以為每個父路徑建立不同的提示,實現更有針對性和特定上下文的分類。這可以提高準確度,並更細緻地處理客戶請求。
缺點 - 延遲增加: 請注意,多個分類器可能導致「latency」(延遲)增加,Anthropic 建議使用最快的模型 Haiku 來實作此方法。
儘管提供範例是提升效能最有效的方法,但如果支援請求高度多變,可能很難在單一提示中包含足夠的範例。
在這種情境下,您可以使用向量資料庫從範例資料集中進行相似度搜尋,並為給定的查詢檢索最相關的範例。
這種方法在分類範例中有詳細說明,已被證明可以將準確度從 71% 提升到 93%。
以下是 Claude 可能錯誤分類工單的一些情境(可能還有其他您情況特有的情境)。在這些情境中,請考慮在提示中提供明確的指示或範例,說明 Claude 應如何處理邊緣案例:
適當的整合需要您做出一些決策,決定基於 Claude 的工單路由腳本如何融入您更大的工單路由系統架構。有兩種方式可以做到這一點:
無論採用哪種方法,您都需要將腳本包裝成一個服務。方法的選擇取決於您的支援工單系統提供哪些 API。
造訪分類 cookbook 以取得更多範例程式碼和詳細的評估指引。
開始在 Claude Console 上建構和評估您的工作流程。
Was this page helpful?