Anthropic 最近發表了一篇名為「構建有效的AI Agent」的文章，分享了他們在與各行業團隊合作開發大型語言模型（LLM）代理過程中的經驗和建議。

代理的定義：

在這篇文章中，Anthropic 將代理系統分為兩類：

  • 工作流程（Workflows）： 這類系統透過預定義的程式路徑來協調 LLM 和工具的使用，適用於明確定義的任務，提供可預測性和一致性。

  • 代理（Agents）： 這類系統讓 LLM 動態地指導自己的流程和工具使用，適合需要靈活性和模型驅動決策的大規模應用。

何時使用AI Agent：

Anthropic 建議在開發 LLM 應用時，應盡可能選擇最簡單的解決方案，僅在必要時增加複雜性。

代理系統通常在延遲和成本上有所妥協，以換取更好的任務性能。

因此，僅在需要靈活性和模型驅動決策的大規模應用中，才考慮使用代理系統。

使用框架的建議：

目前有許多框架可以簡化代理系統的實現，例如 LangChain 的 LangGraph、Amazon Bedrock 的 AI Agent 框架等。

然而，這些框架可能會增加抽象層級，導致底層提示和回應難以調試。

因此，Anthropic 建議開發者直接使用 LLM API，從簡單的模式開始，並確保理解底層程式碼的運作方式。

構建代理系統的模式：

文章介紹了從增強型 LLM 到自動代理的構建模式：

  • 增強型 LLM： 透過檢索、工具和記憶等功能來強化 LLM，使其能夠主動生成搜尋查詢、選擇適當的工具並決定保留哪些資訊。

  • 提示鏈接（Prompt Chaining）： 將任務分解為一系列步驟，每個 LLM 呼叫都處理前一步的輸出，並可在中間步驟加入程式檢查以確保流程的準確性。

  • 自動代理： 這類代理能夠動態決定任務的執行方式，適合需要靈活性和模型驅動決策的複雜應用。

實踐中的AI Agent ：

Anthropic 還在附錄中描述了客戶在使用這些系統時的兩個具體領域，展示了代理系統在實際應用中的價值。

這篇文章提供了構建有效代理系統的實用建議，強調了在開發 LLM 應用時選擇適當複雜度和工具的重要性，並分享了實踐中的成功案例，為開發者提供了寶貴的參考，有興趣的可以前往原文觀看完整內容。