
我們讓 Botpress Engine 運行在便宜的 LLM 上,然後與業界標準、昂貴的 LLM 進行比較。(沒錯,我們就是這麼有信心。)
我們一開始就是在打造 LLM。
現在我們運用這些深厚的技術專業,幫助你更好地服務你的客戶。
用直接執行程式碼取代每個代理動作的工具呼叫。
一個結構定義函式庫,讓 LLM 能精確預期每個工具的回傳內容。
從人類回饋中學習,讓代理的準確度隨時間提升。
大多數 AI 智能代理是透過工具調用來與世界互動:LLM 會選擇一個工具(例如查詢訂單或取得客戶資料),取得回應後再選下一個工具,然後重複這個流程。
我們不這麼做。
為什麼?因為 LLM 在寫程式碼方面遠比工具調用厲害。
所以在 LLMz Framework 上,我們不是用工具調用,而是直接把你的自然語言指令轉換成程式碼。具體來說,是 Typescript。
這代表如果你的請求有多個步驟(像是先取得客戶資料,再查詢訂單狀態),我們會把所有請求串成一個,而不是分開多次工具調用。
很明顯,每個請求只執行一次,成本比每個動作都分開請求還要低。
(別問我們為什麼競爭對手不這麼做,我們也不知道。)
因為這是一個由程式碼組成的大型請求,LLM 可以在執行過程中即時發現並修正錯誤,而不是在第一步就做出假設,導致第三步出錯。

你的 AI 智能代理會使用工具來協助客戶——像是用 CRM 查詢客戶資料。
當一個請求需要多個工具時(例如先查詢客戶資料,再查詢訂單狀態),LLM 有時會猜測工具會回傳什麼。
而當你連續串接 10 個工具步驟時,這些猜測會累積,最後可能導致失敗。
ZUI Library 的做法是對每個工具都強制規範輸出格式。這樣 LLM 永遠都能精確知道會收到什麼回應。
這代表你的 AI 智能代理可以——非常可靠地——處理需要多步驟的請求。
而且,說實話,大多數請求都包含多個步驟。這也是我們如此重視正確性的原因。
LLM 會猜測工具的回傳內容。多個動作串接時,這些猜測會累積——錯誤的輸入會一路傳下去,錯誤層層堆疊,代理會以難以診斷的方式失敗。
每個工具都有明確定義的輸出,LLM 可以信賴。動作可以順利串接,模型始終清楚自己在處理什麼,複雜的多步驟任務也能穩定執行。

大多數 AI 平台都沒有真正能讓你的 AI 智能體隨時間明顯進步的機制。
但 Botpress 在每個元件中都內建了一個回饋層:ZAI 學習循環。
我們的學習循環會將自然語言回饋(例如「這聽起來太正式了」或「只有在處理退款後才更新 CRM」)重新注入到你正在運作的系統中。
