
Pinatakbo namin ang Botpress Engine gamit ang murang LLM, tapos inihambing namin ito sa industry standard na gumagamit ng mamahaling LLM. (Oo, ganoon kami katiwala sa sarili namin.)
Nagsimula kami sa paggawa ng LLMs.
Ngayon, ginagamit namin ang malalim na teknikal na kaalaman na iyon para matulungan kang mas mapaglingkuran ang iyong mga customer.
Pinapalitan ang tool-calling ng direktang pagpapatupad ng code para sa bawat aksyon ng agent.
Isang schema library na nagsasabi sa LLM kung ano mismo ang aasahan mula sa bawat tool.
Natuto ito mula sa feedback ng tao para mapabuti ang katumpakan ng agent habang tumatagal.
Karamihan sa mga AI agent ay nakikipag-ugnayan sa mundo sa pamamagitan ng tool-calling: pumipili ang LLM ng tool (halimbawa, kapag tinitingnan ang isang order o kumukuha ng tala ng customer), kumukuha ng sagot, tapos pumipili ng susunod na tool, at inuulit ito.
Hindi namin ito ginagawa.
Bakit? Dahil mas mahusay ang LLMs sa pagsulat ng code kaysa sa tool-calling.
Kaya sa halip na tool-calling, sa LLMz Framework, ang mga payak mong tagubilin ay ginagawang code. Partikular, sa Typescript.
Ibig sabihin, kung ang hiling mo ay may maraming bahagi (tulad ng pagkuha ng tala ng customer at pagkatapos tingnan ang status ng order), pinagsasama-sama namin ang lahat ng iyon sa isang request, hindi hiwa-hiwalay na tool calls.
Siyempre, mas mura ang isang execution kada request kaysa sa magkakahiwalay na request para sa bawat aksyon sa hiling.
(Huwag mo na kaming tanungin kung bakit hindi ito ginagawa ng mga kakumpitensya namin. Hindi rin namin alam.)
Dahil isang malaking request na gawa sa code ito, kayang makita at itama ng LLM ang mga pagkakamali habang nagpapatuloy, sa halip na mag-assume sa Step 1 na nagiging error sa Step 3.

Gumagamit ang iyong AI agents ng mga tool para tulungan ang mga customer mo — tulad ng paggamit ng CRM para kunin ang tala ng customer.
Kapag ang isang hiling ay nangangailangan ng maraming tool (tulad ng pagkuha ng tala ng customer at pagkatapos ay pag-check ng status ng order), minsan hinuhulaan ng LLM kung ano ang ibabalik ng tool.
At kapag sunod-sunod na 10 tool steps ang pinagsama, naiipon ang mga hula at maaaring magdulot ng pagkabigo.
Ang ginagawa ng ZUI Library ay magpatupad ng mahigpit na tinukoy na output sa bawat tool. Kaya laging alam ng LLM kung ano mismo ang matatanggap nito.
Ibig sabihin, kayang-kaya ng AI agent mo — nang napakaasahan — na asikasuhin ang mga hiling na may higit sa isang hakbang.
At, sa totoo lang, karamihan ng mga hiling ay may maraming hakbang. Kaya seryoso kami sa pagkuha ng tamang resulta.
Hinuhulaan ng LLM kung ano ang ibabalik ng tool. Sa maraming magkakasunod na aksyon, nagkakapatong-patong ang mga hula — maling input ang naipapasa, nadadagdagan ang mga error, at nabibigo ang agent sa mga paraang mahirap tukuyin.
May eksaktong takdang output ang bawat tool na maaasahan ng LLM. Malinis ang pagkakasunod-sunod ng mga aksyon, laging alam ng modelo kung ano ang gamit nito, at maaasahan ang pagpapatupad ng mga komplikadong multi-step na gawain.

Karamihan sa mga AI platform ay walang tunay na paraan para aktuwal na gumaling ang iyong mga AI agent habang tumatagal.
Pero ang Botpress ay may feedback layer na nakapaloob sa bawat bahagi: ang ZAI Learning Loop.
Ang aming Learning Loop ay tumatanggap ng feedback sa natural na wika (gaya ng “Masyadong pormal ang tunog niyan” o “I-update lang ang CRM pagkatapos iproseso ang refund”) at ibinabalik ito sa sistemang ginagamit mo.
