
Kami jalankan Enjin Botpress pada LLM murah, kemudian bandingkan dengan standard industri yang menggunakan LLM mahal. (Ya, kami memang yakin.)
Kami bermula dengan membina LLM.
Sekarang kami gunakan kepakaran teknikal mendalam itu untuk membantu anda melayani pelanggan dengan lebih baik.
Menggantikan pemanggilan alat dengan pelaksanaan kod terus untuk setiap tindakan ejen.
Pustaka skema yang memberitahu LLM dengan tepat apa yang dijangka daripada setiap alat.
Belajar daripada maklum balas manusia untuk meningkatkan ketepatan ejen dari masa ke masa.
Kebanyakan ejen AI berinteraksi dengan dunia melalui pemanggilan alat: LLM memilih alat (seperti mencari pesanan atau mendapatkan rekod pelanggan), menerima respons, kemudian memilih alat seterusnya, dan ulang semula.
Kami tidak lakukan ini.
Kenapa? Kerana LLM jauh lebih baik menulis kod berbanding pemanggilan alat.
Jadi, di Kerangka Kerja LLMz, arahan bahasa biasa anda ditukar menjadi kod. Khususnya, ke dalam Typescript.
Ini bermakna jika permintaan anda ada beberapa komponen (seperti mendapatkan rekod pelanggan dan kemudian menyemak status pesanan), kami gabungkan semua permintaan itu menjadi satu, bukan beberapa panggilan alat berasingan.
Jelas, satu pelaksanaan untuk setiap permintaan lebih murah daripada permintaan berasingan untuk setiap tindakan dalam permintaan.
(Jangan tanya kenapa pesaing kami tidak buat begini. Kami pun tak tahu.)
Kerana ia satu permintaan besar yang terdiri daripada kod, LLM boleh mengesan dan membetulkan ralat semasa ia berjalan, bukan membuat andaian pada Langkah 1 yang menjadi ralat pada Langkah 3.

Ejen AI anda menggunakan alat untuk membantu pelanggan anda — seperti menggunakan CRM untuk mendapatkan rekod pelanggan.
Bila permintaan melibatkan beberapa alat (seperti mendapatkan rekod pelanggan dan kemudian menyemak status pesanan), LLM kadang-kadang meneka apa yang akan dikembalikan oleh alat itu.
Dan bila anda rantai 10 langkah alat bersama, tekaan itu terkumpul dan boleh menyebabkan kegagalan.
Apa yang dilakukan oleh Pustaka ZUI ialah memastikan output setiap alat ditakrif dengan ketat. Jadi LLM sentiasa tahu dengan tepat apa yang diterima.
Ini bermakna ejen AI anda boleh — dengan sangat boleh dipercayai — mengurus permintaan yang melibatkan lebih daripada satu langkah.
Dan, sejujurnya, kebanyakan permintaan memang melibatkan beberapa langkah. Sebab itu kami sangat serius untuk memastikan ia betul.
LLM meneka apa yang dikembalikan oleh alat. Dalam beberapa tindakan berantai, tekaan itu terkumpul — input salah dihantar ke bawah, ralat bertambah, dan ejen gagal dengan cara yang sukar dikesan.
Setiap alat ada output yang ditakrif tepat yang boleh diharap oleh LLM. Tindakan dirantai dengan lancar, model sentiasa tahu apa yang sedang diuruskan, dan tugas kompleks berbilang langkah dilaksanakan dengan boleh dipercayai.

Kebanyakan platform AI tidak mempunyai mekanisme sebenar untuk ejen AI anda bertambah baik dari semasa ke semasa.
Tetapi Botpress mempunyai lapisan maklum balas yang terbina dalam setiap komponen: ZAI Learning Loop.
Learning Loop kami mengambil maklum balas dalam bahasa semula jadi (seperti "Itu kedengaran terlalu formal" atau "Hanya kemas kini CRM selepas anda memproses bayaran balik") dan memasukkannya semula ke dalam sistem yang anda gunakan.
