Agent dẫn nguồn và trao quyết định cho con người

Hai quy tắc thiết kế làm trợ lý AI triển khai được trong vận hành thật: mọi câu trả lời có nguồn, mọi hành động có người duyệt.

Prototype document agent của chúng tôi đối soát hóa đơn với danh sách đóng gói. Nó tìm ra chênh hai đơn vị, hiển thị cả hai tài liệu nguồn và dừng lại. Con người giải trình chênh lệch và duyệt.

Đó là mẫu cho mọi trợ lý chúng tôi bàn giao: truy xuất có trích dẫn để người dùng kiểm tra; và bước phê duyệt cho mọi thứ ghi hoặc gửi dữ liệu, để trách nhiệm ở lại với con người.

Nó cũng đổi cách đo chất lượng. Thay vì hỏi mô hình có đúng không, chúng tôi hỏi người dùng có kiểm chứng được trong dưới một phút không. Đó là con số kiểm thử được trước khi ra mắt.

Trợ lý xây kiểu này demo chậm hơn và được duyệt nhanh hơn.