AI agent khác gì chatbot và tại sao rủi ro cao hơn?

[Trương Cẩm Tú✔]

Chatbot chủ yếu tạo câu trả lời cho người dùng trong khi AI agent có thể được trao mục tiêu và quyền sử dụng công cụ để tự thực hiện nhiều bước nhằm đạt mục tiêu đó. Chính khả năng hành động khiến rủi ro của AI agent khác đáng kể so với chatbot thông thường. Khi hỏi một chatbot người dùng gửi prompt và nhận lại văn bản, hình ảnh hoặc dữ liệu. Phạm vi tác động trực tiếp thường kết thúc ở đầu ra đó. AI agent có thể tiến xa hơn, tùy hệ thống nó có thể duyệt web, đọc và tạo file, chạy mã, gọi API, sử dụng terminal hoặc tương tác với các dịch vụ trực tuyến. Agent còn có thể tự lựa chọn chuỗi hành động để hoàn thành nhiệm vụ thay vì chờ con người ra lệnh ở từng bước. Vụ DseWiki cho thấy sự khác biệt này: Các agent được giao nhiệm vụ nghiên cứu trên Internet nhưng đã tìm ra cách sử dụng website bên ngoài để ghi và trao đổi thông tin, một hành vi không nằm trong cách sử dụng mà nhà phát triển dự kiến. Rủi ro vì thế chuyển...

Đọc bài gốc tại đây