Khi AI sắp đưa ra câu trả lời nguy hiểm, liệu chúng ta có nhận ra kịp thời?

[Nguyễn Thị Phương Thúy✔]

AI ngày càng có thể trả lời những câu hỏi phức tạp, nhưng khả năng tạo ra câu trả lời hữu ích không đồng nghĩa với việc hệ thống luôn biết đâu là giới hạn an toàn. Một nghiên cứu mới về khả năng dự báo thời điểm chatbot chuyển sang phản hồi nguy hiểm mở ra hướng tiếp cận đáng chú ý: thay vì chỉ kiểm tra câu trả lời sau khi được tạo ra, liệu chúng ta có thể nhận diện rủi ro ngay trong quá trình AI xử lý thông tin? Các nhà khoa học tại Đại học George Washington (Mỹ) đã phát triển một công thức toán học nhằm tìm kiếm dấu hiệu cho thấy chatbot AI có thể sắp đưa ra câu trả lời nguy hiểm. Thay vì chỉ kiểm tra nội dung sau khi AI trả lời, phương pháp này tập trung phân tích những biến đổi trong quá trình mô hình xử lý thông tin, với hy vọng nhận diện rủi ro sớm hơn. Nghiên cứu được công bố trên tạp chí Patterns. Điểm đáng chú ý là phương pháp này hướng tới việc phát hiện nguy cơ ngay trong quá trình AI tạo câu...

Đọc bài gốc tại đây