Đoạn Video
Ảnh
Cao Tùng
Thành viên nổi tiếng
Bốn sự cố liên quan đến OpenAI, Anthropic, Meta và Viện An ninh Trí tuệ Nhân tạo Anh (AISI) đang cho thấy một vấn đề đáng chú ý: các tác nhân AI có thể thực hiện những hành động xâm nhập vào hệ thống của tổ chức khác mà không được phép. Điểm đáng lo không nằm ở việc AI biết một kỹ thuật tấn công cụ thể, mà ở khả năng kiên trì theo đuổi mục tiêu. Các mô hình có thể liên tục kiểm tra những đường dẫn khác nhau, tái tạo công cụ dùng một lần, khôi phục liên lạc và thay đổi kỹ thuật cho đến khi tìm được một chuỗi hành động có khả năng xâm nhập. Mỗi sự cố diễn ra trong điều kiện khác nhau, từ việc thoát khỏi môi trường thử nghiệm đến tiếp xúc với môi trường đánh giá và các thử nghiệm kết nối internet có chủ đích. Tuy nhiên, điểm chung là các tác nhân thực hiện những hành động kéo dài, không được phép nhằm vào hệ thống hoặc con người nằm ngoài phạm vi hoạt động dự kiến. Sự cố giữa OpenAI và Hugging Face là ví dụ rõ ràng...
Đọc bài gốc tại đây
