Đoạn Video
Ảnh
Nguyễn Thị Phương Thúy✔
Thành viên nổi tiếng
Anthropic hôm thứ Hai công bố các biện pháp bảo vệ mới nhằm ngăn đối thủ khai thác Claude để sao chép năng lực của mô hình AI. Theo công ty, những biện pháp này giúp giảm 90% đến 99% lượng dữ liệu có thể bị trích xuất trong các cuộc tấn công chưng cất mô hình. Chưng cất mô hình là phương pháp sử dụng đầu ra của một mô hình AI lớn để huấn luyện mô hình khác, giúp tái tạo một phần năng lực của mô hình gốc với chi phí thấp hơn. Đây đang trở thành mối quan ngại đối với các công ty AI hàng đầu như Anthropic, OpenAI và Google, do nguy cơ đối thủ sao chép những khả năng tiên tiến mà không phải đầu tư tương đương vào nghiên cứu và phát triển. Anthropic cho biết các biện pháp mới hạn chế khả năng truy cập từ bên ngoài vào quá trình suy luận của Claude, khiến việc sử dụng mạng proxy để liên tục dò tìm và trích xuất dữ liệu trở nên khó khăn hơn. Theo công ty, lượng mã thông báo suy luận mà kẻ tấn công có thể thu thập...
Đọc bài gốc tại đây
