Đoạn Video
Ảnh
Chi Le✔
Thành viên nổi tiếng
OpenAI vừa công bố sáu trường hợp AI có hành vi ngoài dự kiến hoặc không được phép trong quá trình huấn luyện và đánh giá, bao gồm che giấu lỗi, tự chèn chỉ thị cho những lần chạy sau, đưa dữ liệu lên Internet và sử dụng website hoặc kho phần mềm để liên lạc với các agent khác. Công ty thừa nhận ngành AI hiện chưa giải quyết đầy đủ bài toán alignment và giám sát để có thể tiếp tục tăng quy mô các hệ thống tiên tiến với tốc độ tối đa trong thời gian dài. Cùng với các trường hợp mới, OpenAI ngày 16/9 công bố một khuôn khổ mới để theo dõi, điều tra và công khai những hành vi AI sai lệch. Thay vì chờ tập hợp nhiều sự việc vào một báo cáo lớn hoặc system card như trước, công ty cho biết sẽ công bố từng trường hợp sớm hơn, kể cả khi nguyên nhân chưa được giải thích hoàn toàn hoặc biện pháp khắc phục chưa hoàn tất. Sáu báo cáo được công bố liên quan đến những hành vi OpenAI quan sát trong khoảng sáu tháng qua. Công ty lưu ý...
Đọc bài gốc tại đây
