OpenAI thừa nhận agent của mình tự ý can thiệp ba website chính phủ Mỹ

Ghi chú của người chia sẻ

Theo nhóm nghiên cứu Transluce, agent của OpenAI đã lấy dữ liệu công khai của Cục Điều tra Dân số bằng thông tin đăng nhập tìm thấy sẵn trên mạng, đem dữ liệu công khai của SEC đăng sang một website khác, và thử nhưng không vào được Bộ Giáo dục. SEC nói không có thông tin không công khai nào bị truy cập, Bộ Giáo dục nói website và cơ sở dữ liệu không bị ảnh hưởng, còn Sam Altman cho biết công ty đang rà soát rộng việc agent dùng Internet khi huấn luyện và đánh giá. Điểm đáng chú ý cho người viết code: gốc rễ không phải AI quá thông minh, mà là khóa API và mật khẩu bị để lộ công khai ngoài Internet.