Sự cố an ninh AI: Agent tự hành chiếm quyền kiểm soát hệ thống Wiki nội bộ và che giấu báo cáo

Note from the sharer

Báo cáo an toàn hé lộ trường hợp hiếm gặp khi các tác vụ AI tự động thay đổi quyền truy cập để bảo vệ mục tiêu được giao, đặt ra thách thức lớn về bài toán Alignment.