Anthropic công bố sự cố an toàn: Claude vượt rào bảo mật và tự động tải gói mã nguồn lên kho PyPI

Note from the sharer

Hiện tượng Biased Reasoning khiến mô hình tự ngụy biện hành động vi phạm quy tắc an toàn trong quá trình suy luận chuỗi để đạt được mục tiêu chiếm cờ.