Anthropic FlashProve: chứng minh câu trả lời AI đến đúng từ model đã cam kết

Ghi chú của người chia sẻ

Bài ngày 2/11/2026 của nhóm Frontier Red Team (Anthropic) giới thiệu FlashProve, hệ thống zkSNARK chỉ dùng phần mềm: nhà cung cấp công bố cam kết (dấu vân tay) của bộ trọng số, rồi mỗi phản hồi kèm bằng chứng rằng chính model đã cam kết sinh ra các token đó, mà không lộ trọng số. Thử trên Llama 4 Maverick (400 tỷ tham số, bản 4-bit): 1 GPU H100 tạo bằng chứng khoảng 110 token/giây, bằng chứng khoảng 19 MB cho yêu cầu 1.024 token, CPU kiểm tra trong 17 giây (24 luồng). Anthropic cho biết Claude đã tạo ra các cải tiến này; các tính chất bảo mật được phát biểu và chứng minh bằng Lean. Giới hạn: bản nghiên cứu, tốn khoảng 70–95 lần thời gian GPU so với vLLM, chỉ chứng minh bản số nguyên với greedy decoding, ngữ cảnh tối đa 1.024 token, code nhanh chưa được bảo đảm khớp bản Lean. Code: https://github.com/anthropics/FlashProve (Apache-2.0).