Nên cấp những quyền gì cho tác nhân AI
Quyền, phê duyệt, dữ liệu cá nhân và chèn chỉ dẫn độc hại: việc cần giải quyết trước kết nối hệ thống.
Tác nhân nối CRM, email hay tài liệu có thể thay dữ liệu, không chỉ trả lời. Cấp quyền theo nhiệm vụ cụ thể. Chỉ dẫn “cẩn thận” không thay giới hạn kỹ thuật.
Bắt đầu với quyền tối thiểu, tài khoản riêng và duyệt hành động quan trọng. Ranh giới thực thi qua công cụ và dữ liệu.
Tách đọc và ghi
Trợ lý trạng thái đơn có thể chỉ đọc. Trợ lý viết có thể tạo nháp, không gửi. Ranh giới này dễ kiểm chứng hơn toàn quyền kèm nhắc tránh việc nguy hiểm.
Tài khoản tích hợp riêng chỉ truy bản ghi và thao tác cần. Mật khẩu quản trị dùng chung làm khó giám sát và thu quyền.
Hiểu prompt injection
Đây là cách tác động mô hình qua tin, tệp hoặc web không tin cậy. Tệp có thể bảo chuyển dữ liệu nội bộ đến địa chỉ lạ.
Xử lý văn bản ngoài như dữ liệu, không như cấp phép. Kiểm tra độc lập đối số công cụ, người nhận và quyền. Bộ lọc và chỉ dẫn không bảo vệ tuyệt đối.
Khi nào cần phê duyệt
Duyệt người phù hợp cho gửi tin ngoài, xóa bản ghi, đổi tài chính và hành động hậu quả lớn. Nhân viên phải thấy chính xác việc, dữ liệu và người nhận.
Nút duyệt không có chi tiết không tạo kiểm soát thật. Dùng chế độ nháp an toàn trong thử nghiệm đầu nếu có thể.
Xử lý thông tin có chủ ý
Xác định mô hình cần gì, xử lý đâu. Giữ bí mật ngoài chỉ dẫn và nhật ký, hạn chế sao dữ liệu cá nhân, thống nhất lưu giữ theo quy trình và pháp luật áp dụng.
Xem điều khoản nhà cung cấp, quyền và xóa dữ liệu. Mô hình nổi tiếng hay đám mây không tự đáp ứng mọi yêu cầu của khách.
Chuẩn bị chạy và dừng
Kiểm tra thu quyền, đổi khóa và dừng kịp thời được. Lịch sử cho biết ai đổi gì; chuẩn bị quy trình tay khi tắt tác nhân.
Thử tài liệu đáng ngờ và yêu cầu ngoài nhiệm vụ. Cải thiện quyền, kiểm tra công cụ và cả chỉ dẫn.
Bảng quyền mẫu
Liệt kê tài nguyên, hành động, bản ghi và duyệt. Đọc mô tả dịch vụ không cần toàn bộ CRM hay thanh toán.
Ví dụ cho đọc giới hạn, soạn nháp, duyệt gửi ban đầu, cấm xóa; thực thi tại công cụ. Tài khoản riêng giúp thu hồi và phân biệt hành động.
Tài liệu không cấp quyền
Yêu cầu bên ngoài tiết lộ dữ liệu hay bỏ quy tắc là đầu vào, không là quyền. Giới hạn khả năng bên ngoài mô hình.
Tách nội dung tìm và hướng dẫn, kiểm gọi; thử tài liệu dụ và hành động định làm. Theo dõi sau chạy, một câu an toàn không chứng minh mọi trường hợp.
Xử lý dữ liệu
Xác định gửi, lưu, truy cập và thời hạn; chỉ gửi dữ liệu cần và được phép. Nhật ký, thông báo cũng có thể lộ thông tin.
Áp dụng quyền trước truy xuất, không đưa tài liệu kín rồi hy vọng không trích. Đánh giá theo quốc gia, hợp đồng, loại dữ liệu; không hứa tuân thủ toàn cầu.
Chuẩn bị sự cố
Có dừng, thu hồi khóa, chuyển người; chỉ định người và kết nối cần ngắt trước.
Bảo vệ lịch sử, kiểm sửa sai, tin trùng, quyền rộng trước khôi phục. Thử hành động cấm cũng như tính năng, giữ quyền quyết định quan trọng cho doanh nghiệp.
Những điều cần kiểm tra
- Cấp quyền riêng và tối thiểu.
- Tách nháp, phê duyệt và thực thi.
- Kiểm tra dữ liệu ngoài và đối số công cụ.
- Chuẩn bị thu quyền, nhật ký và xử lý tay.
Nguồn và tài liệu
Bạn có bài toán kinh doanh?
Hãy cho chúng tôi biết bạn cần gì. Chúng tôi sẽ gợi ý nên bắt đầu từ đâu và sau này kiểm tra kết quả thế nào.
Trao đổi dự ánMiễn phí · 30 phútTìm hiểu dịch vụ
