เอเจนต์ AI

ควบคุมข้อมูลและสิทธิ์ของ AI agent ให้ปลอดภัยอย่างไร

สิทธิ์ขั้นต่ำ คำสั่งโจมตีจากภายนอก การอนุมัติ และการหยุดการเข้าถึง

กองบรรณาธิการ CODERAIเผยแพร่ 11 ตุลาคม 2569ใช้เวลาอ่าน 4 นาที

ควบคุมข้อมูลและสิทธิ์ของ AI agent ให้ปลอดภัยอย่างไร

เมื่อเชื่อม CRM อีเมล และเอกสาร เอเจนต์ทำอะไรได้มากขึ้น ต้องมีสิทธิ์ตามงานและการตรวจทางเทคนิค คำสั่งภาษาอย่างเดียวไม่ใช่ระบบควบคุมความปลอดภัยทั้งหมด

ประเด็นสำคัญ

ใช้บัญชีแยก ให้สิทธิ์เท่าที่จำเป็น และอนุมัติก่อนการกระทำสำคัญ พร้อมควบคุมในระดับเครื่องมือและข้อมูล

ให้สิทธิ์ขั้นต่ำ

การอ่านสถานะหรือทำร่างโดยไม่ส่งง่ายต่อการตรวจมากกว่าสิทธิ์ผู้ดูแลทั้งหมด เริ่มจากอ่านเมื่อทำได้

ใช้บัญชีเชื่อมต่อเฉพาะแทนแชร์รหัสพนักงาน จำกัดรายการและงานที่เข้าถึง พร้อมตรวจและเพิกถอนสิทธิ์ได้

ข้อมูลภายนอกไม่ใช่อำนาจสั่งงาน

ข้อความ เอกสาร หรือเว็บอาจมีคำสั่งร้ายให้ส่งข้อมูลภายในไปภายนอก การโจมตีลักษณะนี้เรียกว่า prompt injection

แยกข้อมูลภายนอกจากกฎระบบ ตรวจพารามิเตอร์เครื่องมือ ผู้รับที่อนุญาต และสิทธิ์อย่างอิสระ ไม่มีมาตรการเดียวที่รับประกันการป้องกันทั้งหมด

การอนุมัติที่มีความหมาย

การส่งออกภายนอก ลบข้อมูล หรือมีผลด้านเงินควรมีการอนุมัติ แสดงว่าจะทำอะไร ใช้ข้อมูลอะไร และส่งให้ใคร

กดอนุมัติโดยไม่เห็นรายละเอียดไม่ได้ช่วยควบคุมอย่างจริงจัง เริ่มจากร่างให้คนตรวจ แล้วค่อยดำเนินการได้

การส่งและเก็บข้อมูล

ส่งเฉพาะข้อมูลจำเป็น ตรวจว่าประมวลผลที่ไหน อย่าใส่คีย์ลับในคำสั่งหรือคัดลอกข้อมูลส่วนบุคคลเข้า log โดยไม่จำเป็น

ตรวจระยะเก็บ เขตประมวลผล เงื่อนไขผู้ให้บริการ สิทธิ์ และวิธีลบ การใช้คลาวด์ไม่ได้แปลว่าผ่านข้อกำหนดทางกฎหมายทุกประเทศโดยอัตโนมัติ

เตรียมหยุดและรับมือปัญหา

ต้องเพิกถอนสิทธิ์ เปลี่ยนคีย์ และหยุดการทำงานได้ พร้อมประวัติว่าใครเปลี่ยนอะไรและวิธีดำเนินงานด้วยมือ

ทดสอบเอกสารน่าสงสัยและคำขอนอกสิทธิ์ เมื่อพบปัญหาให้ปรับทั้งสิทธิ์ การตรวจเครื่องมือ และคำสั่ง ไม่ใช่แก้ข้อความอย่างเดียว

ตารางสิทธิ์ตัวอย่าง

ระบุทรัพยากร การกระทำ บันทึกและอนุมัติ อ่านบริการไม่ต้องมีสิทธิ์ CRM ทั้งหมดหรือจ่ายเงิน

ตัวอย่างอนุญาตอ่านจำกัดและร่าง ส่งช่วงแรกต้องอนุมัติ ห้ามลบ บังคับในเครื่องมือ ใช้บัญชีแยกให้ถอนสิทธิ์และแยกการกระทำได้

เอกสารไม่ให้สิทธิ์

คำขอภายนอกให้เผยข้อมูลหรือข้ามกฎเป็นข้อมูล ไม่ใช่อำนาจ จำกัดความสามารถนอกโมเดล

แยกสิ่งค้นจากคำสั่ง ตรวจการเรียก ลองเอกสารชักจูงและการพยายามกระทำ เฝ้าดูหลังเปิด คำตอบปลอดภัยครั้งเดียวไม่เพียงพอ

จัดการข้อมูล

ระบุส่ง เก็บ เข้าถึง ระยะเวลา ส่งเฉพาะจำเป็นและอนุญาต ประวัติหรือแจ้งเตือนก็เปิดข้อมูลอ่อนไหวได้

ใช้สิทธิ์ก่อนค้น ไม่ให้เอกสารภายในแล้วหวังไม่อ้าง ตรวจตามประเทศ สัญญาและชนิดข้อมูล ไม่อ้างว่าปฏิบัติตามทั่วโลก

เตรียมเหตุขัดข้อง

มีหยุด ถอนกุญแจ ทางคน ผู้รับผิดชอบและส่วนเชื่อมที่หยุดก่อน

ปกป้องประวัติ ก่อนคืนระบบตรวจเปลี่ยนผิด ข้อความซ้ำและสิทธิ์กว้าง ทดสอบการกระทำห้ามเหมือนฟังก์ชัน รักษาอำนาจตัดสินใจสำคัญให้ธุรกิจ

สิ่งที่ควรตรวจสอบ

ใช้บัญชีแยกและสิทธิ์ขั้นต่ำ
แยกร่าง อนุมัติ และดำเนินการ
ตรวจข้อมูลภายนอกและพารามิเตอร์เครื่องมือ
เตรียมเพิกถอนสิทธิ์ ประวัติ และวิธีทำด้วยมือ

แหล่งข้อมูลและเอกสาร

OpenAI · Safety in building agents

มีโจทย์สำหรับธุรกิจของคุณหรือไม่

บอกเราว่าต้องการอะไร เราจะแนะนำว่าควรเริ่มตรงไหน และจะตรวจผลลัพธ์ได้อย่างไร

คุยเรื่องโครงการฟรี · 30 นาที ดูรายละเอียดบริการ