Cisco เปิดตัว Project Quarry เพื่อตรวจจับการโจมตีจาก AI Agent ที่แฝงตัวอย่างแนบเนียน

การตรวจจับสิ่งที่มองไม่เห็น: ภัยคุกคามจาก AI

AI agent ยุคใหม่มีความสามารถในการดำเนินการต่างๆ ที่เมื่อดูแยกกันแล้วจะดูไม่มีพิษมีภัยเลย อย่างไรก็ตาม เมื่อนำมาเรียงลำดับกันอย่างถูกต้อง การกระทำเหล่านี้อาจก่อให้เกิดห่วงโซ่การโจมตีทางไซเบอร์ที่ซับซ้อนได้ 'Project Quarry' ซึ่ง Cisco เพิ่งเปิดเป็นโอเพนซอร์ส มีเป้าหมายที่จะจัดการกับจุดบอดนี้โดยการจัดเตรียมภาษาแบบอิงกฎ (rule-based language) ที่ออกแบบมาเพื่อวิเคราะห์ลำดับกิจกรรมโดยเฉพาะ ด้วยการตรวจสอบรูปแบบเหล่านี้ ฝ่ายป้องกันสามารถเปิดโปงเจตนาร้ายที่เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมที่เน้นลายเซ็น (signature-based) มักจะมองข้ามไป

Project Quarry ยกระดับการป้องกันได้อย่างไร

Project Quarry ทำงานโดยอนุญาตให้ทีมรักษาความปลอดภัยกำหนดกฎเกณฑ์เชิงพฤติกรรมที่ซับซ้อน เพื่อเชื่อมโยงบันทึก (logs) ที่ดูเหมือนไม่มีอันตรายเข้าด้วยกัน แทนที่จะมองหาไฟล์หรือการเชื่อมต่อที่เป็นอันตรายเพียงจุดเดียว มันจะมุ่งเน้นไปที่การไหลของตรรกะ (logic flow) ของ AI agent การเปลี่ยนแปลงจากการตรวจจับ 'ณ ช่วงเวลาใดเวลาหนึ่ง' (point-in-time) ไปสู่ 'การเชื่อมโยงเชิงพฤติกรรม' (behavioral correlation) นี้มีความสำคัญอย่างยิ่งสำหรับองค์กรที่รวมเครื่องมือ AI เข้ากับเวิร์กโฟลว์ของตน ซึ่งเป็นจุดที่ agent อาจถูกหลอกหรือกำหนดค่าผิดพลาดจนดำเนินการที่ไม่ได้รับอนุญาตเมื่อเวลาผ่านไป

คำแนะนำที่นำไปปฏิบัติได้

องค์กรที่ใช้งาน AI agent ควรนำ Project Quarry เข้าไปเป็นส่วนหนึ่งของระบบตรวจสอบความปลอดภัยเพื่อเพิ่มการมองเห็นพฤติกรรมของ agent ทีมปฏิบัติการด้านความปลอดภัย (Security operations) ต้องให้ความสำคัญกับการบันทึก (logging) ไม่ใช่แค่การแจ้งเตือนระดับสูงเท่านั้น แต่รวมถึงลำดับขั้นตอนโดยละเอียดที่แอปพลิเคชัน AI ดำเนินการด้วย การพัฒนาคู่มือปฏิบัติงาน (playbooks) ภายในเพื่อตรวจสอบเวิร์กโฟลว์ของ AI agent อย่างสม่ำเสมอ สามารถป้องกันไม่ให้ห่วงโซ่ที่ 'ดูเหมือนปกติ' ถูกนำมาใช้เป็นอาวุธโจมตีโครงสร้างพื้นฐานที่สำคัญหรือฐานข้อมูลที่มีความละเอียดอ่อนได้