นักวิจัยด้านความปลอดภัยคาดหวังมานานว่าเอเจนต์โมเดลภาษาขนาดใหญ่จะช่วยเร่งหนึ่งในส่วนที่น่าเบื่อที่สุดของการตอบสนองต่อเหตุการณ์ คือการต่อภาพว่าแฮ็กเกอร์เคลื่อนที่ผ่านระบบอย่างไรทีละขั้นตอนจากบันทึกและเทเลเมทรีที่กระจัดกระจาย เบนช์มาร์กการวินิจฉัยตัวใหม่ชื่อDiagChainได้นำความหวังนั้นมาทดสอบ และผลลัพธ์ชี้ให้เห็นว่าเทคโนโลยียังต้องพัฒนาอีกมากก่อนจะสามารถจัดการการสร้างห่วงโซ่การโจมตีขึ้นใหม่ได้อย่างน่าเชื่อถือด้วยตัวมันเอง
พัฒนาโดยทีมวิจัยที่ประกอบด้วย Xuyang Liu, Yibin Han, Zhenwei Zhang, Kai Chang, Zhiwei Xu, Tian Qiu, Weixian Deng, Jiabao Gao, Xiaolin Peng, Hai Wan และ Xibin Zhao DiagChain ไม่ได้เป็นเพียงกระดานคะแนนความแม่นยำอีกตัวหนึ่งเท่านั้น แต่ถูกสร้างขึ้นมาโดยเฉพาะเพื่อแสดงให้เห็นว่าเอเจนต์ LLM ล้มเหลวที่ไหนและเพราะเหตุใดเมื่อพยายามสร้างลำดับของการกระทำที่ผู้โจมตีกระทำขึ้นใหม่ตามหลักฐานที่ดึงมาจากเทเลเมทรีของระบบ
Summary
ประเด็นสำคัญ
- DiagChain เป็นเบนช์มาร์กเชิงวินิจฉัยที่ประเมินเอเจนต์ LLM ในงานสร้างห่วงโซ่การโจมตีขึ้นใหม่บนพื้นฐานของหลักฐาน โดยก้าวข้ามการวัดความแม่นยำแบบผ่าน/ไม่ผ่านอย่างง่าย
- ชุด MAIN-69 ของเบนช์มาร์กประกอบด้วย 69 สถานการณ์ที่ครอบคลุมหลายระบบปฏิบัติการ ระดับสัญญาณรบกวนในหลักฐานที่แตกต่างกัน และความยาวของห่วงโซ่ที่หลากหลาย
- วิธีการใหม่ชื่อ ECRAG จับคู่การดึงหลักฐานเข้ากับตัวแทนเชิงโครงสร้างที่พัฒนาอย่างต่อเนื่องของห่วงโซ่ที่กำลังถูกสร้างขึ้นใหม่
- จากการทดสอบกับ LLM 6 ตัว การตั้งค่าที่ดีที่สุดประสบความสำเร็จเพียง 39.6% ของ 849 ขั้นตอนอ้างอิง
- โมเดลขนาดเล็กมีปัญหาในการใช้หลักฐานที่ดึงมาได้เลย ในขณะที่โมเดลขนาดใหญ่มีปัญหาหลักในการจัดลำดับหลักฐานเหล่านั้นให้ถูกต้อง
แนะนำ DiagChain: เบนช์มาร์กใหม่สำหรับการสร้างห่วงโซ่การโจมตีขึ้นใหม่
DiagChain ถูกสร้างขึ้นเพราะเบนช์มาร์กส่วนใหญ่ที่มีอยู่มักจะมองแค่ผลลัพธ์สุดท้ายหรือคะแนนความแม่นยำโดยรวม ซึ่งให้ข้อมูลเชิงลึกเพียงเล็กน้อยว่าความผิดพลาดเกิดขึ้นได้อย่างไรระหว่างกระบวนการให้เหตุผลของเอเจนต์ นี่เป็นช่องว่างที่สำคัญสำหรับทีมไซเบอร์ซีเคียวริตี้ที่พยายามตัดสินใจว่าเอเจนต์ AI น่าเชื่อถือพอที่จะช่วยคัดกรองเหตุบุกรุกจริงหรือไม่
วัตถุประสงค์และขอบเขตของ DiagChain
โดยแก่นแท้แล้ว DiagChain เป็นเบนช์มาร์กเชิงวินิจฉัยที่สร้างขึ้นสำหรับงานไซเบอร์ซีเคียวริตี้บนพื้นฐานของหลักฐาน แทนที่จะให้คะแนนเพียงว่าเอเจนต์สร้างเรื่องราวการโจมตีสุดท้ายถูกหรือผิด มันประเมินแต่ละขั้นตอนของกระบวนการสร้างขึ้นใหม่แยกจากกัน วิธีการแบบแบ่งเป็นขั้นตอนนี้ช่วยให้นักวิจัยระบุได้อย่างแม่นยำว่าการให้เหตุผลของเอเจนต์ LLM ล้มเหลวตรงไหน ไม่ว่าจะเป็นระหว่างการรวบรวมหลักฐาน การตีความหลักฐาน หรือการจัดลำดับเหตุการณ์ให้เป็นห่วงโซ่ที่สอดคล้องกัน
องค์ประกอบของชุดสถานการณ์ MAIN-69
หัวใจของเบนช์มาร์กคือ MAIN-69 ซึ่งเป็นชุดสถานการณ์ 69 แบบที่ออกแบบมาเพื่อทดสอบเอเจนต์ภายใต้เงื่อนไขที่สมจริงหลากหลาย สถานการณ์เหล่านี้ครอบคลุมหลายระบบปฏิบัติการ มีระดับของสัญญาณรบกวนที่ผสมอยู่ในหลักฐานแตกต่างกัน และมีความยาวของห่วงโซ่ไม่เท่ากัน หมายความว่าลำดับการโจมตีบางชุดสั้น ในขณะที่บางชุดต้องติดตามการกระทำของผู้โจมตีที่ยาวกว่า ความหลากหลายนี้มีไว้เพื่อเปิดเผยว่าประสิทธิภาพของเอเจนต์ยังคงดีอยู่หรือไม่เมื่อเงื่อนไขยุ่งเหยิงขึ้น ไม่ใช่แค่ตอนที่ทุกอย่างสะอาดและตรงไปตรงมา
นวัตกรรมด้านระเบียบวิธีและตัวชี้วัดการประเมินผล
นอกเหนือจากชุดสถานการณ์แล้ว DiagChain ยังนำเสนอวิธีการดึงข้อมูลของตัวเองและระบบการให้คะแนนแบบห้าส่วน ซึ่งทั้งสองอย่างมุ่งทำให้การวินิจฉัยความล้มเหลวเป็นระบบมากกว่าการคาดเดา
Evidence-Centric Retrieval-Augmented Generation (ECRAG)
หนึ่งในผลงานสำคัญของงานวิจัยนี้คือECRAG ซึ่งย่อมาจาก Evidence-Centric Retrieval-Augmented Generation แตกต่างจากการตั้งค่าการสร้างแบบเสริมด้วยการดึงข้อมูลมาตรฐาน ECRAG จับคู่การดึงหลักฐานเข้ากับตัวแทนเชิงโครงสร้างที่พัฒนาอย่างต่อเนื่องของห่วงโซ่ที่เอเจนต์พยายามสร้างขึ้นใหม่ ในเชิงปฏิบัติ นั่นหมายความว่าระบบไม่ได้เพียงดึงหลักฐานที่เกี่ยวข้องครั้งเดียวแล้วเดินหน้าต่อไป แต่จะอัปเดตรูปภาพภายในของห่วงโซ่การโจมตีอย่างต่อเนื่องเมื่อมีหลักฐานใหม่เข้ามา ซึ่งในทางทฤษฎีควรช่วยให้เอเจนต์ติดตามการบุกรุกที่ซับซ้อนหลายขั้นตอนได้อย่างสอดคล้องมากขึ้น
ตัวชี้วัดห้าประการสำหรับการประเมินเชิงวินิจฉัย
เพื่อทำความเข้าใจว่าปัญหาเกิดขึ้นตรงไหน DiagChain ใช้ตัวชี้วัดห้าประการที่เสริมกัน โดยแต่ละตัวมุ่งเป้าไปที่ขั้นตอนที่แตกต่างกันของกระบวนการสร้างขึ้นใหม่ เมื่อรวมกัน ตัวชี้วัดเหล่านี้ช่วยให้นักวิจัยแยกจุดล้มเหลวเฉพาะออกมาได้ แทนที่จะรวมความผิดพลาดทุกอย่างไว้ในตัวเลขความแม่นยำทั่วไปเพียงตัวเดียว นี่คือหัวใจของคุณค่าของเบนช์มาร์กนี้: การประเมินเชิงวินิจฉัยที่แยกแยะระหว่าง “เอเจนต์ไม่พบหลักฐานที่ถูกต้อง” กับ “เอเจนต์พบหลักฐานแล้วแต่จัดลำดับเหตุการณ์ผิด” ซึ่งมีประโยชน์ต่อการพัฒนาระบบเหล่านี้มากกว่าคะแนนผ่าน/ไม่ผ่านเพียงตัวเดียว
การประเมินประสิทธิภาพของโมเดลภาษาขนาดใหญ่
แล้วโมเดลในปัจจุบันทำผลงานได้อย่างไร? ไม่ดีนักตามผลลัพธ์ของเบนช์มาร์ก
การตั้งค่าการทดลองโดยใช้ LLM หกตัว
ทีมวิจัยได้ทำการประเมินโดยใช้ LLM หกตัวกับสถานการณ์ MAIN-69 การตั้งค่านี้ทำให้พวกเขาสามารถเปรียบเทียบได้ว่าโมเดลที่มีความสามารถต่างกันจัดการงานสร้างขึ้นใหม่บนพื้นฐานของหลักฐานแบบเดียวกันอย่างไร ภายใต้เงื่อนไขสัญญาณรบกวนและความยาวห่วงโซ่ที่เหมือนกัน ทำให้มีฐานที่สอดคล้องกันสำหรับการเปรียบเทียบประสิทธิภาพโดยรวม
ผลการทำงานหลักและอัตราความสำเร็จ
ตัวเลขหลักนั้นชัดเจนมาก: แม้แต่การตั้งค่าที่ทำผลงานได้ดีที่สุดในการศึกษาก็ประสบความสำเร็จเพียง 39.6% ของ 849 ขั้นตอนอ้างอิงที่รวมอยู่ใน MAIN-69 กล่าวอีกนัยหนึ่ง การตั้งค่าที่แข็งแกร่งที่สุดที่ทดสอบยังคงจัดลำดับการกระทำของผู้โจมตีผิดมากกว่า 60% ของเวลาเมื่อวัดเทียบกับขั้นตอนจริงของเบนช์มาร์ก นี่เป็นการเตือนที่สำคัญสำหรับใครก็ตามที่หวังจะมอบหมายงานสร้างห่วงโซ่การโจมตีขึ้นใหม่ให้เอเจนต์ AI ทำทั้งหมดในตอนนี้
ข้อค้นพบเกี่ยวกับขนาดโมเดลและความท้าทายในการสร้างขึ้นใหม่
ทำไมเรื่องนี้จึงสำคัญเกินกว่าตัวเลขดิบ? เพราะรูปแบบของความล้มเหลวแตกต่างกันไปตามขนาดของโมเดล และความแตกต่างนี้ชี้ไปที่ปัญหาทางวิศวกรรมสองแบบที่ต้องแก้ไขต่างกัน
ข้อจำกัดของโมเดลขนาดเล็ก
ตามการวิเคราะห์ของนักวิจัย โมเดลขนาดเล็กมีปัญหากับสิ่งที่พื้นฐานกว่าการจัดลำดับเหตุการณ์ให้ถูกต้อง: พวกมันมีปัญหาในการผนวกรวมหลักฐานที่ดึงมาไว้ในผลลัพธ์เลย นั่นบ่งชี้ว่าคอขวดสำหรับโมเดลขนาดเล็กอยู่ในช่วงต้นของสายงาน ที่จุดที่หลักฐานต้องถูกนำมาใช้จริงในการให้เหตุผลของเอเจนต์ แทนที่จะถูกเพิกเฉยหรือใช้ผิดที่ผิดทาง
ความท้าทายของโมเดลขนาดใหญ่ในการจัดลำดับหลักฐาน
โมเดลขนาดใหญ่ผ่านอุปสรรคแรกนั้นได้สำเร็จมากกว่าและสามารถเดินหน้าลึกเข้าไปในกระบวนการสร้างขึ้นใหม่ได้ แต่พวกมันกลับเจอกำแพงอีกแบบหนึ่ง: การจัดลำดับหลักฐานที่รวบรวมมาให้ถูกต้องกลายเป็นคอขวดหลัก นี่เป็นโหมดความล้มเหลวที่ละเอียดกว่า เพราะโมเดลมีชิ้นส่วนที่ถูกต้องอยู่แล้วแต่กลับจัดเรียงให้เป็นลำดับการกระทำของผู้โจมตีที่ถูกต้องไม่ได้ ซึ่งนั่นคือผลลัพธ์ที่สำคัญที่สุดสำหรับการสืบสวนด้านความปลอดภัยจริง
ความแตกแยกนี้มีความสำคัญสำหรับใครก็ตามที่สร้างหรือใช้งานเครื่องมือเบนช์มาร์กประเมิน LLMในงานปฏิบัติการด้านความปลอดภัย มันบ่งชี้ว่าการเพิ่มขนาดโมเดลเพียงอย่างเดียวจะไม่แก้ปัญหาการสร้างห่วงโซ่การโจมตีขึ้นใหม่โดยอัตโนมัติ โหมดความล้มเหลวทั้งสองต้องการการแก้ไขที่ต่างกัน คือการผนวกรวมหลักฐานที่ดีกว่าสำหรับโมเดลขนาดเล็ก และกลยุทธ์การจัดลำดับหรือการให้เหตุผลที่ดีกว่าสำหรับโมเดลขนาดใหญ่ แทนที่จะเป็นเส้นทางการปรับปรุงแบบเดียวใช้ได้กับทุกกรณี
นักวิจัยมองว่าข้อค้นพบเหล่านี้เป็นการยืนยันคุณค่าของการประเมินเชิงวินิจฉัยเหนือคะแนนความแม่นยำแบบปลายทางเพียงตัวเดียว ตัวเลขรวมเดียวอาจบอกทีมความปลอดภัยว่าโมเดล “ทำได้ถูกต้อง 40% ของเวลา” แต่จะไม่บอกว่าความล้มเหลวนั้นมาจากการพลาดหลักฐาน การอ่านหลักฐานผิด หรือการจัดลำดับสับสน ตัวชี้วัดแบบแบ่งเป็นขั้นตอนของ DiagChain ถูกออกแบบมาเพื่ออุดช่องว่างนี้ โดยมอบสิ่งที่ผู้เขียนอธิบายว่าเป็นข้อมูลเชิงลึกที่นำไปปฏิบัติได้สำหรับการพัฒนาเอเจนต์ไซเบอร์ซีเคียวริตี้บนพื้นฐานของหลักฐานต่อไป
คำถามที่พบบ่อย
DiagChain ถูกออกแบบมาเพื่อประเมินอะไร?
DiagChain ถูกออกแบบมาเพื่อประเมินเอเจนต์โมเดลภาษาขนาดใหญ่ในงานสร้างห่วงโซ่การโจมตีขึ้นใหม่บนพื้นฐานของหลักฐาน ผ่านการประเมินเชิงวินิจฉัยแบบแบ่งเป็นขั้นตอน
ชุดสถานการณ์ MAIN-69 ครอบคลุมเนื้อหาอะไรบ้าง?
MAIN-69 รวม 69 สถานการณ์ที่ครอบคลุมหลายระบบปฏิบัติการ ระดับสัญญาณรบกวนในหลักฐานที่แตกต่างกัน และความยาวของห่วงโซ่การโจมตีที่หลากหลาย
ระเบียบวิธี ECRAG ช่วยปรับปรุงการสร้างห่วงโซ่การโจมตีขึ้นใหม่อย่างไร?
ECRAG จับคู่การดึงหลักฐานเข้ากับตัวแทนเชิงโครงสร้างที่พัฒนาอย่างต่อเนื่องของห่วงโซ่ที่ถูกสร้างขึ้นใหม่เพื่อช่วยในการวิเคราะห์การเชื่อมโยงเหตุการณ์
ความท้าทายด้านประสิทธิภาพหลักที่ระบุสำหรับ LLM ในเบนช์มาร์กนี้คืออะไร?
โมเดลขนาดเล็กมีปัญหาในการผนวกรวมหลักฐานที่ดึงมา ในขณะที่โมเดลขนาดใหญ่เผชิญความท้าทายในการจัดลำดับหลักฐานให้ถูกต้องในการสร้างขึ้นใหม่
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”DiagChain ถูกออกแบบมาเพื่อประเมินอะไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”DiagChain ถูกออกแบบมาเพื่อประเมินเอเจนต์โมเดลภาษาขนาดใหญ่ในงานสร้างห่วงโซ่การโจมตีขึ้นใหม่บนพื้นฐานของหลักฐาน ผ่านการประเมินเชิงวินิจฉัยแบบแบ่งเป็นขั้นตอน.”}},{“@type”:”Question”,”name”:”ชุดสถานการณ์ MAIN-69 ครอบคลุมเนื้อหาอะไรบ้าง?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”MAIN-69 รวม 69 สถานการณ์ที่ครอบคลุมหลายระบบปฏิบัติการ ระดับสัญญาณรบกวนในหลักฐานที่แตกต่างกัน และความยาวของห่วงโซ่การโจมตีที่หลากหลาย.”}},{“@type”:”Question”,”name”:”ระเบียบวิธี ECRAG ช่วยปรับปรุงการสร้างห่วงโซ่การโจมตีขึ้นใหม่อย่างไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ECRAG จับคู่การดึงหลักฐานเข้ากับตัวแทนเชิงโครงสร้างที่พัฒนาอย่างต่อเนื่องของห่วงโซ่ที่ถูกสร้างขึ้นใหม่เพื่อช่วยในการวิเคราะห์การเชื่อมโยงเหตุการณ์.”}},{“@type”:”Question”,”name”:”ความท้าทายด้านประสิทธิภาพหลักที่ระบุสำหรับ LLM ในเบนช์มาร์กนี้คืออะไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”โมเดลขนาดเล็กมีปัญหาในการผนวกรวมหลักฐานที่ดึงมา ในขณะที่โมเดลขนาดใหญ่เผชิญความท้าทายในการจัดลำดับหลักฐานให้ถูกต้องในการสร้างขึ้นใหม่.”}}]}
บทความนี้จัดทำขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์และผ่านการทบทวนโดยทีมบรรณาธิการแล้ว
