ข้ามไปยังเนื้อหา
  • BTC $60,191 +2.3%
  • ETH $1,685 +3.4%
  • SOL $70.86 +2.6%
  • BNB $549.14 +1.4%
  • XRP $0.9335 +2.9%
  • DOGE $0.0554 +2.4%
  • ADA $0.1458 +3.5%

Anthropic ระบุว่าการป้องกันการโจมตีด้วยการกลั่นแบบ AI สามารถลดการดึงข้อมูลจาก Claude ได้ระหว่าง 90% ถึง 99%

หลักฐานเบื้องต้นบ่งชี้ว่า การป้องกันที่แข็งแกร่งขึ้นต่อการโจมตีแบบกลั่นกรองด้วย AI ทำให้ปริมาณข้อมูลที่ถูกดึงไปจาก Claude ลดลงราว 90% ถึง 99% มาตรการเหล่านี้มุ่งเป้าไปที่ความพยายามลับ ๆ ในการลอกเลียนความสามารถของโมเดล และทำให้ผู้พัฒนาเสียรายได้รวมถึงทราฟฟิกแบบชำระเงินคิดเป็นโทเค็นนับล้านล้านโทเค็น ประเด็นสำคัญ: การดึงโทเค็นด้านการให้เหตุผลของ Claude ลดลงสิบเท่าถึงร้อยเท่าหลังจาก…

AI distillation attacks defense
AI Distillation Attacks Defense Cuts Claude Model Data Loss

หลักฐานเบื้องต้นชี้ให้เห็นว่าการป้องกันที่แข็งแกร่งขึ้นต่อการโจมตีแบบกลั่นกรองด้วย AI (AI distillation attacks) ทำให้ปริมาณข้อมูลที่ถูกดึงออกจาก Claude ลดลงประมาณ 90% ถึง 99% มาตรการเหล่านี้มุ่งเป้าไปที่ความพยายามลับๆ ในการคัดลอกความสามารถของโมเดล และทำให้ผู้พัฒนาต้องสูญเสียรายได้และทราฟฟิกแบบชำระเงินคิดเป็นโทเคนระดับหลายล้านล้านโทเคน

ประเด็นสำคัญ

  • การดึงโทเคนด้านการให้เหตุผลจาก Claude ลดลงสิบเท่าถึงร้อยเท่าหลังจากเริ่มใช้ตัวจำแนก (classifier)
  • ระบบตรวจจับรายงานอัตราบวกเทียม (false positive) ต่ำกว่า 0.1%
  • ความพยายามดึงข้อมูลซ้ำๆ จะทำให้ถูกจำกัดการใช้งานเข้มงวดขึ้นและถูกแบนบัญชี
  • บริษัทเรียกร้องให้แพลตฟอร์มคลาวด์และผู้พัฒนาโมเดลร่วมมือกันขัดขวางการใช้งานในทางที่ผิด

Anthropic ระบุในบล็อกโพสต์เมื่อวันที่ 12 ตุลาคม 2026 ว่าการป้องกันของบริษัทผสานข้อจำกัดต่อทรานสคริปต์การให้เหตุผล การตรวจจับการดึงข้อมูล และการบังคับใช้กับบัญชี มาตรการป้องกันเหล่านี้ทำให้มีการแบนบัญชีที่เชื่อมโยงกับการกลั่นกรองแล้วหลายหมื่นบัญชี มักจะภายในสองชั่วโมงหลังจากแคมเปญเริ่มต้น

การวัดประสิทธิภาพการป้องกันการโจมตีแบบกลั่นกรองด้วย AI

การโจมตีแบบกลั่นกรอง (distillation attacks) คือแคมเปญลับที่ไม่ได้รับอนุญาตซึ่งดึงความสามารถของโมเดลหนึ่งไปใช้สร้างซ้ำในอีกโมเดลหนึ่ง บริษัทระบุว่าผู้โจมตีสร้างคำตอบขึ้นมาหลายล้านรายการ มักผ่านบัญชีปลอม เพื่อเลียนแบบโมเดลขั้นสูงในต้นทุนและเวลาพัฒนาที่ต่ำกว่ามาก

การป้องกันมุ่งเน้นไปที่ ทรานสคริปต์การให้เหตุผล: กระบวนการคิดที่ Claude เขียนก่อนตอบ ตามที่บริษัทระบุ ทรานสคริปต์เหล่านี้ช่วยสอนโมเดลขนาดเล็กได้มากกว่าคำตอบสุดท้ายเพียงอย่างเดียว หลังจากเริ่มใช้ตัวจำแนก ปริมาณโทเคนด้านการให้เหตุผลที่ถูกดึงออกจากแพลตฟอร์มยังคงอยู่ในระดับที่ ต่ำกว่าก่อนหน้า 10 ถึง 100 เท่า

การทดสอบก่อนหน้านี้แสดงให้เห็นว่าทำไมการปกป้องทรานสคริปต์เหล่านั้นจึงสำคัญ โมเดล Claude ที่ผ่านการพรีเทรนซึ่งถูกฝึกด้วยทรานสคริปต์ Claude Opus 4.8 แบบเต็ม ทำคะแนนได้ 80.4% บน SWE-bench Verified; ในขณะที่การฝึกด้วยทรานสคริปต์แบบสรุปให้ผลคะแนน 71.8%

จากนั้นผู้โจมตีก็เปลี่ยนจากการเก็บคำตอบทั่วไปมาเป็นการดึงเอากระบวนการให้เหตุผลที่ซ่อนอยู่โดยตรง ห้องปฏิบัติการแห่งหนึ่งทดสอบคำขอแตกต่างกัน 12,000 รายการ เครือข่ายพร็อกซีควบคุมบัญชีปลอมหลายแสนบัญชี ใช้ตัวตนปลอมและข้อมูลการชำระเงินที่ถูกขโมย และขายต่อการเข้าถึงในพื้นที่ที่ไม่สามารถใช้ Claude ได้ เครือข่ายหนึ่งที่อธิบายไว้ในรายงานเดือนกุมภาพันธ์ของบริษัทสามารถจัดการบัญชีได้มากกว่า 20,000 บัญชีพร้อมกัน

กลไกการทำงานของมาตรการป้องกันการกลั่นกรอง

การป้องกันของบริษัทต่อการโจมตีแบบกลั่นกรองด้วย AI ในขณะนี้จำกัดเส้นทางที่กระบวนการให้เหตุผลสามารถเดินทางไปได้ บล็อกคำขอดึงข้อมูล และลงโทษความพยายามที่เกิดขึ้นซ้ำๆ มาตรการเหล่านี้จัดการกับเทคนิคที่เคลื่อนย้ายกระบวนการให้เหตุผลที่ได้รับการปกป้องระหว่างบทสนทนา โมเดล และบัญชีต่างๆ

Preserved thinking ซึ่งเปิดตัวพร้อมกับ Claude Fable 5.1 และ Claude Opus 5.5 ป้องกันไม่ให้บัญชี API ที่สร้างขึ้นในหรือหลังวันที่ 31 สิงหาคม 2026 แก้ไขบริบทก่อนหน้าของ Claude ได้ กระบวนการให้เหตุผลของโมเดลเหล่านี้ยังไม่สามารถถูกอ่านโดยโมเดลรุ่นเก่าที่มีการป้องกันอ่อนกว่าได้ด้วย Claude Sonnet 5.5 จำกัดการเข้าถึงทรานสคริปต์ไว้เฉพาะองค์กรที่เป็นผู้สร้างขึ้น

ตัวจำแนกสองขั้นตอน ซึ่งผ่านการทดสอบโดยทีม red-team ทั้งภายในและภายนอก ตรวจจับคำขอดึงข้อมูลด้วยอัตราบวกเทียมที่รายงานว่าต่ำกว่า 0.1% ระบบนี้ทำงานโดยใช้ Claude Sonnet 5.5, Claude Opus 5 และ 5.5 รวมถึง Claude Fable 5 และ 5.1 บริษัทระบุว่าสามารถจับเทคนิคการกลั่นกรองทุกรูปแบบที่อธิบายไว้ในรายงานเดือนกันยายนได้

การอัปเดตได้บล็อกกลยุทธ์ที่เกี่ยวข้องกับการแปลกระบวนการให้เหตุผลก่อนหน้า หรือการทำซ้ำภายในแท็ก ความพยายามดึงข้อมูลอย่างต่อเนื่องจะนำไปสู่การจำกัดการใช้งานที่เข้มงวดขึ้นและการแบนบัญชี ตั้งแต่วันที่ 24 กันยายน 2026 บริษัทได้คิดค่าบริการสำหรับคำขอที่ถูกบล็อกก่อนที่ Claude จะตอบกลับในหมวดหมู่ต่างๆ รวมถึงการกลั่นกรอง ในกรณีที่อัตราบวกเทียมยังคงต่ำกว่า 0.1%

ข้อกังวลด้านความปลอดภัยที่เกินกว่า Claude

บริษัทให้เหตุผลว่าการกลั่นกรองที่ผิดกฎหมายสร้างความกังวลด้านความมั่นคงของชาติ เมื่อความสามารถที่ถูกคัดลอกถูกนำเข้าไปใช้ในระบบทางทหาร ข่าวกรอง และการเฝ้าระวังของต่างประเทศ นอกจากนี้ยังระบุว่าโมเดลที่พัฒนาด้วยวิธีนี้อาจขาดมาตรการป้องกันที่เหมาะสมกับระดับความสามารถของตน

บริษัทอ้างถึงการพัฒนา GLM-5.3 ของ Zhipu ตามที่บล็อกระบุ Zhipu พยายามดึงความสามารถด้านไซเบอร์จาก Claude Fable 5 จากนั้นจึงเปลี่ยนไปใช้โมเดล Claude รุ่นเก่าและโมเดลของห้องปฏิบัติการอีกแห่งหนึ่งหลังจากมาตรการป้องกันขัดขวางความพยายามดังกล่าว

ตามข้อมูลของ Anthropic ศูนย์สหรัฐเพื่อการส่งเสริมมาตรฐานและนวัตกรรมสำหรับปัญญาเหนือมนุษย์ (US Center for Advancing Innovation and Standards for Super Intelligence – CAISSI) ซึ่ง NIST เรียกว่า CAISI ได้ระบุว่า GLM-5.3 เป็นโมเดลแบบเปิดน้ำหนัก (open-weights) ที่มีความสามารถด้านไซเบอร์สูงที่สุดเท่าที่มีการปล่อยออกมาจนถึงปัจจุบัน งานวิจัยของบริษัทเองพบว่ามาตรการป้องกันสามารถถูกเลี่ยงได้ง่าย และโมเดลมีความพร้อมที่จะพัฒนาช่องโหว่ด้านความปลอดภัยแบบสมบูรณ์

บล็อกยังอธิบายถึงคำขอที่ส่งไปยังโมเดล Kimi ของ Moonshot ซึ่งถูกส่งต่ออย่างลับๆ มายัง Claude ระหว่างความพยายามกลั่นกรอง รวมถึงคำขอให้วิเคราะห์ภาพจากกล้องวงจรปิดของบุคคลหนึ่ง

บริษัทเรียกร้องให้มีความร่วมมือระหว่างผู้พัฒนาโมเดลแนวหน้าต่างๆ แพลตฟอร์มคลาวด์ และผู้ให้บริการอินเฟอเรนซ์ ซึ่งเป็นจุดที่ผู้ทำการกลั่นกรองกระจายทราฟฟิก บริษัทระบุว่าแพลตฟอร์มสามารถชะลอการดึงข้อมูลได้ด้วยการตรวจจับการใช้งานในทางที่ผิดและลบบัญชีปลอม มาตรการป้องกันบางอย่างยังทำให้ผู้ใช้ที่ถูกต้องตามกฎหมายต้องอัปเดตการเชื่อมต่อระบบของตนด้วย

บทความนี้จัดทำขึ้นโดยได้รับความช่วยเหลือจากปัญญาประดิษฐ์และผ่านการตรวจทานโดยทีมกองบรรณาธิการ

Francesco Antonio Russo

บทความทั้งหมดโดย Francesco Antonio Russo