ข้ามไปยังเนื้อหา
  • BTC $59,118 −6.2%
  • ETH $1,639 −7.9%
  • SOL $69.43 −6.4%
  • BNB $544.05 −7.4%
  • XRP $0.9109 −6.3%
  • DOGE $0.0544 −7.5%
  • ADA $0.1413 −8.0%

Meta เสริมความปลอดภัยของปัญญาประดิษฐ์ (AI): เครื่องมือใหม่เพื่อปกป้องผู้ใช้และนักพัฒนา

LlamaFirewall: ศูนย์ควบคุมสำหรับความปลอดภัย AI

Meta ได้ประกาศชุด เครื่องมือความปลอดภัยใหม่ สำหรับโมเดลปัญญาประดิษฐ์ของตน โดยมีเป้าหมายเพื่อทำให้การพัฒนาและการใช้งาน AI ปลอดภัยยิ่งขึ้น ทั้งสำหรับผู้สร้างและผู้ปกป้องในด้าน cybersecurity. 

ข่าวใหม่เกี่ยวข้องโดยเฉพาะกับครอบครัวของโมเดล Llama ซึ่งตอนนี้มีทรัพยากรที่อัปเดตและซับซ้อนมากขึ้นเพื่อรับมือกับภัยคุกคามที่เกิดขึ้นใหม่

Llama Guard 4: ความปลอดภัยแบบหลายโหมดสำหรับข้อความและรูปภาพในโปรแกรม AI ใหม่ของ Meta

หนึ่งในการอัปเดตหลักคือ Llama Guard 4 ซึ่งเป็นการพัฒนาของตัวกรองความปลอดภัยที่ปรับแต่งได้ของ Meta

นวัตกรรมที่ยิ่งใหญ่ของเวอร์ชันนี้คือความสามารถแบบมัลติโหมด ซึ่งหมายถึงความสามารถในการวิเคราะห์และใช้กฎความปลอดภัยไม่เพียงแต่กับข้อความเท่านั้น แต่ยังรวมถึงภาพด้วย ก้าวนี้มีความสำคัญอย่างยิ่งเมื่อพิจารณาว่าแอปพลิเคชัน AI กำลังมีความเป็นภาพมากขึ้นเรื่อยๆ

Llama Guard 4 ได้รับการผสานรวมเข้ากับ API Llama ใหม่ของ Meta แล้ว ซึ่งขณะนี้มีให้ใช้งานในรุ่นพรีวิวแบบจำกัด นักพัฒนาสามารถเข้าถึงเครื่องมือนี้ได้ผ่านทางหน้าทางการของการป้องกัน Llama หรือผ่านทางแพลตฟอร์ม Hugging Face และ GitHub.

อีกหนึ่งความแปลกใหม่ที่สำคัญคือ LlamaFirewall ซึ่งเป็นระบบที่ออกแบบมาเพื่อทำหน้าที่เป็น ศูนย์บัญชาการ ด้านความปลอดภัยในระบบของ ปัญญาประดิษฐ์ เครื่องมือนี้ช่วยให้สามารถประสานงานโมเดลการป้องกันต่างๆ และผสานรวมกับเครื่องมือความปลอดภัยอื่นๆ ของ Meta ได้

LlamaFirewall ได้รับการออกแบบมาเพื่อต่อต้านภัยคุกคามที่ซับซ้อน เช่น การฉีดอย่างรวดเร็ว (prompt injection), การสร้างโค้ดที่อาจเป็นอันตราย และพฤติกรรมที่เสี่ยงของปลั๊กอิน AI 

โดยพื้นฐานแล้ว มันเป็นปราการต่อต้านการโจมตีที่ซับซ้อนที่สุดที่อาจทำลายความสมบูรณ์ของระบบที่ใช้ปัญญาประดิษฐ์

Meta ยังได้อัปเดตระบบการตรวจจับความพยายามในการ jailbreak และ prompt injection ด้วย Prompt Guard 2 (86M) ใหม่ โมเดลนี้ถูกออกแบบมาเพื่อระบุความพยายามในการปรับเปลี่ยน AI ได้อย่างแม่นยำยิ่งขึ้น

ข้างๆ นี้ ได้มีการแนะนำ Prompt Guard 2 22M ซึ่งเป็นเวอร์ชันที่เบาและเร็วขึ้น ด้วยการลดความหน่วงและค่าใช้จ่ายในการคำนวณลงถึง 75% เวอร์ชันนี้เหมาะสำหรับผู้ที่ทำงานด้วยทรัพยากรที่จำกัดแต่ไม่ต้องการละทิ้งความปลอดภัย

CyberSec Eval 4: เกณฑ์มาตรฐานใหม่สำหรับความปลอดภัย AI

Meta ไม่ได้จำกัดเพียงแค่การให้เครื่องมือสำหรับนักพัฒนาเท่านั้น แต่ยังได้อัปเดตชุด benchmark CyberSec Eval 4 ของตน ซึ่งออกแบบมาเพื่อประเมินความสามารถของระบบ AI ในด้าน cybersecurity 

ชุดเครื่องมือโอเพนซอร์สนี้ช่วยให้องค์กรสามารถวัดประสิทธิภาพของปัญญาประดิษฐ์ในการตรวจจับและตอบสนองต่อภัยคุกคามทางดิจิทัลได้

เครื่องมือใหม่สองรายการเพิ่มความหลากหลายให้กับชุดนี้:

  • – การประเมิน CyberSOC: พัฒนาร่วมกับ CrowdStrike, กรอบการทำงานนี้ประเมินประสิทธิภาพของ AI ในบริบทจริงของศูนย์ปฏิบัติการด้านความปลอดภัย (SOC), โดยให้มุมมองที่เป็นรูปธรรมเกี่ยวกับประสิทธิผลในการปฏิบัติงานของปัญญาประดิษฐ์
  • – AutoPatchBench: เป็น benchmark ที่ทดสอบความสามารถของโมเดล AI รวมถึงโมเดลในตระกูล Llama ในการระบุและแก้ไขช่องโหว่โดยอัตโนมัติในโค้ดก่อนที่จะถูกใช้ประโยชน์โดยผู้ไม่หวังดี

เพื่ออำนวยความสะดวกในการนำเครื่องมือเหล่านี้ไปใช้ Meta ได้เปิดตัวโปรแกรม Llama Defenders ซึ่งมอบการเข้าถึงพิเศษให้กับการเลือกใช้โซลูชัน AI – บางส่วนเป็น open source บางส่วนเป็นเวอร์ชันทดลองหรือเป็นกรรมสิทธิ์ – ที่ออกแบบมาเพื่อเผชิญกับความท้าทายเฉพาะในด้านความปลอดภัย

ในบรรดาเครื่องมือที่ใช้ร่วมกันยังมี classificatore automatico di documenti sensibili ซึ่งใช้ภายในโดย Meta. 

ระบบนี้ใช้ป้ายกำกับความปลอดภัยกับเอกสารภายในองค์กร เพื่อป้องกันไม่ให้ข้อมูลที่เป็นความลับถูกใส่เข้าไปในระบบ AI โดยไม่ได้ตั้งใจ ซึ่งอาจทำให้ข้อมูลเหล่านั้นถูกเปิดเผยได้

Meta ยังได้เผชิญกับปัญหาที่เพิ่มขึ้นของ เสียงปลอมที่สร้างโดยปัญญาประดิษฐ์ ซึ่งถูกใช้มากขึ้นในกลโกงและความพยายามในการฟิชชิ่ง มีเครื่องมือใหม่สองตัวที่ถูกจัดเตรียมให้กับพันธมิตร:

  • – เครื่องตรวจจับเสียงที่สร้างโดย Llama
  • – เครื่องตรวจจับลายน้ำเสียง Llama

เครื่องมือเหล่านี้ช่วยในการระบุเสียงสังเคราะห์ในสายที่น่าสงสัย บริษัทต่างๆ เช่น ZenDesk, Bell Canada และ AT&T กำลังประเมินการผนวกรวมเทคโนโลยีเหล่านี้ในระบบความปลอดภัยของตนเองแล้ว

การประมวลผลส่วนตัว: AI ที่มีประโยชน์โดยไม่กระทบต่อความเป็นส่วนตัว

สุดท้ายนี้ Meta ได้เสนอการแสดงตัวอย่างของเทคโนโลยีที่กำลังพัฒนาสำหรับ WhatsApp ที่เรียกว่า elaborazione privata. 

เป้าหมายคือการอนุญาตให้ปัญญาประดิษฐ์สามารถให้ฟังก์ชันที่มีประโยชน์ – เช่น สรุปข้อความที่ยังไม่ได้อ่านหรือแนะนำคำตอบ – โดยที่ทั้ง Meta และ WhatsApp ไม่สามารถเข้าถึงเนื้อหาของข้อความได้

เทคโนโลยีนี้เป็นก้าวสำคัญสู่ AI ที่เคารพความเป็นส่วนตัว Meta กำลังใช้แนวทางที่โปร่งใส โดยการเผยแพร่ โมเดลการคุกคาม ของตนเองและเชิญชวนชุมชนนักวิจัยให้ทดสอบความแข็งแกร่งก่อนการเปิดตัวอย่างเป็นทางการ

ด้วยชุดประกาศนี้ Meta แสดงให้เห็นถึงความมุ่งมั่นที่เป็นรูปธรรมในการเสริมสร้างความปลอดภัยของปัญญาประดิษฐ์ ทั้งในแง่ของการพัฒนาและการป้องกัน 

เป้าหมายคือสองประการ กล่าวคือ ปกป้องผู้ใช้ปลายทางและมอบเครื่องมือขั้นสูงให้กับนักพัฒนาและผู้เชี่ยวชาญด้านความปลอดภัยเพื่อรับมือกับภัยคุกคามทางดิจิทัลที่พัฒนาอย่างต่อเนื่อง

ในภูมิทัศน์ทางเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็ว ซึ่ง AI มีบทบาทสำคัญมากขึ้นเรื่อย ๆ โครงการริเริ่มเช่นนี้มีความสำคัญอย่างยิ่งในการรับประกันอนาคตดิจิทัลที่ ปลอดภัย โปร่งใส และมีความรับผิดชอบ มากขึ้น

Alessia Pannone

บทความทั้งหมดโดย Alessia Pannone