กฎระเบียบด้านปัญญาประดิษฐ์ของ Anthropic: รัฐบาลจะสามารถระงับโมเดลที่เป็นอันตรายได้

Anthropic ได้นำเสนอกฎระเบียบด้าน AI ฉบับใหม่ของ Anthropic ที่มุ่งจำกัดการใช้ปัญญาประดิษฐ์ที่มีความเสี่ยงสูง และในขณะเดียวกันก็เตรียมความพร้อมให้รัฐบาลและเศรษฐกิจรับมือกับผลกระทบของโมเดลแนวหน้าต่างๆ ข้อความมีความชัดเจน: หากความสามารถของ AI ขั้นสูงเติบโตเร็วขนาดนี้ ก็จำเป็นต้องมีกลไกด้านกฎระเบียบที่สามารถหยุดยั้งหรือยับยั้งการใช้งานที่เป็นอันตรายได้ก่อนที่จะก่อให้เกิดความเสียหายร้ายแรง

กฎระเบียบด้าน AI ของ Anthropic ระหว่างความปลอดภัยและผลกระทบทางเศรษฐกิจ

Anthropic ได้นำเสนอแผนสองส่วนที่บูรณาการอยู่ในโครงการ Policy on the AI Exponential แผนแรกกำหนดกรอบการทำงานสำหรับ AI ขั้นสูง ส่วนแผนที่สองมองไปที่ผลกระทบทางเศรษฐกิจต่อแรงงานและการกระจายผลประโยชน์ทางการเงินที่เกิดจาก AI แก่นกลางของข้อเสนอคือคำขอที่ชัดเจน: มอบอำนาจให้รัฐบาลสามารถเข้าแทรกแซงเชิงป้องกันกับโมเดลที่ถูกมองว่ามีความเสี่ยงสูงได้

ขอบเขตของข้อเสนอมีความชัดเจน กฎระเบียบด้าน AI ของ Anthropic จะครอบคลุมระบบที่ได้รับการฝึกด้วยปริมาณการคำนวณมากกว่า 10²⁵ การดำเนินการแบบจุดลอยตัว นอกจากนี้ยังจะครอบคลุมบริษัทที่มีรายได้ต่อปีจาก AI มากกว่า 500 ล้านดอลลาร์ Anthropic ยังรวมถึงบริษัทที่ใช้จ่ายมากกว่า 1 พันล้านดอลลาร์ต่อปีในการวิจัยและพัฒนาด้าน AI ด้วย

กฎเกณฑ์สำหรับ AI ที่มีความเสี่ยงสูง: ความโปร่งใส การทดสอบ และบทลงโทษ

มาตรการสำคัญรวมถึงการตรวจสอบโมเดลโดยหน่วยงานอิสระ เอกสารประกอบโดยละเอียดเกี่ยวกับความปลอดภัย และรายงานความเสี่ยงเป็นระยะจากผู้พัฒนา Anthropic ต้องการให้ผู้ประเมินอิสระที่มีทรัพยากรเพียงพอและเข้าถึงโมเดลได้ ทำงานเคียงข้างผู้ผลิตเพื่อควบคุมการทดสอบและรายงาน เป้าหมายคือเสริมสร้างความโปร่งใสโดยไม่ปล่อยให้ทุกอย่างขึ้นอยู่กับการประเมินตนเองของบริษัทเพียงอย่างเดียว

ข้อเสนอยังกำหนดบทลงโทษทางแพ่งที่ผูกกับรายได้รวมต่อปีทั่วโลกของบริษัท โดยมีค่าปรับที่รุนแรงขึ้นในกรณีที่มีการละเมิดซ้ำๆ ด้วยวิธีนี้ Anthropic มุ่งสร้างตัวขัดขวางทางเศรษฐกิจที่มีสัดส่วนสอดคล้องกับขนาดระดับโลกของภาคส่วนนี้ นอกจากนี้บริษัทยังเรียกร้องให้มีโปรแกรมด้านความปลอดภัยที่เข้มแข็ง อธิบายต่อสาธารณะ และมีความโปร่งใสมากขึ้นต่อหน่วยงานรัฐบาลที่เกี่ยวข้อง

วิธีการด้านความปลอดภัยสำหรับโมเดล AI ขั้นสูงและการเข้าถึงของผู้ประเมิน

อีกหนึ่งประเด็นสำคัญของนโยบายด้าน AI ของ Anthropic คือการปกป้องสภาพแวดล้อมการพัฒนาโดยรวม ผู้พัฒนาจะต้องรักษามาตรฐานสูงเพื่อป้องกันการโจมตีจากภายนอกและภัยคุกคามจากภายใน นอกจากนี้ ข้อเสนอระบุว่าผู้ประเมินอิสระต้องสามารถเข้าถึงโมเดลได้เพื่อทำการตรวจสอบจริง ไม่ใช่เพียงแค่ในเชิงรูปแบบ

ความเสี่ยงสี่ประการที่ Anthropic ระบุสำหรับ AI แนวหน้า

Anthropic ระบุสี่พื้นที่เสี่ยงที่สำคัญ ได้แก่ ด้านชีวภาพ ด้านไซเบอร์ การสูญเสียการควบคุมระบบ และการวิจัยอัตโนมัติที่ดำเนินการโดยปัญญาประดิษฐ์ ผลกระทบที่อาจเกิดขึ้นมีตั้งแต่การใช้ในทางที่ผิดเพื่อสร้างไวรัสอันตราย ไปจนถึงช่องโหว่ต่อบริการสำคัญ เช่น โรงพยาบาลและโครงสร้างพื้นฐานด้านพลังงาน

สำหรับความเสี่ยงด้านชีวภาพ ข้อเสนอเน้นเครื่องมือคัดกรองสำหรับการสังเคราะห์ทางพันธุกรรม และระบบเฝ้าระวังทางชีวภาพเพื่อระบุสัญญาณเตือนล่วงหน้า ในด้านไซเบอร์ ข้อเสนอเรียกร้องให้เพิ่มการปกป้องโครงสร้างพื้นฐานที่สำคัญ แทนที่ระบบเดิมที่มีช่องโหว่ และจัดตั้งหน่วยงานของรัฐที่มีหน้าที่เฉพาะในการติดตามความสามารถเชิงรุกทางดิจิทัลที่เกิดขึ้นใหม่

Anthropic ยังชี้ให้เห็นถึงความจำเป็นในการพัฒนามาตรการควบคุมเพื่อต่อต้านการสูญเสียการควบคุมและการวิจัยอัตโนมัติให้ดียิ่งขึ้น ในกรณีเหล่านี้ บริษัทเรียกร้องให้มีกฎเกณฑ์ที่สามารถปิดหรือจำกัดระบบ AI ที่เป็นอันตรายได้ก่อนที่จะก่อให้เกิดความเสียหาย

ความยืดหยุ่นของสาธารณะและการควบคุมของรัฐบาลต่อ AI ที่เป็นอันตราย

ข้อเสนอไม่ได้จำกัดอยู่เพียงด้านความปลอดภัยทางเทคนิคเท่านั้น Anthropic ยังรวมมาตรการเพื่อเสริมสร้างความยืดหยุ่นของสังคมต่อผลกระทบจาก AI ขั้นสูง ด้วยแผนป้องกันเหตุฉุกเฉินด้านชีวภาพและเทคโนโลยี และกลยุทธ์ในการอัปเกรดและปกป้องโครงสร้างพื้นฐานที่สำคัญจากการโจมตีทางไซเบอร์

บริษัทเรียกร้องให้ผู้กำหนดนโยบายเร่งกระบวนการด้านกฎระเบียบ เพื่อให้ธรรมาภิบาลของปัญญาประดิษฐ์ไม่ล้าหลังความเร็วของการพัฒนาความสามารถทางเทคโนโลยี ข้อความเน้นจุดยืนที่ชัดเจน: ความปลอดภัยไม่อาจขึ้นอยู่กับความโปร่งใสและการกำกับดูแลตนเองเพียงอย่างเดียว แต่ต้องอาศัยความร่วมมือร่วมกันของรัฐบาล ผู้พัฒนา และภาคประชาสังคม

คำถามที่พบบ่อยเกี่ยวกับกฎระเบียบด้าน AI ของ Anthropic

อะไรเป็นตัวกระตุ้นอำนาจของรัฐบาลในการระงับ AI?

ตามข้อเสนอ รัฐบาลควรมีอำนาจในการเข้าแทรกแซงเชิงป้องกันกับโมเดลที่ถือว่ามีความเสี่ยงสูง อย่างไรก็ตาม ข้อความไม่ได้ระบุเกณฑ์เชิงปฏิบัติหรือขั้นตอนโดยละเอียดในการใช้อำนาจนี้

ผู้ประเมินอิสระถูกคัดเลือกและได้รับเงินทุนอย่างไร?

บทความระบุว่าผู้ประเมินอิสระควรมีทรัพยากรเพียงพอและเข้าถึงโมเดลได้ แต่ไม่ได้ลงรายละเอียดเกี่ยวกับการคัดเลือก การจัดหาเงินทุน หรือโครงสร้างธรรมาภิบาลของระบบการควบคุม

ความเสี่ยงทางชีวภาพหลักๆ ที่ระบุมีอะไรบ้าง?

Anthropic กล่าวถึงความเสี่ยงจากการใช้ AI ในทางที่ผิดเพื่อสร้างไวรัสอันตราย ดังนั้นจึงเสนอให้มีการคัดกรองสำหรับการสังเคราะห์ทางพันธุกรรมและระบบเฝ้าระวังทางชีวภาพ

ข้อเสนอรับมือกับความเสี่ยงด้านความปลอดภัยไซเบอร์อย่างไร?

ข้อเสนอมีเป้าหมายเพื่อเสริมสร้างการปกป้องโครงสร้างพื้นฐานที่สำคัญ แทนที่ระบบเดิมที่มีช่องโหว่ และสร้างหน่วยงานของรัฐที่มีหน้าที่เฉพาะในการติดตามความสามารถเชิงรุกทางดิจิทัลที่เกิดขึ้นใหม่

มีบทลงโทษอะไรบ้างสำหรับการละเมิดซ้ำๆ?

Anthropic เสนอให้มีบทลงโทษทางแพ่งที่คำนวณจากรายได้รวมต่อปีทั่วโลก โดยมีค่าปรับที่สูงขึ้นในกรณีที่มีการละเมิดซ้ำ