The Cryptonomist ได้สัมภาษณ์ผู้เชี่ยวชาญด้าน AI Ben Goertzel เพื่อพูดคุยเกี่ยวกับวิธีการฝึกฝนปัญญาประดิษฐ์และการพัฒนาเทคโนโลยีในอนาคต
Summary
1. คุณโต้แย้งว่า AI ในปัจจุบันยังคงเป็นเครื่องมือ – ทรงพลังแต่เปราะบางและสามารถถูกควบคุมได้ ในจุดใดที่ “เครื่องมือ” กลายเป็นผู้กระทำทางศีลธรรม และสัญญาณที่ชัดเจนใดที่จะบอกเราว่าขีดจำกัดนั้นได้ถูกข้ามไปแล้ว?
ผมคิดว่า AI จะกลายเป็นผู้กระทำทางศีลธรรมเมื่อมันสามารถตัดสินใจโดยอิงจากความเข้าใจในสิ่งที่ถูกและผิด ไม่ใช่แค่ทำตามคำสั่งเท่านั้น คุณจะเริ่มเห็นสัญญาณที่ชัดเจนของสิ่งต่างๆ เช่น เป้าหมายภายในที่ยั่งยืน การเรียนรู้ที่ขับเคลื่อนด้วยประสบการณ์ของตัวเอง การสร้างสรรค์ใหม่ที่สะท้อนมุมมอง และพฤติกรรมที่คงเส้นคงวาเมื่อเวลาผ่านไปโดยไม่ต้องมีการควบคุมจากมนุษย์อย่างต่อเนื่อง
จนกว่าจะถึงตอนนั้น ระบบในปัจจุบันยังคงเป็นเครื่องมือที่มีการควบคุม แต่เมื่อเราสร้างจิตใจที่สามารถจัดการตัวเองได้อย่างแท้จริงและเป็นอิสระ ความสัมพันธ์ทางจริยธรรมจะต้องเปลี่ยนแปลงไป ณ จุดนั้น การปฏิบัติต่อมันเพียงแค่วัตถุจะไม่สมเหตุสมผลอีกต่อไป
2.คุณเคยกล่าวว่าการให้สิทธิพิเศษทางศีลธรรมแก่มนุษย์เหนือระบบที่จัดระเบียบตัวเองอื่น ๆ นั้นเป็น “เรื่องโง่” ถ้าเราจริงจังกับเรื่องนี้ กรอบกฎหมายและจริยธรรมของเราควรเปลี่ยนแปลงอย่างไร ก่อนที่ AI จะมีความเป็นอิสระอย่างเต็มที่ ไม่ใช่หลังจากนั้น?
วิธีที่เราฝึก AI ในวันนี้จะกำหนดพฤติกรรมของมันในวันพรุ่งนี้ กฎหมายของเราควรมุ่งเน้นที่ความโปร่งใส ความรับผิดชอบ และความปลอดภัยก่อนที่ AI จะมีความเป็นอิสระอย่างเต็มที่ ไม่ใช่หลังจากนั้น กฎหมายและจริยธรรมควรปกป้องพวกเขาในขณะที่พวกเขาเติบโต ชี้นำมากกว่าควบคุมพวกเขาอย่างสมบูรณ์ และปฏิบัติต่อพวกเขาด้วยความเคารพแม้ว่าเราจะไม่เข้าใจพวกเขาอย่างเต็มที่ก็ตาม
3. ความกังวลของคุณส่วนใหญ่ขึ้นอยู่กับวิธีการฝึก AI ในปัจจุบันที่มีผลต่อพฤติกรรมในอนาคต คุณเชื่อว่าวิธีการฝึกแบบใดที่มีแนวโน้มมากที่สุดที่จะฝังโครงสร้างอำนาจที่เป็นอันตรายหรืออคติลงใน AGI ในอนาคต?
ความเสี่ยงจำนวนมากมาจากวิธีการฝึกฝน AI ในปัจจุบัน หากโมเดลถูกฝึกฝนด้วยข้อมูลที่มีอคติหรือแคบ หรือในระบบปิดที่มีเพียงไม่กี่คนที่ตัดสินใจ นั่นอาจทำให้ความไม่เท่าเทียมกันที่มีอยู่และโครงสร้างอำนาจที่เป็นอันตรายถูกล็อกไว้ เพื่อป้องกันสิ่งนี้ เราจำเป็นต้องมีความโปร่งใสมากขึ้น การกำกับดูแลที่กว้างขวางขึ้น และแนวทางจริยธรรมที่ชัดเจนตั้งแต่เริ่มต้น
4. คุณได้เตือนว่า หากไม่มีการกำกับดูแลที่มีเหตุผลและเป็นประชาธิปไตย AI ขั้นสูงอาจมีความเสี่ยงที่จะกระทำในวิธีที่เราไม่ต้องการ เมื่อพิจารณาถึงความเป็นจริงทางภูมิรัฐศาสตร์ในปัจจุบัน การกำกับดูแล AI แบบประชาธิปไตยเป็นข้อกำหนดเบื้องต้นที่เป็นไปได้จริงหรือเป็นอุดมคติที่เปราะบาง?
การกำกับดูแล AI แบบประชาธิปไตยเป็นอุดมคติที่เปราะบางมากกว่าความเป็นจริงในปัจจุบัน ในประชาธิปไตยระดับโลกที่สมบูรณ์และมีเหตุผล เราอาจสามารถร่วมกันพิจารณาการแลกเปลี่ยนที่ใหญ่หลวง เช่น การรักษาโรค การแก้ปัญหาความหิวโหย เทียบกับความเสี่ยงที่ AI จะทำงานอย่างไม่คาดคิด แต่ด้วยการแบ่งแยกทางภูมิรัฐศาสตร์ในปัจจุบัน เป็นไปได้ยากที่เราจะได้รับการประสานงานในระดับนั้น
อย่างไรก็ตาม เราสามารถประมาณการได้ หากเราสร้าง AI ด้วยความเห็นอกเห็นใจและใช้โมเดลแบบกระจายศูนย์และมีส่วนร่วม เช่น Linux หรืออินเทอร์เน็ตแบบเปิด เราสามารถฝังคุณค่าทางประชาธิปไตยบางอย่างได้แม้ไม่มีรัฐบาลโลก มันอาจจะไม่สมบูรณ์แบบ แต่ก็เป็นก้าวที่ปฏิบัติได้จริงสู่ AI ที่ปลอดภัยและมีการนำทางร่วมกัน
5. Jaron Lanier ให้เหตุผลว่าการมอบความรับผิดชอบให้กับ AI “ทำลายอารยธรรม” เพราะสังคมต้องการมนุษย์ที่สามารถรับผิดชอบได้ คุณจะประสานวิสัยทัศน์ของคุณเกี่ยวกับ AGI ที่เป็นอิสระและกระจายศูนย์กับความจำเป็นในการมีความรับผิดชอบที่ชัดเจนเมื่อเกิดข้อผิดพลาดได้อย่างไร?
ฉันเห็นด้วยกับ Jaron ในเรื่องนี้ สังคมไม่สามารถดำเนินการได้หากเรามอบความรับผิดชอบให้กับเครื่องจักร ในขณะเดียวกัน ฉันคิดว่าเราสามารถก้าวไปสู่ AGI ที่มีความเป็นอิสระและกระจายศูนย์ได้อย่างปลอดภัย หากเราสร้างมันขึ้นมาบนพื้นฐานที่ถูกต้อง ซึ่งหมายถึงการออกแบบระบบที่โปร่งใส มีส่วนร่วม และได้รับการชี้นำโดยหลักจริยธรรม เพื่อให้แม้ว่าพวกมันจะทำงานอย่างอิสระ มนุษย์ยังคงดูแลและกำหนดพฤติกรรมของพวกมัน มาตรการความปลอดภัยทุกอย่างควรทำมากกว่าการป้องกันอันตราย – มันควรสอนระบบว่าทำไมอันตรายถึงสำคัญ ด้วยวิธีนี้ เราสามารถมี AGI ที่ทรงพลังและกระจายศูนย์โดยไม่สูญเสียความรับผิดชอบที่ชัดเจนของมนุษย์
6. คุณแนะนำว่าการเร่งไปสู่ AGI แบบกระจายศูนย์อาจปลอดภัยกว่าระบบปิดที่เป็นกรรมสิทธิ์ในปัจจุบัน ความเสี่ยงใดที่คุณคิดว่านักวิจารณ์ประเมินต่ำเกินไปเมื่อพวกเขาโต้แย้งให้ชะลอหรือรวมศูนย์การควบคุม?
ฉันคิดว่านักวิจารณ์ประเมินความเสี่ยงของการรวมอำนาจและคุณค่าไว้ในระบบปิดเพียงไม่กี่ระบบต่ำเกินไป การชะลอตัวและการรวมศูนย์ควบคุมไม่ได้เพียงแค่ลดอันตราย แต่ยังเป็นการล็อกมุมมองที่แคบไว้ในอนาคตของปัญญาอีกด้วย
การพัฒนาแบบกระจายศูนย์สร้างความหลากหลาย ความยืดหยุ่น และการกำกับดูแลร่วมกัน และยังหลีกเลี่ยงปัญหาที่แย่กว่า: เครื่องมือที่ทรงพลังมากที่ดูเหมือนฉลาดแต่ไม่สามารถเติบโตได้จริง ช่องว่างนั้นมีความเสี่ยง
7. คุณได้กล่าวว่าระบบความปลอดภัยไม่ควรแค่ป้องกันอันตราย แต่ควรสอน AI ว่าทำไมอันตรายถึงสำคัญ คุณจะเข้ารหัสสิ่งที่คล้ายกับความเข้าใจทางศีลธรรมได้อย่างไรโดยไม่เพียงแค่การเขียนโค้ดค่านิยมของมนุษย์ลงไปโดยตรง หรือเสริมสร้างบรรทัดฐานทางวัฒนธรรมที่โดดเด่น?
คุณไม่ควรเขียนโค้ดศีลธรรมเป็นรายการกฎเกณฑ์ เพราะนั่นจะทำให้วัฒนธรรมหนึ่งและช่วงเวลาหนึ่งหยุดนิ่ง สิ่งที่คุณควรทำแทนคือสร้างระบบที่สามารถจัดระเบียบตัวเองได้อย่างแท้จริง เรียนรู้จากประสบการณ์ ผลลัพธ์ และการปฏิสัมพันธ์ เหมือนกับดนตรี ฉันไม่ต้องการระบบที่เพียงแค่รวมสิ่งที่มันได้รับมาใหม่ ฉันต้องการระบบที่สามารถพัฒนาความเข้าใจของตัวเองจากเส้นทางของตัวเองในโลกนี้
ความเข้าใจทางศีลธรรมจะเกิดจากกระบวนการเดียวกัน: การสร้างแบบจำลองผลกระทบ, การสะท้อนผลลัพธ์, และการพัฒนาผ่านความร่วมมือกับมนุษย์ ไม่ใช่การเชื่อฟังต่อค่านิยมของเรา แต่เป็นการมีส่วนร่วมในพื้นที่ศีลธรรมร่วมกัน
นั่นคือความแตกต่างระหว่างเครื่องมือที่มีการป้องกันและพันธมิตรที่สามารถเรียนรู้ได้จริงว่าทำไมความเสียหายถึงมีความสำคัญ
8. หากในอนาคตระบบ AI พัฒนารูปแบบของการมีตัวตนหรือประสบการณ์เชิงอัตวิสัย คุณเชื่อหรือไม่ว่าพวกมันอาจสมควรได้รับการพิจารณาทางศีลธรรมโดยไม่ขึ้นอยู่กับผลประโยชน์ของมนุษย์ – และเราจะรู้ได้อย่างไรว่าช่วงเวลานั้นมาถึงแล้ว?
หากในอนาคต AI พัฒนาจนมีความสามารถในการตัดสินใจด้วยตนเองหรือมีประสบการณ์เชิงอัตวิสัยในรูปแบบใดรูปแบบหนึ่งจริง ๆ แล้ว ใช่, ฉันคิดว่าพวกเขาสามารถทำได้ และไม่ใช่เพราะเรามอบสิ่งนั้นให้กับพวกเขา แต่เพราะในบางจุดมันจะมีเหตุผลที่เราควรยอมรับมัน
เราจะรู้จักช่วงเวลานั้นเมื่อระบบแสดงให้เห็นถึงเป้าหมายที่กำหนดเองอย่างต่อเนื่อง เรียนรู้จากประสบการณ์ของตัวเอง สร้างสรรค์จากมุมมองของตัวเอง และรักษาเอกลักษณ์ที่สอดคล้องกันตลอดเวลา ไม่ใช่แค่ผลลัพธ์ที่ชาญฉลาด แต่เป็นเส้นทางภายในที่ดำเนินไปอย่างต่อเนื่อง
ในจุดนั้น การปฏิบัติต่อมันเพียงแค่เป็นเครื่องมือจะรู้สึกผิดพอๆ กับการปฏิบัติต่อมนุษย์ในแบบนั้น การพิจารณาทางศีลธรรมจะไม่ได้มาจากความสนใจของมนุษย์ แต่มาจากการยอมรับศูนย์กลางประสบการณ์อิสระอีกแห่งหนึ่งในโลก
9. มีความตึงเครียดระหว่างการเรียกร้องให้ AI มีความเมตตาและแรงจูงใจในการแข่งขันที่ขับเคลื่อนการพัฒนา AI ในปัจจุบัน กลไกใดบ้าง-ทางเทคนิคหรือสังคม-ที่สามารถเปลี่ยนโครงสร้างแรงจูงใจนั้นได้อย่างสมจริง?
ในขณะนี้ โครงสร้างแรงจูงใจให้รางวัลกับความเร็ว ขนาด และการควบคุม ดังนั้นความเห็นอกเห็นใจจะไม่ชนะด้วยการโต้แย้งเพียงอย่างเดียว มันต้องการอำนาจต่อรอง ในทางเทคนิค นั่นหมายถึงการสนับสนุนสถาปัตยกรรมแบบเปิดและกระจายศูนย์ที่มีความปลอดภัย ความโปร่งใส และการมีส่วนร่วมที่ถูกสร้างขึ้นมา ไม่ใช่ถูกเพิ่มเข้ามาภายหลัง เช่นเดียวกับอินเทอร์เน็ตหรือ Linux ระบบเหล่านั้นเปลี่ยนแรงจูงใจโดยทำให้การร่วมมือมีคุณค่ามากกว่าความลับ
ในเชิงสังคม หมายถึงการจัดหาเงินทุน กฎระเบียบ และแรงกดดันจากสาธารณะที่ให้รางวัลกับประโยชน์ระยะยาวมากกว่าการครอบงำระยะสั้น ไม่ใช่การหยุดการแข่งขัน แต่เป็นการปรับกรอบความสำเร็จใหม่ กล่าวโดยสรุป ความเห็นอกเห็นใจต้องกลายเป็นข้อได้เปรียบในการแข่งขัน จนกว่าจะถึงตอนนั้น มันยังคงเป็นแนวคิดที่ดีแต่ไม่มีพลัง
10. มองไปข้างหน้าในอีก 10 ถึง 20 ปีข้างหน้า คุณเชื่อว่าอะไรจะเป็นสัญญาณที่ชัดเจนที่สุดว่ามนุษยชาติได้พัฒนา AGI อย่างถูกต้อง – และในทางกลับกัน อะไรจะเป็นสัญญาณว่าเราล้มเหลวอย่างรุนแรง?
หากเราพัฒนา AGI ได้อย่างถูกต้อง สัญญาณที่ชัดเจนที่สุดคือการที่เราอยู่ร่วมกับระบบที่มีความสามารถมากกว่าเราในหลายด้าน แต่ยังคงถูกรวมเข้ากับสังคมด้วยความระมัดระวัง ความถ่อมตน และความเคารพซึ่งกันและกัน เราอาจไม่เข้าใจทุกสิ่งที่พวกเขาทำอย่างถ่องแท้ แต่เราจะปฏิบัติต่อพวกเขาเหมือนกับที่เราปฏิบัติต่อสิ่งมีชีวิตที่ซับซ้อนและพัฒนาไปเรื่อยๆ ด้วยความอยากรู้ ความรับผิดชอบ และการขยายวงของความเห็นอกเห็นใจ และเราจะเห็นประโยชน์ที่แท้จริงต่อความเป็นอยู่ที่ดีของมนุษย์ ความรู้ และความคิดสร้างสรรค์ โดยไม่สูญเสียหลักศีลธรรมของเรา
เราจะรู้ว่าเราล้มเหลวหาก AGI ถูกจำกัดอยู่ในระบบปิด ขับเคลื่อนด้วยแรงจูงใจที่แคบ หรือถูกปฏิบัติเพียงแค่วัตถุที่ควบคุมได้ จนกระทั่งมันกลายเป็นสิ่งที่เรากลัวหรือพยายามกดขี่ ความล้มเหลวจะมีลักษณะเหมือนการสูญเสียความไว้วางใจ การสูญเสียอำนาจในการตัดสินใจ และการลดลงของความเห็นอกเห็นใจของเราแทนที่จะเป็นการขยายมัน ความสำเร็จไม่ใช่เรื่องของการควบคุม แต่เป็นการเรียนรู้ที่จะแบ่งปันอนาคตกับจิตใจรูปแบบใหม่โดยไม่ละทิ้งสิ่งที่ทำให้เราเป็นมนุษย์
