ลองจินตนาการว่าคุณกำลังเลื่อนดู หมวดจิตวิญญาณของ Amazon เพื่อมองหาหนังสือเกี่ยวกับ พิธีกรรมวิคคา หรือปรัชญาฮินดู แต่กลับพบว่าส่วนใหญ่ของสิ่งที่อยู่บนชั้นหนังสือเสมือนนั้นอาจไม่เคยถูกแตะต้องโดยนักเขียนมนุษย์เลย นั่นคือภาพที่ชวนไม่สบายใจซึ่งถูกวาดขึ้นโดยการศึกษาใหม่เกี่ยวกับ หนังสือศาสนาที่เขียนด้วย AI ซึ่งพบว่า ข้อความที่สร้างโดยเครื่อง ได้เข้ามาครอบครองส่วนแบ่งขนาดใหญ่ของการพิมพ์หนังสือศาสนาและจิตวิญญาณบนแพลตฟอร์มนี้อย่างเงียบ ๆ
งานวิจัยที่เผยแพร่ในสัปดาห์นี้โดยบริษัทตรวจจับ AI อย่าง Originality.ai ได้สุ่มตัวอย่างหนังสือมากกว่า 2,000 เล่มจาก ชื่อเรื่องที่ตีพิมพ์เมื่อไม่นานมานี้ ใน 14 หมวดหมู่ศาสนาและความเชื่อที่ขายบน Amazon ข้อสรุปคือ เกือบสองในสามของหนังสือทั้งหมดน่าจะถูกเขียนโดยปัญญาประดิษฐ์มากกว่ามนุษย์
Summary
ประเด็นสำคัญ
- Originality.ai ระบุว่า 1,272 จาก 2,034 เล่มของหนังสือศาสนาที่วิเคราะห์บน Amazon — คิดเป็น 63% — มีแนวโน้มว่าเขียนด้วย AI
- หมวดเวทมนตร์คาถามีสัดส่วนสูงสุดที่บันทึกไว้ที่ 78% โดยศาสนาฮินดูอยู่ที่ 76% และลัทธิเต๋าอยู่ที่ 74%
- นักวิจัยระบุว่า 53% ของข้อความอ้างอิงที่สามารถตรวจสอบข้อเท็จจริงได้ในหนังสือเวทมนตร์คาถามีแนวโน้มว่าเป็นเท็จ
- Amazon ใช้ระบบให้เกียรติ (honour system) ให้ผู้เขียนเปิดเผยด้วยตนเองว่าผลงานเขียนด้วย AI โดยไม่มีข้อมูลสาธารณะว่ามีผู้เปิดเผยจริงกี่ราย
- Amazon ยืนยันว่าบริษัทซื้อหนังสือฉบับพิมพ์ผ่านช่องทางการค้าเพื่อนำมาสแกนหน้าใช้เป็นข้อมูลฝึก AI
หนังสือศาสนาส่วนใหญ่บน Amazon มีแนวโน้มว่าเขียนด้วย AI
ตัวเลขเบื้องหลังการศึกษานี้โดดเด่นในตัวเอง: 63% ของหนังสือศาสนาที่สุ่มตัวอย่าง ได้คะแนนสูงพอในโมเดลตรวจจับของ Originality.ai จนถูกจัดประเภทว่ามีแนวโน้มว่าเขียนโดยเครื่อง นี่ไม่ใช่ผลลัพธ์ชายขอบที่ซ่อนอยู่ในมุมเล็ก ๆ ของร้าน แต่เป็นผลลัพธ์ส่วนใหญ่ในทั้งหมวดหมู่เชิงพาณิชย์ที่ครอบคลุมศาสนาสำคัญของโลกหลายศาสนา
การศึกษาและระเบียบวิธีของ Originality.ai
ผู้เขียนรายงาน Michael Fraiman ระบุว่าทีมของเขาวิเคราะห์คำอธิบายหนังสือ ประวัติผู้เขียน และตัวอย่างข้อความจากแต่ละชื่อเรื่อง แล้วนำไปผ่านโมเดลให้คะแนน อะไรก็ตามที่ได้คะแนน 50 ขึ้นไปจะถูกจัดประเภทเป็น “น่าจะเป็น AI” จากหนังสือ 2,034 เล่มที่ตรวจสอบ มี 1,272 เล่มที่ผ่านเกณฑ์ดังกล่าว
Fraiman ระมัดระวังในการอธิบายผลลัพธ์ว่าเป็นเรื่องของความน่าจะเป็นมากกว่าหลักฐานยืนยัน “เราไม่ได้อ้างความแน่นอนว่าหนังสือเล่มใดเขียนด้วย AI อย่างเด็ดขาด” เขากล่าวกับ Decrypt “โมเดลของเรากำหนดความเป็นไปได้ที่บางสิ่งถูกเขียนด้วย AI ในระดับหนึ่งของความมั่นใจ” เขาเสริมว่านักวิจัยได้สุ่มตรวจชื่อเรื่องที่ถูกตั้งธงด้วยตนเอง โดยกล่าวว่าทีมงานสามารถ “แยกความแตกต่างระหว่างเนื้อหาที่น่าจะเขียนด้วย AI กับเนื้อหาที่เขียนโดยมนุษย์” ได้แล้วในขั้นตอนนี้ของงาน
อัตราการเขียนด้วย AI ในหมวดศาสนาต่าง ๆ
ไม่ใช่ทุกขนบความเชื่อจะได้รับผลกระทบเท่ากัน หมวดเวทมนตร์คาถา — ที่ดึงมาจากรายการ Wicca, Witchcraft & Paganism ของ Amazon — อยู่ในอันดับสูงสุดที่ 78% ครอบคลุมชื่อเรื่องเกี่ยวกับคริสตัลบำบัด สมุนไพร และการชำระล้างพลังงานลบ Fraiman ชี้ว่าความดึงดูดใจต่อสำนักพิมพ์นั้นชัดเจน: หนังสือเหล่านี้สามารถสัญญาว่าจะให้ทางออกด้านสุขภาพจิตหรือการ “ดีท็อกซ์” โดยไม่จำเป็นต้องผ่านมาตรฐานทางวิทยาศาสตร์ใด ๆ
ศาสนาฮินดูตามมา ที่ 76% และลัทธิเต๋าอยู่ที่ 74% ศาสนาซิกข์ พุทธ อิสลาม คาทอลิก โปรเตสแตนต์ คริสต์นิกายออร์โธดอกซ์ และยิว อยู่ในช่วงระหว่างนั้น มอร์มอนอยู่ที่ 42% อเทวนิยม 40% และซาตานนิยม 22% — ต่ำที่สุดในบรรดาหมวดหมู่ที่ศึกษา นักวิจัยเตือนว่าขนาดตัวอย่างแตกต่างกันมากระหว่างหมวดหมู่ ซึ่งจำกัดความสามารถในการเปรียบเทียบเปอร์เซ็นต์เหล่านี้โดยตรงต่อกัน
ความท้าทายในการยืนยันและผลบวกลวงในการตรวจจับ AI
คะแนนการตรวจจับ AI สูงไม่ได้หมายความโดยอัตโนมัติว่าหนังสือเล่มนั้นทำให้เข้าใจผิด — แต่ในหมวดเวทมนตร์คาถา การศึกษาพบว่ามีส่วนทับซ้อนที่น่ากังวลระหว่างสองสิ่งนี้ นักวิจัยระบุว่า 53% ของข้อความอ้างอิงที่สามารถตรวจสอบข้อเท็จจริงได้ ในหนังสือเวทมนตร์คาถามีแนวโน้มว่าเป็นเท็จ ทำให้เกิดความกังวลเกี่ยวกับผู้อ่านที่หันไปพึ่งคำแนะนำด้านจิตวิญญาณที่สร้างโดย AI เพื่อขอคำแนะนำด้านสุขภาพหรือความเป็นอยู่ที่ดีซึ่งไม่เคยมีใครตรวจสอบมาก่อน
ข้อจำกัดของเครื่องมือตรวจจับงานเขียนด้วย AI
เครื่องมือตรวจจับอย่างโมเดลของ Originality.ai ถูกสร้างขึ้นเพื่อประเมิน “ความเป็นไปได้” ไม่ใช่เพื่อออกคำตัดสิน ความแตกต่างนี้สำคัญ เพราะเทคโนโลยีตรวจจับ AI ในภาพรวมมีประวัติความไม่สม่ำเสมอในการทำงาน กรอบการอธิบายของ Fraiman เอง — ที่ว่าโมเดลให้ “ระดับหนึ่งของความมั่นใจ” มากกว่าหลักฐานยืนยัน — สะท้อนการยอมรับในอุตสาหกรรมโดยกว้างว่า ยังไม่มีตัวตรวจจับใดที่รับประกันความแม่นยำได้ในปัจจุบัน
ตัวอย่างผลลัพธ์การตรวจจับ AI ที่ขัดแย้งกัน
ความไม่น่าเชื่อถือของตัวตรวจจับ AI ไม่ใช่เรื่องสมมติ ในเดือนตุลาคม 2024 การทดสอบเครื่องมือสี่ตัวที่วิเคราะห์คำประกาศอิสรภาพของสหรัฐฯ ให้ผลลัพธ์ที่แตกต่างกันอย่างมาก: ZeroGPT ให้คะแนนว่าเป็นข้อความที่สร้างโดย AI 97.93% QuillBot ระบุว่าเป็นงานเขียนโดยมนุษย์ทั้งหมด และ GPTZero ให้ความน่าจะเป็น 89% ว่าเป็นผลงานของมนุษย์ — สามเครื่องมือ สามคำตอบที่ขัดแย้งกันสำหรับเอกสารในศตวรรษที่ 18 ฉบับเดียวกัน
สถานการณ์ยิ่งจริงจังขึ้นในเดือนมีนาคม เมื่อศาลฎีกาโคลอมเบียปฏิเสธคำร้องทางกฎหมายหลังจากตัวตรวจจับระบุว่าข้อความนั้นสร้างโดย AI ในจุดพลิกผันที่น่าขัน เมื่อทนายความนำคำพิพากษาของศาลฉบับเดียวกันไปผ่านตัวตรวจจับตัวเดิมในภายหลัง ผลกลับออกมาว่ามีโอกาส 93% ที่สร้างโดย AI เหตุการณ์นี้ตอกย้ำว่าการปฏิบัติต่อคะแนนการตรวจจับเป็นหลักฐานพร้อมใช้ในศาลยังคงเป็นเรื่องที่สั่นคลอนในเชิงกฎหมาย
บทบาทของ Amazon และคำถามด้านจริยธรรมในเนื้อหา AI และการฝึกโมเดล
Amazon อยู่กึ่งกลางของสองประเด็นขัดแย้งที่แยกจากกันแต่เกี่ยวข้องกัน: วิธีที่บริษัทควบคุมหนังสือที่เขียนด้วย AI ซึ่งขายบนมาร์เก็ตเพลสของตน และวิธีที่บริษัทจัดหาข้อความดิบเพื่อฝึกโมเดล AI ของตัวเอง ทั้งสองแนวปฏิบัตินี้ในปัจจุบันแทบไม่มีความโปร่งใสต่อสาธารณะ
ระบบให้เกียรติของ Amazon สำหรับการเปิดเผยเนื้อหา AI
ตามคำกล่าวของ Fraiman “Amazon ตระหนักดีว่าเนื้อหาที่เขียนด้วย AI นั้นพบได้บ่อยเพียงใดบนแพลตฟอร์มของตน และใช้ระบบให้เกียรติให้ผู้เขียนระบุด้วยตนเองว่าผลงานของตนเขียนด้วย AI” Originality.ai ไม่ได้แบ่งปันผลการค้นพบกับ Amazon ก่อนเผยแพร่ และ Fraiman ระบุอย่างตรงไปตรงมาว่า “เราไม่มีข้อมูลว่ามีผู้เขียนกี่คนที่เปิดเผยเรื่องนี้จริง ๆ” Amazon ไม่ได้ตอบกลับคำขอความคิดเห็นของ Decrypt ในทันที
ประเด็นนี้สำคัญเพราะการเปิดเผยด้วยตนเองโดยไม่มีการตรวจสอบ ทำให้เกิดช่องว่างขนาดใหญ่ระหว่างสิ่งที่กำหนดให้ต้องทำตามกฎกับสิ่งที่เกิดขึ้นจริง หากสัดส่วนหนังสือศาสนาที่เขียนด้วย AI อยู่ใกล้สองในสามจริง ระบบที่อาศัยเพียงความซื่อสัตย์อาจตรวจจับได้เพียงส่วนเล็ก ๆ เท่านั้น
การใช้หนังสือฉบับพิมพ์เพื่อฝึก AI และข้อกังวลด้านจริยธรรม
ในอีกด้านหนึ่ง ความต้องการข้อมูลฝึกโมเดลของ Amazon ได้ดึงดูดความสนใจต่อวิธีที่บริษัทจัดการกับหนังสือฉบับพิมพ์ การสืบสวนติดตามการขนส่งหนังสือหายากชุดหนึ่งไปยังศูนย์ปฏิบัติการของ Amazon ในลาสเวกัส — ที่ซึ่งพนักงานตัดสันหนังสือออกและสแกนหน้ากระดาษเข้าไปในชุดข้อมูลฝึก AI
Amazon ยืนยันว่าบริษัท “ซื้อหนังสือผ่านช่องทางการค้าเพื่อช่วยพัฒนาและปรับปรุงผลิตภัณฑ์และบริการที่ลูกค้าของเราใช้” แม้ถ้อยแถลงของบริษัทจะไม่ได้ยืนยันอย่างชัดเจนว่าใช้เพื่อฝึก AI โดยตรง
เมื่อมองรวมกัน ทั้งสองประเด็นชี้ไปที่ความตึงเครียดพื้นฐานเดียวกัน ด้านหนึ่ง ข้อความที่สร้างโดย AI กำลังหลั่งไหลเข้าสู่หมวดหมู่ต่าง ๆ เช่น การพิมพ์หนังสือศาสนา ด้วยเนื้อหาที่ไม่ผ่านการตรวจสอบข้อเท็จจริง และในบางกรณีก็มีข้อความเท็จ อีกด้านหนึ่ง วัตถุดิบที่ใช้สร้างระบบ AI เหล่านี้ก็มาจากหนังสือฉบับพิมพ์ที่ถูกทำลายโดยมีความรับผิดชอบต่อสาธารณะจำกัด ทั้งระบบการเปิดเผยด้วยตนเองของ Amazon สำหรับผู้ขาย และกระบวนการจัดหาหนังสือเพื่อใช้เป็นข้อมูลฝึกโมเดลในปัจจุบัน แทบไม่ให้ภาพที่ชัดเจนเกี่ยวกับขนาดของปัญหา — ทิ้งให้ผู้อ่าน ผู้เขียน และผู้ขายหนังสือต้องพึ่งพาการสืบสวนจากภายนอกเป็นหลักเพื่อทำความเข้าใจว่าเบื้องหลังหน้าร้านออนไลน์กำลังเกิดอะไรขึ้นจริง
คำถามที่พบบ่อย
การตรวจจับหนังสือศาสนาที่เขียนด้วย AI บน Amazon น่าเชื่อถือแค่ไหน?
Originality.ai ใช้ระบบให้คะแนนที่บ่งชี้ “ความเป็นไปได้” มากกว่าความแน่นอน นักวิจัยเตือนว่าผลลัพธ์ชี้ไปที่ความน่าจะเป็นที่หนังสือเขียนด้วย AI ไม่ใช่หลักฐานยืนยันอย่างเด็ดขาด
หมวดหนังสือศาสนาใดมีสัดส่วนหนังสือที่น่าจะเขียนด้วย AI สูงที่สุด?
หมวดเวทมนตร์คาถามีอัตราสูงสุด โดย 78% ของชื่อเรื่องที่สุ่มตัวอย่างถูกตั้งธงว่ามีแนวโน้มว่าเขียนด้วย AI
มีข้อกังวลด้านจริยธรรมอะไรบ้างเกี่ยวกับการที่ Amazon ใช้หนังสือฉบับพิมพ์เพื่อฝึก AI?
Amazon ซื้อและสแกนหนังสือฉบับพิมพ์ บางครั้งเป็นหนังสือหายาก เพื่อใช้ฝึก AI แล้วจึงทิ้งหนังสือเหล่านั้น ทำให้เกิดข้อกังวลด้านจริยธรรมเกี่ยวกับการทำลายแหล่งข้อมูลต้นฉบับและการขาดความยินยอมอย่างชัดแจ้งจากผู้เขียน
Amazon กำหนดให้ผู้เขียนต้องเปิดเผยหรือไม่ว่าหนังสือของตนเขียนด้วย AI?
Amazon ใช้ระบบให้เกียรติที่ให้ผู้เขียนระบุด้วยตนเองว่าเนื้อหาเขียนด้วย AI หรือไม่ แต่ไม่มีข้อมูลสาธารณะว่ามีผู้เปิดเผยจริงกี่ราย
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”การตรวจจับหนังสือศาสนาที่เขียนด้วย AI บน Amazon น่าเชื่อถือแค่ไหน?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Originality.ai ใช้ระบบให้คะแนนที่บ่งชี้ความเป็นไปได้มากกว่าความแน่นอน นักวิจัยเตือนว่าผลลัพธ์ชี้ไปที่ความน่าจะเป็นที่หนังสือเขียนด้วย AI ไม่ใช่หลักฐานยืนยันอย่างเด็ดขาด”}},{“@type”:”Question”,”name”:”หมวดหนังสือศาสนาใดมีสัดส่วนหนังสือที่น่าจะเขียนด้วย AI สูงที่สุด?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”หมวดเวทมนตร์คาถามีอัตราสูงสุด โดย 78% ของชื่อเรื่องที่สุ่มตัวอย่างถูกตั้งธงว่ามีแนวโน้มว่าเขียนด้วย AI”}},{“@type”:”Question”,”name”:”มีข้อกังวลด้านจริยธรรมอะไรบ้างเกี่ยวกับการที่ Amazon ใช้หนังสือฉบับพิมพ์เพื่อฝึก AI?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon ซื้อและสแกนหนังสือฉบับพิมพ์ บางครั้งเป็นหนังสือหายาก เพื่อใช้ฝึก AI แล้วจึงทิ้งหนังสือเหล่านั้น ทำให้เกิดข้อกังวลด้านจริยธรรมเกี่ยวกับการทำลายแหล่งข้อมูลต้นฉบับและการขาดความยินยอมอย่างชัดแจ้งจากผู้เขียน”}} ,{“@type”:”Question”,”name”:”Amazon กำหนดให้ผู้เขียนต้องเปิดเผยหรือไม่ว่าหนังสือของตนเขียนด้วย AI?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon ใช้ระบบให้เกียรติที่ให้ผู้เขียนระบุด้วยตนเองว่าเนื้อหาเขียนด้วย AI หรือไม่ แต่ไม่มีข้อมูลสาธารณะว่ามีผู้เปิดเผยจริงกี่ราย”}}]}
บทความนี้จัดทำขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์และผ่านการตรวจทานโดยทีมบรรณาธิการแล้ว
