นักวิจัยด้านความปลอดภัยในแคนซัสซิตีใช้เวลาหนึ่งปีทำการทดสอบแบบเดิมซ้ำแล้วซ้ำเล่า โดยหวังจะสร้างบางสิ่งที่สามารถ ฉลาดกว่ากล้องวงจรปิดที่คอยจับตา ถนนหนทางในอเมริกาได้อย่างเงียบๆ ผลลัพธ์คือชุดลายพราง AI ที่เมื่อพิมพ์ลงบนเสื้อผ้าหรือหุ้มรอบรถแล้ว ดูเหมือนจะหยุดยั้งการเฝ้าระวัง ของซอฟต์แวร์ไม่ให้รู้ว่ากำลังมองอะไรอยู่ บิล สเวริงเจน เรียกโปรเจกต์นี้ว่า noRecognition และเพิ่งมีการทดสอบสาธารณะครั้งแรกที่งาน Def Con ในลาสเวกัส
Summary
ประเด็นสำคัญ
- โปรเจกต์ noRecognition ของบิล สเวริงเจน ใช้ลายพราง AI ที่ออกแบบมาเพื่อหยุดซอฟต์แวร์กล้องวงจรปิดไม่ให้ระบุตัวบุคคล ใบหน้า หรือยานพาหนะได้
- ลายพรางเหล่านี้เอาชนะอัลกอริทึมตรวจจับแบบโอเพ่นซอร์สทั้ง 11 ตัวที่สเวริงเจนทดสอบ รวมถึงซอฟต์แวร์ที่เชื่อมโยงกับเครื่องอ่านป้ายทะเบียนของ Flock กล้องติดตัวของ Axon และ Clearview AI
- ต้องใช้การทดสอบราว 31 ล้านครั้งในการฝึกโมเดลให้สามารถสร้างลายที่มีประสิทธิภาพได้อย่างสม่ำเสมอ
- การสาธิตสาธารณะครั้งแรกเกิดขึ้นเมื่อวันศุกร์ที่งาน Def Con โดยมีรถ Toyota Yaris ปี 2009 ที่ถูกหุ้มลายพรางวิ่งผ่านกล้องของ Flock โดยไม่ถูกตรวจจับ
- ลายพรางจะปกคลุมตัวถังรถแทนที่จะเป็นป้ายทะเบียน ซึ่งเป็นการเลือกโดยเจตนาเพื่อหลีกเลี่ยงกฎหมายเกี่ยวกับการบดบังป้ายทะเบียน
ลายพรางขับเคลื่อนด้วย AI เพื่อหลบเลี่ยงกล้องวงจรปิด
noRecognition ทำงานโดยอาศัยช่องว่างระหว่างการมองเห็นของมนุษย์กับการมองเห็นของเครื่องจักร — ฟิล์มหุ้มที่ดูเหมือนงานกราฟิกฉูดฉาดสำหรับคนทั่วไป อาจถูกอัลกอริทึมตรวจจับมองว่าไม่มีอะไรเลย ช่องว่างนี้คือแก่นหลักของโปรเจกต์ของสเวริงเจน และเป็นเหตุผลว่าทำไมลายพรางเหล่านี้จึงมีความสำคัญเกินกว่าการทดลองโชว์ริมถนนเพียงครั้งเดียว
โปรเจกต์ noRecognition และแนวทางเชิงเทคนิค
สเวริงเจน ผู้ร่วมก่อตั้งกลุ่มพบปะด้านความปลอดภัย SecKC สร้าง noRecognition โดยใช้ โมเดลการเรียนรู้แบบเสริมกำลัง (reinforcement learning) ที่โดยพื้นฐานแล้วให้คะแนนงานของตัวเอง ลายหนึ่งถูกตรวจจับ โมเดลก็จะปรับ แล้วลองใหม่ วนลูปเช่นนี้ ซึ่งสเวริงเจนเคยอธิบายว่าเป็นการสอนระบบว่า “จะวาดภาพอย่างไร” ตามรายงานของ TechCrunch เขาเริ่มจากห้องแล็บต้นแบบที่ค่อยๆ เอาชนะอัลกอริทึมตรวจจับแบบโอเพ่นซอร์สทีละตัว จากนั้นจึงเพิ่มพลังประมวลผลเพื่อขัดเกลาผลลัพธ์ตลอดระยะเวลาหนึ่งปี
กระบวนการนั้นในที่สุดก็ผ่านการทดสอบไปแล้ว 31 ล้านครั้ง ตามรายงานของ Decrypt ก่อนที่สเวริงเจนจะสามารถสร้างลายพรางที่ใช้การได้ตามต้องการ ผลลัพธ์คือ อัลกอริทึมตรวจจับแบบโอเพ่นซอร์สทั้ง 11 ตัว ที่เขาทดสอบถูกลายพรางเอาชนะทั้งหมด ครอบคลุมเทคโนโลยีที่ใช้ขับเคลื่อนเครื่องอ่านป้ายทะเบียนของ Flock กล้องติดตัวของ Axon และ Clearview AI เขาระบุว่าตอนนี้โมเดลสามารถสร้างลายใหม่ๆ ได้ประมาณทุกหนึ่งนาที และเขาตั้งใจเก็บลายที่มีประสิทธิภาพที่สุดไว้แบบออฟไลน์เพื่อไม่ให้ผู้ขายกล้องนำไปฝึกระบบของตนให้ต้านทานได้
การสาธิตสาธารณะที่งาน Def Con
แนวคิดนี้ขยับจากการทดลองในห้องแล็บสู่หลักฐานในโลกจริงเมื่อวันศุกร์ เมื่อสเวริงเจนร่วมงานกับช่อง YouTube Donut Media เพื่อหุ้มรถ Toyota Yaris ปี 2009 ด้วยลายพรางใหม่ล่าสุดของเขา และขับผ่านกล้องของ Flock ที่งาน Def Con TechCrunch รายงานว่านี่เป็นการทดสอบสาธารณะครั้งแรกของลายพรางที่ใช้กับยานพาหนะ และแสดงให้เห็นว่า ลายพราง AI สามารถใช้งานได้จริงนอกสภาพแวดล้อมการทดสอบที่ควบคุม ไม่ใช่แค่ในซิมูเลชัน
แรงจูงใจด้านความเป็นส่วนตัวและบริบท
สำหรับสเวริงเจน โปรเจกต์นี้ไม่ใช่แค่การทดลองทางเทคนิค — เขาวางกรอบให้เป็นการตอบสนองต่อสิ่งที่เขามองว่าเป็นการขยายตัวของการเฝ้าระวังที่ไร้การควบคุม “ความเป็นส่วนตัวคือสิทธิขั้นพื้นฐาน” เขากล่าวกับผู้สื่อข่าว โดยอธิบายว่าลายพรางเหล่านี้เป็นวิธีให้ผู้คน “เลือกที่จะไม่ถูกติดตาม”
สิทธิในความเป็นส่วนตัวและความกังวลเรื่องการเฝ้าระวัง
สเวริงเจนกล่าวว่าแนวคิดนี้เริ่มชัดเจนเมื่อปีที่แล้ว หลังจากเขาต้องการจะ เข้าร่วมการประท้วง แต่รู้สึกไม่สบายใจกับจำนวนกล้องที่สามารถบันทึกทุกคนที่มาร่วมได้ เขายอมรับอย่างตรงไปตรงมาว่าในฐานะชายผิวขาววัยกลางคนที่อาศัยอยู่ในตอนกลางของสหรัฐ เขาไม่เคยเผชิญกับการเพ่งเล็งหรือการเลือกปฏิบัติแบบที่คนอื่นอาจเจอ แต่เขาให้เหตุผลว่าหากเขายังรู้สึกไม่สบายใจ คนอื่นที่ใช้สิทธิในการแสดงออกอย่างเสรีก็น่าจะรู้สึกเช่นเดียวกัน — หรืออาจจะแย่กว่านั้น
นี่เป็นส่วนหนึ่งของเหตุผลว่าทำไมเรื่องนี้จึงมีความสำคัญเกินกว่าห้องแล็บที่บ้านของนักวิจัยคนหนึ่ง: มันเข้าไปอยู่ใจกลางการถกเถียงอย่างต่อเนื่องเกี่ยวกับการเฝ้าระวังอัตโนมัติในสหรัฐ Flock ถูกอธิบายว่าเป็นระบบเฝ้าระวังที่เป็นข้อถกเถียงซึ่งกำลังถูกติดตั้งทั่วประเทศ และกำลังถูกจับตามองเกินกว่ากลุ่มนักเคลื่อนไหวด้านความเป็นส่วนตัว เอกสารภายในที่ถูกอ้างถึงในรายงานระบุว่าบริษัทเคยเสนอแผนเปลี่ยนกล้องหน้ารถของ Uber และ Lyft จำนวน 350,000 ตัวให้กลายเป็นกองเรือสแกนป้ายทะเบียนเคลื่อนที่ ซึ่งเป็นแผนที่จุดชนวนให้เกิดกระแสต่อต้านในสภาคองเกรส
ความพยายามเชิงปฏิปักษ์ที่มีอยู่แล้วในการต่อต้านการตรวจจับ
noRecognition ไม่ใช่ความพยายามครั้งแรกในการหลบเลี่ยงการตรวจจับด้วยอัลกอริทึม แต่เล็งเป้าระบบที่เฉพาะเจาะจงกว่าความพยายามก่อนหน้า นักเคลื่อนไหวในซานฟรานซิสโกเคยนำกรวยจราจรไปวางบนฝากระโปรงหน้าของรถแท็กซี่ไร้คนขับ Waymo และ Cruise เพื่อทำให้รถหยุดนิ่ง — โดยไม่ต้องเขียนโค้ดใดๆ ระหว่างการกวาดล้างผู้อพยพในลอสแอนเจลิสเมื่อปีที่แล้ว ผู้ประท้วงบางส่วนก้าวไปไกลกว่านั้นด้วยการจุดไฟเผารถ Waymo หลายคัน หน้ากาก เสื้อฮู้ด และหมวกปีกกว้างยังคงเป็นอุปกรณ์พื้นฐานในแนวหน้าการประท้วง และแบรนด์เสื้อผ้าเชิงปฏิปักษ์ก็ขายลายผ้าที่ทำให้ใบหน้าดูสับสนมาหลายปีแล้ว แม้ว่าแว่นตาต้านการจดจำใบหน้าจะมีหลักฐานเพียงเล็กน้อยว่าสามารถใช้งานได้จริง
สิ่งที่ทำให้แนวทางของสเวริงเจนแตกต่างคือความแม่นยำ: แทนที่จะเป็นลูกเล่นต้านการจดจำแบบกว้างๆ noRecognition ถูกทดสอบกับชุดระบบตรวจจับเฉพาะที่ถูกใช้งานในวงกว้างอยู่แล้ว รวมถึงซอฟต์แวร์ที่ทำงานอยู่ภายในเครือข่ายกล้องของ Flock
ข้อพิจารณาทางกฎหมายและการใช้งานจริง
การหุ้มรถด้วยลายเชิงปฏิปักษ์ ก่อให้เกิดคำถามทางกฎหมาย ที่ไม่เกี่ยวกับอัลกอริทึมเลย แต่เกี่ยวกับท้องถนน กฎหมายว่าด้วยการบดบังป้ายทะเบียนแตกต่างกันไปในแต่ละรัฐ และสเวริงเจนสร้างโปรเจกต์นี้โดยคำนึงถึงความเป็นจริงข้อนี้แทนที่จะฝืนมัน
การปกคลุมตัวถังรถเพื่อหลีกเลี่ยงกฎหมายบดบังป้ายทะเบียน
ลาย noRecognition จะถูกนำไปใช้กับตัวถังรถ ไม่ใช่ป้ายทะเบียน ซึ่งเป็นการออกแบบโดยเจตนาเพื่อให้โปรเจกต์ไม่เข้าไปเกี่ยวข้องกับปัญหาทางกฎหมายที่ผูกกับการบดบังป้ายทะเบียน นี่เป็นความแตกต่างที่แคบแต่สำคัญ: เทคโนโลยีนี้มุ่งเป้าไปที่วิธีที่กล้องจัดประเภททรงและวัตถุ ไม่ใช่ความชัดเจนของตัวเลขบนป้ายทะเบียนเอง ซึ่งเป็นจุดที่กฎหมายเกี่ยวกับการบดบังส่วนใหญ่ให้ความสำคัญ
ความกังวลทางกฎหมายและความเป็นส่วนตัวที่ยังดำเนินต่อไปเกี่ยวกับการเฝ้าระวัง
ฉากหลังทางกฎหมายและการเมืองในภาพกว้างยังไม่ได้ชะลอตัวลง ผู้อ่านป้ายทะเบียนอัตโนมัติได้เคยทำให้คนขับที่บริสุทธิ์ถูกสั่งให้หยุดรถภายใต้การเล็งปืนในบางกรณีที่มีการบันทึกไว้ และผู้อพยพรวมถึงผู้ประท้วงก็ถูกกวาดเข้าไปอยู่ในตาข่ายการเฝ้าระวังด้วย AI ของรัฐบาลกลางที่เชื่อมโยงกับ ICE ฝ่ายนิติบัญญัติก็กำลังกดดัน Meta แยกต่างหากเกี่ยวกับฟีเจอร์จดจำใบหน้าที่ฝังอยู่ในแว่นตาอัจฉริยะของบริษัท ซึ่งเป็นสมรภูมิขนานที่แสดงให้เห็นว่าการตรวจจับด้วยอัลกอริทึมกำลังได้รับความสนใจด้านกฎระเบียบมากเพียงใด
เหตุใดเรื่องนี้จึงสำคัญ: เมื่อเครื่องมือการตรวจจับอัตโนมัติเพิ่มจำนวนขึ้นทั่วทั้ง งานตำรวจและความปลอดภัยภาคเอกชน เครื่องมือที่สร้างขึ้นมาเพื่อเอาชนะมันโดยเฉพาะ — แม้จะถูกวางกรอบว่าเป็นการปกป้องความเป็นส่วนตัวอย่างถูกกฎหมาย — ก็เข้าไปอยู่ใจกลางเขตสีเทาทางกฎหมายที่หน่วยงานกำกับดูแลยังไม่ได้กำหนดขอบเขตอย่างชัดเจน
สเวริงเจนไม่ได้หยุดแค่ที่ Def Con noRecognition กำลังเปิดแคมเปญระดมทุนสำหรับสินค้าในระยะเริ่มต้น โดยเริ่มจากเสื้อยืดและเสื้อฮู้ด และในที่สุดจะขยับไปสู่ฟิล์มหุ้มรถ โดยมีเป้าหมายที่ระบุไว้คือรักษาความละเอียดให้สูงพอที่จะใช้งานได้จากระยะไกล พร้อมกับทำให้ลายออกแบบเป็นสิ่งที่ผู้คนอยากสวมใส่จริงๆ “ความล้มเหลวทุกครั้งช่วยปรับปรุงโมเดลของผม และทำให้ลายพรางดีขึ้นเรื่อยๆ” สเวริงเจนกล่าว — ประโยคที่ทำหน้าที่เป็นคำเตือนต่อผู้ขายกล้องที่กำลังจับตาดูการแข่งขันด้านอาวุธนี้แบบเรียลไทม์
คำถามที่พบบ่อย
noRecognition คืออะไร?
noRecognition คือระบบที่ใช้ AI ซึ่งพัฒนาโดยบิล สเวริงเจน เพื่อสร้างลายพรางที่ออกแบบมาเพื่อป้องกันไม่ให้ซอฟต์แวร์กล้องวงจรปิดตรวจจับบุคคล ใบหน้า หรือยานพาหนะได้
ลาย noRecognition มีประสิทธิภาพเพียงใดต่อกล้องวงจรปิด?
ลายพรางเหล่านี้เอาชนะอัลกอริทึมตรวจจับแบบโอเพ่นซอร์สได้ 11 ตัว รวมถึงซอฟต์แวร์ที่ใช้โดย Flock กล้องติดตัวของ Axon และ Clearview AI หลังจากผ่านการทดสอบราว 31 ล้านครั้งระหว่างการพัฒนา
การขับรถที่หุ้มด้วยลายพราง AI เหล่านี้ถูกกฎหมายหรือไม่?
ลายพรางจะปกคลุมตัวถังรถแทนที่จะเป็นป้ายทะเบียนโดยเฉพาะ เพื่อหลีกเลี่ยงปัญหาเรื่องการบดบังป้าย แม้ว่าความชอบด้วยกฎหมายในภาพรวมของการขับรถที่ถูกหุ้มลายพรางจะขึ้นอยู่กับแต่ละรัฐ
อะไรเป็นแรงบันดาลใจให้สร้าง noRecognition?
บิล สเวริงเจนกล่าวว่าเขาสร้าง noRecognition เพื่อให้ผู้คนสามารถ “เลือกที่จะไม่ถูกติดตาม” โดยระบบเฝ้าระวัง ซึ่งเป็นความกังวลที่เขารู้สึกเป็นครั้งแรกขณะพิจารณาจะเข้าร่วมการประท้วงภายใต้การเฝ้าระวังด้วยกล้องอย่างหนาแน่น
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”noRecognition คืออะไร?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”noRecognition คือระบบที่ใช้ AI ซึ่งพัฒนาโดยบิล สเวริงเจน เพื่อสร้างลายพรางที่ออกแบบมาเพื่อป้องกันไม่ให้ซอฟต์แวร์กล้องวงจรปิดตรวจจับบุคคล ใบหน้า หรือยานพาหนะได้”}},{“@type”:”Question”,”name”:”ลาย noRecognition มีประสิทธิภาพเพียงใดต่อกล้องวงจรปิด?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ลายพรางเหล่านี้เอาชนะอัลกอริทึมตรวจจับแบบโอเพ่นซอร์สได้ 11 ตัว รวมถึงซอฟต์แวร์ที่ใช้โดย Flock กล้องติดตัวของ Axon และ Clearview AI หลังจากผ่านการทดสอบราว 31 ล้านครั้งระหว่างการพัฒนา”}},{“@type”:”Question”,”name”:”การขับรถที่หุ้มด้วยลายพราง AI เหล่านี้ถูกกฎหมายหรือไม่?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ลายพรางจะปกคลุมตัวถังรถแทนที่จะเป็นป้ายทะเบียนโดยเฉพาะ เพื่อหลีกเลี่ยงปัญหาเรื่องการบดบังป้าย แม้ว่าความชอบด้วยกฎหมายในภาพรวมของการขับรถที่ถูกหุ้มลายพรางจะขึ้นอยู่กับแต่ละรัฐ”}},{“@type”:”Question”,”name”:”อะไรเป็นแรงบันดาลใจให้สร้าง noRecognition?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”บิล สเวริงเจนกล่าวว่าเขาสร้าง noRecognition เพื่อให้ผู้คนสามารถ “เลือกที่จะไม่ถูกติดตาม” โดยระบบเฝ้าระวัง ซึ่งเป็นความกังวลที่เขารู้สึกเป็นครั้งแรกขณะพิจารณาจะเข้าร่วมการประท้วงภายใต้การเฝ้าระวังด้วยกล้องอย่างหนาแน่น”}}]}
บทความนี้จัดทำขึ้นโดยได้รับความช่วยเหลือจากปัญญาประดิษฐ์และผ่านการตรวจทานโดยทีมบรรณาธิการแล้ว
