homekeyboard_arrow_rightผลวิเคราะห์อาชญากรรมที่บิดเบือนของ AI บนฐานข้อมูลสกปรก

ผลวิเคราะห์อาชญากรรมที่บิดเบือนของ AI บนฐานข้อมูลสกปรก

อาชญากรรมนี้ไม่ได้มีเพียงในโลกภาพยนตร์เท่านั้น


“There hasn't been a murder in six years. The system, it is perfect.”— John Anderton

“อเมริกาไม่มีการฆาตกรรมมาหกปีแล้ว ระบบนี้ช่างสมบูรณ์แบบ” — จอห์น แอนเดอร์ตัน


สังคมไร้อาชญากรรม คือ สังคมที่เราทุกคนใฝ่หา และเพื่อหยุดยั้งอาชญากรรม การสืบหาตัวอาชญากรก่อนคนเหล่านี้ลงมือก็เป็นอีกทางเลือกหนึ่ง เช่นเดียวกันกับในภาพยนตร์เรื่อง “Minority Report (2002)” ที่นำเสนอการนำระบบ การทำนายการเกิดอาชญากรรมในอนาคตอย่างพรีคอกส์ (Precogs) มาใช้ค้นหาอาชญากร พรีคอกส์จะให้ภาพนิมิตของเหตุการณ์ที่จะเกิดขึ้นพร้อมระบุชื่อเหยื่อและอาชญากรอย่างเจาะจง สิ่งที่ตำรวจต้องทำ คือ การไปให้ถึงที่เกิดเหตุและจับกุมผู้ลงมือให้ทันเวลา จึงเป็นที่มาของคำพูดของตัวเอกของเรื่องอย่างจอห์น แอนเดอร์ตันที่ชื่นชมระบบพรีคอกส์และยกให้เป็นเหตุผลสำคัญที่ทำให้ไม่มีการฆาตกรรมเลยแม้แต่ครั้งเดียวหลังนำระบบนี้มาใช้


ที่น่าทึ่งคือการทำนายแนวโน้มการเกิดอาชญากรรมนี้ไม่ได้มีเพียงในโลกภาพยนตร์เท่านั้น หาก “Minority Report” มีระบบพรีคอกส์ อเมริกาเองก็มี COMPSTAT (COMPare STATistics) เช่นกัน ซึ่งระบบ COMPSTAT นี้ คือ เทคโนโลยีบันทึกข้อมูลอาชญากรรม เป็นฐานข้อมูลอาชญากรรมขนาดใหญ่ มีเป้าหมายในการลดอัตราการเกิดอาชญากรรมโดยการนำข้อมูลมาวิเคราะห์หาแนวโน้มการก่อเหตุที่จะเกิดขึ้น และมีบทบาทในการทำงานของสำนักงานตำรวจนิวยอร์ก (NYPD) นับตั้งแต่ปี ค.ศ. 1994


ระบบ COMPSTAT 


COMPSTAT เป็นโปรแกรมรวบรวมข้อมูลอาชญากรรม เหยื่อ วันและเวลา และรายละเอียดอื่น ๆ ที่จะช่วยให้มองเห็นรูปแบบอาชญากรรม แสดงผลออกมาในรูปแบบของแผนที่บนคอมพิวเตอร์ที่ระบุสถานที่และเวลาของอาชญากรรมที่กำลังจะเกิดขึ้น โดยทุก ๆ สัปดาห์ เจ้าหน้าที่จะจัดประชุมและรวบรวมข้อมูลสถิติด้านอาชญากรรมทั้งหมดแล้วนำไปวิเคราะห์และแสดงผลออกมาเป็นรายงาน (COMPSTAT Report) ที่จะเปรียบเทียบข้อมูลสถิติปัจจุบันกับสถิติของปีก่อน ทำให้เจ้าหน้าที่มองเห็นแนวโน้มการเกิดอาชญากรรม กำหนดพื้นที่สุ่มเสี่ยง และหาแนวทางจัดการได้อย่างรวดเร็ว ปัจจุบัน COMPSTAT เป็นเทคโนโลยีที่หลายเมืองใหญ่ของอเมริกาและแคนาดานำไปใช้ในสำนักงานตำรวจ


แต่ทว่าระบบการทำนายการเกิดอาชญากรรมในอนาคตโดยปัญญาประดิษฐ์ก็ไม่ใช่ระบบที่สมบูรณ์แบบ ทั้งช่องโหว่ของระบบที่เปิดช่องให้เกิดการปลอมแปลงข้อมูลและป้อนข้อมูลที่เป็นเท็จ ไปจนถึงความไม่โปร่งใสของตัวผู้ใช้ระบบเอง ทำให้สังคมตั้งคำถามต่อประสิทธิภาพและความเที่ยงตรงของระบบ เช่นเดียวกันกับงานวิจัยหนึ่งที่เผยแพร่ในปี ค.ศ.2019 ที่วิเคราะห์การนำข้อมูลสกปรกมาใช้ในระบบการทำนายการเกิดอาชญากรรม


เมื่อปัญญาประดิษฐ์เรียนรู้ข้อมูลสกปรก

งานวิจัยดังกล่าวจัดทำขึ้นโดยราชิดา ริชาร์ดสันและเจสัน ช็อลทซ์ เจ้าหน้าที่ระดับสูงของสถาบัน AI Now และเคท ครอว์ฟอร์ด ผู้ร่วมก่อตั้งสถาบัน AI Now มหาวิทยาลัยนิวยอร์ก งานวิจัยนี้ชี้ให้เห็นถึงปัญหาของการใช้ปัญญาประดิษฐ์ในขั้นตอนการทำงานของตำรวจ ซึ่งเกิดขึ้นจากอคติของเจ้าหน้าที่และการทุจริตคอร์รัปชั่น นำไปสู่การปลอมแปลงข้อมูลและสร้างข้อมูลเท็จที่เรียกว่า ข้อมูลสกปรก (Dirty Data) เมื่อปัญญาประดิษฐ์เรียนรู้ข้อมูลสกปรกที่เจ้าหน้าที่ป้อนเข้าไปก็จะส่งผลให้กระบวนการยุติธรรมผิดเพี้ยนไปจากที่ควรจะเป็น โดยงานวิจัยได้นำเสนอการวิเคราะห์การใช้ข้อมูลสกปรกในการทำนายการเกิดอาชญากรรมของเมืองชิคาโก นิวออลีนส์ และเขตแมริโคปาเคาน์ตีของรัฐแอริโซนา

 

สำนักงานตำรวจชิคาโกพัฒนาเครื่องมือประเมินผลด้วยคอมพิวเตอร์ที่ชื่อว่า SSL (Strategic Subject List) ขึ้นเพื่อวิเคราะห์และจัดอันดับบุคคลที่มีความเสี่ยงจะกลายเป็นเหยื่อหรืออาชญากรจากข้อมูลบันทึกการจับกุม แต่ปัญหาหลักของชิคาโก คือ การคอร์รัปชั่น การใช้อำนาจในทางที่ผิด และการเลือกปฏิบัติของเจ้าหน้าที่ที่มีอย่างยาวนาน โดยเฉพาะอย่างยิ่งต่อคนผิวสี เครื่องมือดังกล่าวจึงไร้ประสิทธิภาพ นอกจากการเกิดอาชญากรรมจะไม่ลดลงแล้ว กลับพบว่าคนที่ไม่เคยมีประวัติอาชญากรรมจำนวนมากปรากฏอยู่ในรายชื่อผู้มีคะแนนความเสี่ยงสูง และเกินครึ่งของชายผิวสีที่อายุต่ำกว่า 30 ปีก็มีคะแนนความเสี่ยงสูงเช่นกัน


ทำนองเดียวกันกับที่นิวออลีนส์ ในปี ค.ศ. 2012 สำนักงานตำรวจนิวออลีนส์ทำสัญญากับบริษัทจัดการข้อมูลที่ชื่อว่า Palantir เพื่อทำนายการเกิดอาชญากรรม แม้ข้อมูลระบบ Palantir จะมีจำกัดและไม่มีรายงานชัดเจนว่าระบบดังกล่าวใช้ข้อมูลจากแหล่งข้อมูลใดมาวิเคราะห์ แต่งานวิจัยก็พบส่วนเชื่อมโยงว่า ระบบ Palantir ใช้ข้อมูลสกปรกของสำนักงานตำรวจนิวออลีนส์มาวิเคราะห์และทำนายการเกิดอาชญากรรม เนื่องจากผลวิเคราะห์ของระบบดังกล่าวคล้ายคลึงกับการเหยียดเชื้อชาติ เพศ และการประพฤติมิชอบอื่น ๆ ของสำนักงานตำรวจนิวออลีนส์ และกลุ่มคนที่ถูกจับกุมก็เป็นกลุ่มเชื้อชาติ เพศ และมีสถานะทางสังคมเหมือนกันกับสำนักงานตำรวจนิวออลีนส์ ความไม่โปร่งใสนี้นำไปสู่การตอบโต้จากสังคม และสุดท้ายก็มีการยกเลิกสัญญานี้ไปในปี ค.ศ. 2018


ความไม่โปร่งใสและไม่เปิดเผยข้อมูลต่อสาธารณะก็เกิดขึ้นที่แมริโคปาเคาน์ตีเช่นเดียวกัน สำนักงานตำรวจแมริโคปาเคาน์ตี รัฐแอริโซนา แชร์ข้อมูลสกปรกในแพลตฟอร์ม AZ Link ซึ่งสำนักงานตำรวจเมซาที่อยู่ในเขตของแมริโคปาเคาน์ตีก็ใช้แพลตฟอร์มนี้เช่นกัน โดยในปี ค.ศ. 2016 สำนักงานตำรวจเมซาได้ทำสัญญากับบริษัทซอฟต์แวร์การทำนายการเกิดอาชญากรรมที่ชื่อว่า PredPol แม้จะไม่มีหลักฐานชัดเจนว่ามีการนำข้อมูลสกปรกของสำนักงานตำรวจแมริโคปาเคาน์ตีไปใช้ในระบบหรือไม่ แต่ประเด็นสำคัญที่ไม่ควรมองข้าม คือ ความไม่โปร่งใสของข้อมูลตำรวจ และการสร้างความคลางแคลงใจเกี่ยวกับการใช้อำนาจของเจ้าหน้าที่ต่อประชาชน


จากงานวิจัยชิ้นนี้ จะเห็นได้เลยว่าข้อมูล คือ หัวใจสำคัญของระบบ การพึ่งพาข้อมูลที่ไม่ถูกต้องมากเกินไปของระบบการทำนายการเกิดอาชญากรรมเหล่านี้ทำให้เกิดความเสี่ยงและผลกระทบตามมา การที่เจ้าหน้าที่ป้อนข้อมูลสกปรกเข้าระบบ ทำให้ระบบทำงานผิดเพี้ยนและไร้ประสิทธิภาพ และส่งผลต่อกระบวนการยุติธรรมในท้ายที่สุด แนวทางการแก้ไขปัญหานี้ ไม่ใช่การตามลบข้อมูลสกปรกที่อยู่ในระบบเพราะเป็นการกระทำที่เหนื่อยเปล่า แต่ควรมุ่งไปที่การพัฒนากลไกการประเมินผลที่เชื่อถือได้ในการใช้ประเมินข้อมูลสกปรกที่แฝงอยู่ในข้อมูลตำรวจ และใช้มาตรการด้านความรับผิดชอบและความโปร่งใสต่อสังคมอย่างจริงจังแทนนั่นเอง