เมื่อเดือนกันยายนปีที่แล้ว มีรายงานข่าวของเซาท์ไชน่า มอร์นิงโพสต์ ระบุว่าหัวหน้าหน่วยงานความมั่นคงภายในจีน ได้เสนอให้เจ้าหน้าที่ตำรวจ นำเอไอหรือเทคโนโลยีปัญญาประดิษฐ์ มาใช้เพื่อประเมินสถานการณ์ เตรียมการป้องกันก่อการร้ายล่วงหน้า และตัดตอนอาชญากรรม ตั้งแต่ขั้นเตรียมการ ซึ่งสอดคล้องกับแนวคิดของการทำนายและการป้องกันอาชญากรรมในภาพยนตร์ไซไฟทริลเลอร์ เรื่อง “หน่วยสกัดอาชญากรรมล่าอนาคต” (Minority Report) เมื่อปี 2545 (ค.ศ.2002)
สำหรับเอไอเป็นเครื่องมือที่มีศักยภาพและมีคุณค่ามากในหลายด้าน เช่น ช่วยลดภาระการทำงานของคน ทำให้คนมีเวลาไปกับการทำงานด้านการคิดวิเคราะห์มากขึ้น ช่วยเรียนรู้ ทำนายและประมวลผลข้อมูล เป็นต้น ปัจจุบัน มีผู้นำเอไอไปใช้ในการทำนายความรุนแรงและอาชญากรรมโดยใช้ระบบ advanced machine learning ซึ่งมีบริษัทใหม่ๆ เข้ามาให้บริการในรูปแบบของการใช้อัลกอรึทึมหรือขั้นตอนวิธีในการทำนายแนวโน้มอาชญากรรมด้วย
แล้วเครื่องจักรจะสามารถระบุอาชญากรรมในอนาคตได้จริงหรือ ปัจจุบัน ในประเทศสหรัฐอเมริกา มีการใช้บริการของบริษัทที่ให้บริการดังกล่าวและศาลในประเทศสหรัฐอเมริกาได้ใช้บริการด้ารอัลกอริทึมเพื่อประกอบการตัดสินใจในการประกันตัว การพิพากษา และการตัดสินว่าผู้ต้องสงสัยกระทำความผิดหรือเป็นผู้บริสุทธิ์ ซึ่งนับว่าเป็นประโยชน์ในภาพรวมของระบบตุลาการ
อย่างไรก็ตาม มีรายงานขององค์กร ProPublica พบว่าอัลกอริทึมนั้นมีข้อมูลทางกฎหมายที่มีแนวโน้มจะมีอคติด้านเชื้อชาติอยู่ โดยการประเมินของอัลกอรึทึมมีแนวโน้มจะปักธงว่าจำเลยผิวดำจะเป็นอาชญากรในอนาคตถึงเกือบสองท่องของจำเลยผิวสีขาว ยิ่งไปกว่านั้น การตัดสินซึ่งขึ้นอยู่กับการประเมินความเสี่ยงตามรูปแบบที่เกิดขึ้นไม่ได้มีความเข้าใจอย่างลึกซึ้งถึงวิธีที่มีการให้คะแนนเพื่อการคำนวณ แต่เนื่องจากมนุษย์รู้ถึงปัญหานี้แล้วว่าหากรูปแบบข้อมูลมีอคติแล้ว ก็จะมีความเสี่ยงที่จะเกิดความไม่ยุติธรรมขึ้นและเป็นการขยายความไม่ยุติธรรมออกไปในวงกว้าง แต่โมเดลการเรียนรู้ของเครื่องจักรก็มีความเชื่อถือได้เช่นเดียวกับข้อมูลที่มนุษย์ได้ฝึกฝนเรียนรู้มาเช่นกัน ดังนั้น จึงต้องมีการป้อนข้อมูลและเทรนโมเดลการเรียนรู้ของเครื่องจักรเพื่อลดปัญหาข้อมูลที่มีแนวโน้มจะเกิดอคติ
ข้อมูลที่มีอคติจะส่งผลไปยังอัลกอรึทึมมีอคติด้วย
ความผิดปกติแม้เพียงเล็กน้อยและอคติ สามารถทำให้เกิดความแตกต่างที่วัดได้ในการประเมินขั้นสุดท้าย ประเด็นที่เป็นปัญหาวิกฤตมากคืออคติด้านเชื้อชาติและการเลือกปฏิบัติด้านโครงสร้างที่โลกของเรามีอยู่ทั่วไป
ตัวอย่างเช่น ที่ผ่านมา มีหลักฐานว่า การใช้ยาเสพติดของชาวอเมริกันผิวดำมีอัตราการถูกจับกุมในข้อหาเกี่ยวพันกับยาเสพติดมากกว่าชาวอเมริกันผิวขาวถึงสี่เท่า แม้ว่าวิศวกรจะได้ทำการเก็บข้อมูลตามความเป็นจริงอย่างตรงไปตรงมาและเทรนโมเดลการเรียนรู้ของเครื่องจักรแล้ว แต่เอไอก็ยังคงเก็บประเด็นของการมีอคติไว้เป็นส่วนหนึ่งของโมเดลอยู่ดี
เมื่อกล่าวถึงความไม่เท่าเทียมกัน จะพบว่ามีรูปแบบบางอย่างอยู่ทุกหนทุกแห่งในโลกนี้ ตัวอย่างเช่นรูปแบบของความไม่เท่าเทียมกันทางเพศได้ปรากฏอยู่ในภาพยนตร์ที่ทำรายได้สูงสุดของปี 2557/2558 (ค.ศ.2014/2015) ซึ่งโมเดลการเรียนรู้ของเครื่องจักรสามารถระบุจำนวนความไม่เท่าเทียมกันนี้ได้ แต่มีคำถามว่าแล้วิศวกรจะสามารถลดปัญหานี้ลงได้อย่างไร
จากบล็อกของกูเกิ้ลที่มีชื่อว่า Quick, Draw แสดงให้เห็นว่าเรื่องของอคติมีความสำคัญมาก จากการทดลองให้ผู้ใช้อินเทอร์เน็ตทั่วโลกมีส่วนร่วมในการวาดภาพที่สนุกสนาน ในทุกๆ รอบของเกม มีการท้าทายให้ผู้ใช้งานวาดวัตถุภายใน 20 วินาที ระบบเอไอจะพยายามเดาว่าสิ่งที่วาดแสดงถึงอะไร มีคนกว่า 20 ล้านคนทั่วโลกจาก 100 ประเทศร่วมเล่นเกมนี้ ผลคือสิ่งที่วาดออกมามีถึงสองพันล้านรายการที่ไม่เหมือนกัน เช่น แมว เก้าอี้ โปสการ์ด ผีเสื้อ เป็นต้น
แต่พอนักวิจัยสำรวจลายเส้นลงไปในรายละเอียด กลับพบว่าชุดของข้อมูลบางอย่างมีความซับซ้อนมากกว่าที่เราคิด เช่น ลายเส้นของรองเท้าในชุดข้อมูล พบว่าเป็นเรื่องเกี่ยวกับอคติด้านวัฒนธรรมล้วนๆ อย่างภาพวาดรองเท้าที่ดูเหมือนรองเท้าผ้าใบคอนเวิร์ส นำไปสู่การเลือกคุณลักษณะทางสายตาที่มีรูปแบบเป็นรองเท้าผ้าใบว่าเป็นตัวอย่างของสิ่งที่ควรเหมือนกับรองเท้า ดังนั้น รองเท้าที่ไม่เหมือนกับรองเท้าผ้าใบจะไม่ถูกจัดให้เป็นรองเท้า เช่น รองเท้าส้นสูง รองเท้าบัลเลต์ รองเท้าไม้ เป็นต้น
มีการศึกษาเมื่อไม่นานมานี้ของมหาวิทยาลัยบอสตันและศูนย์วิจัยไม่โครซอฟต์ ค้นพบว่าถ้าไม่มีการตรวจสอบรูปแบบการเรียนรู้ของเครื่องจักร มันก็จะเรียนรู้รูปแบบเพศในแบบเก่าๆ เช่น คำว่า “แพทย์” หมายถึงผู้ชาย และ “พนักงานต้อนรับ” หมายถึงผู้หญิง หรือการทำนายผู้ชิงตำแหน่งประธานาธิบดีของสหรัฐอเมริกาว่าผู้ชายและคนผิวขาวมีแนวโน้มจะเป็นผู้ชนะ
เมื่อเดือนตุลาคม 2561 การประชุมเชิงปฏิบัติการเรื่อง Data Protection and Privacy Commissioners ได้มีคำประกาศด้านความเป็นชาติพันธุ์และการปกป้องในเอไอที่ระบุว่าจำเป็นจะมีการลดอคติที่ไม่ถูกต้องตามกฎหมายหรือการเลือกปฏิบัติที่อาจเป็นผลมาจากการใช้ข้อมูลในเอไอ ซึ่งเป็นก้าวแรกของหลักการสากลเรื่องเอไอ
ดังนั้น การยืนยันว่าเอไอจำเป็นต้องมีการประเมินด้วยกลุ่มของเกณฑ์ทางกฎหมายและจริยธรรมจะต้องไม่เพียงแต่อยู่บนพื้นฐานของการจัดกลุ่มที่แม่นยำเท่านั้น แต่ยังมีหลักการอื่นที่ควรนำมาใช้ร่วมด้วย ได้แก่ การเป็นตัวแทนที่แท้จริงของกลุ่มข้อมูล (Representation) การปกป้อง (Protection) การดูแล (Stewardship) และความจริงแท้ (Authenticity) รายละเอียดจะเป็นอย่างไรบ้าง โปรดติดตามในครั้งต่อไปซึ่งเป็นตอนจบค่ะ
ที่มา: 1. https://www.weforum.org/agenda/2018/11/algorithms-court-criminals-jail-time-fair/
2. http://time.com/4966125/police-departments-algorithms-chicago/
3. https://rework.withgoogle.com/guides/unbiasing-raise-awareness/steps/watch-unconscious-bias-at-work/
Related posts
Tags: Future Management, Future watch, Technology
Recent Comments