Facebook ขอโทษที่ AI ระบุว่าชายผิวดำเป็น ‘บิชอพ’

Facebook ขอโทษที่ AI ระบุว่าชายผิวดำเป็น ‘บิชอพ’

ผู้ใช้ Facebook ที่ดูวิดีโอหนังสือพิมพ์ที่มีชายผิวดำถูกถามว่าพวกเขาต้องการที่จะ “ดูวิดีโอเกี่ยวกับสัตว์เลี้ยงลูกด้วยนมต่อไป” หรือไม่โดยระบบแนะนำปัญญาประดิษฐ์

Facebook บอกกับ BBC News ว่า “เห็นได้ชัดว่าเป็นข้อผิดพลาดที่ยอมรับไม่ได้” ปิดใช้งานระบบและเริ่มการสอบสวน

“เราขออภัยต่อใครก็ตามที่อาจเห็นคำแนะนำที่ไม่เหมาะสมเหล่านี้”

เป็นข้อผิดพลาดล่าสุดที่มีมายาวนานซึ่งทำให้เกิดความกังวลเกี่ยวกับอคติทางเชื้อชาติใน AI

‘ขอโทษจริงๆ’
ในปี 2015 แอป Photos ของ Google ระบุว่ารูปภาพของคนผิวดำเป็น “กอริลล่า”

บริษัท กล่าวว่า “ตกใจและเสียใจอย่างแท้จริง” แม้ว่า Wired ที่รายงานในปี 2561 การแก้ไขได้รับการแก้ไขแล้ว เพียงเพื่อเซ็นเซอร์การค้นหาภาพถ่ายและแท็กสำหรับคำว่า “กอริลลา”

ในเดือนพฤษภาคม Twitter ยอมรับอคติทางเชื้อชาติในลักษณะที่ “อัลกอริธึมเด่น” ตัดภาพตัวอย่าง

การศึกษายังแสดงให้เห็นอคติในอัลกอริธึมที่ขับเคลื่อนระบบจดจำใบหน้าบางระบบ

ข้อผิดพลาดของอัลกอริทึม
ในปี 2020 Facebook ได้ประกาศ “สภาผลิตภัณฑ์ที่ครอบคลุม” ใหม่และทีมหุ้นใหม่ใน Instagram ซึ่งจะตรวจสอบว่าอัลกอริทึมของ Facebook มีอคติทางเชื้อชาติหรือไม่

Google และเทคโนโลยีขนาดใหญ่เป็น ‘การเหยียดผิวทางสถาบัน’
IBM ละทิ้งเทคโนโลยีการจดจำใบหน้า ‘ลำเอียง’
คำแนะนำ “ไพรเมต” “เป็นข้อผิดพลาดของอัลกอริทึมบน Facebook” และไม่ได้สะท้อนถึงเนื้อหาของวิดีโอ ตัวแทนบอกกับ BBC News

“เราปิดใช้งานคุณลักษณะการแนะนำหัวข้อทั้งหมดทันทีที่รู้ว่าสิ่งนี้กำลังเกิดขึ้น เพื่อให้เราสามารถตรวจสอบสาเหตุและป้องกันไม่ให้สิ่งนี้เกิดขึ้นอีก”

“ดังที่เราได้กล่าวไว้ในขณะที่เราทำการปรับปรุง AI ของเรา เรารู้ว่ามันไม่สมบูรณ์แบบและเรามีความคืบหน้ามากขึ้นที่ต้องทำ”