Ottawa หันมาพึ่งพา AI เพื่อช่วยคาดการณ์ปัญหาคนไร้บ้านเรื้อรัง

Key takeaways

• เมือง Ottawa กำลังนำ AI มาใช้เพื่อระบุบุคคลที่มีความเสี่ยงต่อการเป็นคนไร้บ้านเรื้อรัง โดยใช้ข้อมูลส่วนบุคคลและปัจจัยภายนอกต่างๆ เพื่อทำนายจำนวนคืนที่จะพักใน shelter ในอนาคต
• มีข้อกังวลเรื่องความเป็นส่วนตัวและ bias เนื่องจากคนไร้บ้านถูกเฝ้าระวังและเก็บข้อมูลส่วนตัวอย่างมาก ซึ่งอาจรวมถึงข้อมูลอ่อนไหว และอคติทางเชื้อชาติในข้อมูลก็เป็นความท้าทายสำคัญ
• ระบบ AI ควรทำหน้าที่แจ้งเตือนความเสี่ยงในระดับชุมชนโดยรวม โดยไม่ต้องรู้ตัวตนที่แท้จริงของแต่ละบุคคล และต้องระวังไม่ให้ AI ส่งเสริมการเหยียดเชื้อชาติที่มีอยู่ในระบบต่างๆ
• ระบบการคาดการณ์เสี่ยงต่อการบดบังสาเหตุที่แท้จริงของการไร้บ้าน ทำให้ผู้กำหนดนโยบายไม่ต้องมองหาสาเหตุเชิงโครงสร้างที่มีอยู่ตั้งแต่แรก

เมือง Ottawa เมืองหลวงของประเทศแคนาดา กำลังนำ AI (Artificial Intelligence) มาใช้เพื่อระบุบุคคลที่มีความเสี่ยงต่อการเป็นคนไร้บ้านเรื้อรัง ผ่านความร่วมมือกับนักวิจัยจาก Carleton University

ระบบ AI จะใช้ข้อมูลส่วนบุคคล เช่น อายุ เพศ สถานะชนพื้นเมือง สัญชาติ และประวัติครอบครัว รวมถึงปัจจัยอื่นๆ เช่น จำนวนครั้งที่ถูกปฏิเสธบริการที่ shelter และสาเหตุที่ได้รับบริการ นอกจากนี้ยังใช้ข้อมูลภายนอก เช่น สภาพอากาศ และตัวชี้วัดเศรษฐกิจอย่าง CPI (consumer price index) และอัตราการว่างงาน เพื่อทำนายจำนวนคืนที่บุคคลนั้นจะพักใน shelter ในอีก 6 เดือนข้างหน้า

Majid Komeili นักวิจัยผู้พัฒนาโครงการนี้ระบุว่า AI จะเป็นเครื่องมือช่วยให้ผู้ให้บริการมั่นใจว่าจะไม่มีใครตกหล่นไปเพราะความผิดพลาดของมนุษย์ โดยผู้ตัดสินใจสุดท้ายยังคงเป็นมนุษย์

อย่างไรก็ตาม มีข้อกังวลเรื่องความเป็นส่วนตัวและ bias เนื่องจากคนไร้บ้านถูกเฝ้าระวังและเก็บข้อมูลส่วนตัวอย่างมาก ซึ่งอาจรวมถึงรายละเอียดเกี่ยวกับการนัดหมายทางการแพทย์ ยาเสพติด การกลับไปเสพซ้ำ และสถานะ HIV

Tim Richter ประธาน Canadian Alliance to End Homelessness กล่าวว่า เครื่องมือ AI สามารถคาดการณ์ได้ระดับหนึ่งว่าใครมีแนวโน้มจะประสบปัญหาไร้บ้านหรือไร้บ้านเรื้อรัง และอาจเป็นประโยชน์ในการกำหนดเป้าหมายการช่วยเหลือ แต่ต้องมีข้อมูลที่ดีพอ

ระบบ AI ควรทำหน้าที่และแจ้งเตือนบุคคลที่มีความเสี่ยงโดยดูจากข้อมูลระดับชุมชนโดยรวม โดยไม่ต้องรู้ตัวตนที่แท้จริงของแต่ละบุคคล ซึ่งเป็นแนวทางที่โครงการในออตตาวาใช้ โดยแทนที่ข้อมูลระบุตัวตน เช่น ชื่อและข้อมูลติดต่อ ด้วยรหัส และเก็บรายการหลักที่เชื่อมโยงรหัสกับตัวตนผู้ใช้ไว้ในเซิร์ฟเวอร์ที่ปลอดภัยแยกต่างหาก

Alina Turner ผู้ร่วมก่อตั้ง HelpSeeker บริษัทที่ใช้ AI ในผลิตภัณฑ์ที่เกี่ยวกับประเด็นทางสังคม กล่าวว่า "พลังพิเศษ" ของ AI มีประโยชน์ในการวิเคราะห์ปัจจัยและแนวโน้มที่นำไปสู่ความไร้บ้านอย่างครอบคลุม

บริษัทของเธอตัดสินใจอย่างมีสติที่จะหลีกเลี่ยงการคาดการณ์ความเสี่ยงในระดับบุคคล เธอกล่าวว่า "คุณสามารถประสบปัญหาเรื่องอคติได้มากในเรื่องนี้" โดยระบุว่าข้อมูลมีความแตกต่างกันในแต่ละชุมชน และ "อคติทางเชื้อชาติของข้อมูลนั้นก็เป็นความท้าทายที่สำคัญเช่นกัน"

ปัญหาที่ยอมรับกันมานานของ AI คือ การวิเคราะห์นั้นดีเท่ากับข้อมูลที่ป้อนเข้าไป นั่นหมายความว่าเมื่อข้อมูลมาจากสังคมที่มีการเหยียดเชื้อชาติเป็นระบบในระบบต่างๆ การคาดการณ์ของ AI ก็สามารถส่งเสริมสิ่งนั้นได้

ยกตัวอย่างเช่น เนื่องจากปัจจัยเชิงระบบ ชนพื้นเมืองมีความเสี่ยงที่จะไร้บ้านสูงกว่า หากระบบ AI ให้คะแนนสูงขึ้นโดยอัตโนมัติเมื่อใครบางคนเข้ามาในที่พักพิงและระบุว่าเป็นชนพื้นเมือง Turner โต้แย้งว่า "มีประเด็นทางจริยธรรมมากมายในการใช้วิธีการนี้"

Komeili นักวิจัยจาก Ottawa กล่าวว่าอคติเป็น "ปัญหาที่รู้จักกันดีในผลิตภัณฑ์ที่ขับเคลื่อนด้วย AI ที่คล้ายกัน" เขาระบุว่ามนุษย์ก็มีอคติเช่นกัน และบุคคลที่แตกต่างกันอาจให้คำแนะนำที่แตกต่างกัน

"ข้อดีอย่างหนึ่งของแนวทางที่ใช้ AI คือ เมื่อใช้เป็นเครื่องมือช่วยเหลือในชุดเครื่องมือของผู้เชี่ยวชาญ มันสามารถช่วยให้พวกเขาลงความเห็นในแนวทางมาตรฐานได้ เครื่องมือช่วยเหลือดังกล่าวช่วยให้ผู้เชี่ยวชาญหลีกเลี่ยงการพลาดรายละเอียดสำคัญและอาจลดโอกาสในการเกิดข้อผิดพลาดของมนุษย์"

Luke Stark ผู้ช่วยศาสตราจารย์ที่ Western University กำลังทำโครงการศึกษาการใช้ข้อมูลและ AI สำหรับนโยบายคนไร้บ้านในแคนาดา รวมถึงโครงการ AI ที่มีอยู่ใน London, Ontario

เขากล่าวว่าอีกปัญหาหนึ่งที่ผู้ตัดสินใจต้องคำนึงถึงคือการคาดการณ์สามารถทำให้กลุ่มประชากรไร้บ้านบางส่วนถูกมองข้ามได้อย่างไร ผู้หญิงมีแนวโน้มที่จะหลีกเลี่ยงที่พักพิงเพื่อความปลอดภัย และมีแนวโน้มที่จะหันไปใช้ตัวเลือกอื่น เช่น การนอนบนโซฟา เขาระบุ

ระบบ AI ที่ใช้ข้อมูลจากระบบที่พักพิงจะมุ่งเน้นไปที่ "ประเภทของบุคคลที่ใช้ระบบที่พักพิงอยู่แล้ว ... และนั่นทำให้คนจำนวนมากถูกทิ้งไว้ข้างหลัง"

Stark อธิบายระบบการคาดการณ์ว่าเป็นเทคโนโลยีล่าสุดที่เสี่ยงต่อการบดบังสาเหตุที่แท้จริงของการไร้บ้าน

"ข้อกังวลหนึ่งที่เรามีคือความสนใจทั้งหมดในโซลูชันการคัดแยกเหล่านี้จะทำให้ผู้กำหนดนโยบายไม่ต้องมองหาสาเหตุโครงสร้างของการไร้บ้านที่มีอยู่ตั้งแต่แรก" เขากล่าว

Why it matters

ข้อมูลอ้างอิงจาก Ottawa becomes the latest city to turn to AI to help it predict chronic homelessness