สิทธิของเจ้าของข้อมูล

248 + 138 = 386 คนที่ถูกปรับ = 15.7% · 2,458 − 386 = 2,072 คนที่ไม่ถูกปรับ = 84.3% ✓ · 10.1 + 5.6 = 15.7% และ 84.3 + 15.7 = 100.0% ✓

เจ้าของข้อมูลมีสิทธิคัดค้านการตัดสินใจที่อาศัยการประมวลผลอัตโนมัติเพียงอย่างเดียวซึ่งมีผลกระทบต่อเขาอย่างมีนัยสำคัญ ตาม พ.ร.บ. คุ้มครองข้อมูลส่วนบุคคล 2562 — คำถามคือการที่หัวหน้ากดยืนยันคะแนนที่ AI ร่างไว้โดยไม่ปรับ 84.3% นับเป็นการประมวลผลอัตโนมัติเพียงอย่างเดียวหรือไม่ · คำตอบไม่ได้อยู่ที่ว่าระบบเขียนป้ายว่า LEVEL B แต่อยู่ที่ว่าคนมีส่วนร่วมอย่างมีความหมายจริงหรือไม่ · การกดยืนยันโดยไม่แก้ไขไม่ได้แปลว่าไม่ได้พิจารณาเสมอไป อาจแปลว่าเห็นด้วยจริง ๆ ซึ่งเป็นเหตุผลที่ตัวเลข 84.3% เดี่ยว ๆ ตอบคำถามนี้ไม่ได้ · สิ่งที่ตอบได้คือเวลาที่หัวหน้าใช้พิจารณาแต่ละคน ซึ่งปัจจุบันเฉลี่ย 4.2 นาทีต่อคน และเป็นข้อมูลที่ระบบมีอยู่แล้วแต่ไม่เคยถูกดู · ระบบจึงเริ่มแสดงสองตัวเลขนี้คู่กัน คืออัตราการปรับและเวลาที่ใช้พิจารณา เพื่อให้ที่ปรึกษากฎหมายมีข้อมูลพอที่จะตอบ · ระหว่างที่ยังไม่มีคำตอบ ระบบเริ่มแจ้งพนักงานทุกคนว่าการประเมินมี AI ร่วมร่างคะแนน และเปิดให้แสดงความเห็นโต้แย้งได้ ซึ่งเป็นสิ่งที่ควรทำอยู่แล้วไม่ว่าคำตอบทางกฎหมายจะเป็นอย่างไร

พนักงานทั้ง 2,458 คนอยู่ในการประมวลผลอย่างน้อยสองประเภท คือการประเมินผลงานและคะแนนความเสี่ยงการลาออก · ผู้สมัครงาน 4,862 คนถูกคัดกรองโดย AI ก่อนที่คนจะได้ดู ซึ่งเป็นกลุ่มที่ยังไม่เป็นพนักงานและไม่มีช่องทางร้องเรียนเลย

สองประเภทแรกกระทบพนักงานทุกคนและเป็นสองประเภทที่มีผลต่อค่าตอบแทนและความก้าวหน้าโดยตรง — จึงเป็นประเภทที่ต้องแจ้งก่อน · การคัดกรองใบสมัคร 4,862 ใบเป็นกรณีที่เสี่ยงที่สุดในแง่หนึ่ง เพราะผู้สมัครที่ถูกคัดออกไม่มีทางรู้เลยว่าถูกคัดโดยระบบหรือโดยคน และไม่มีช่องทางสอบถาม · การคัดกรองด้วยระบบมีความเสี่ยงเรื่องการเลือกปฏิบัติที่ไม่ตั้งใจ ถ้าระบบเรียนรู้จากประวัติการรับคนในอดีตซึ่งอาจมีอคติอยู่แล้ว · ระบบจึงต้องบันทึกเหตุผลของการคัดออกทุกใบ และให้ผู้สมัครขอทราบได้ ซึ่งปัจจุบันยังไม่ทำ · การจัดสรรงานโครงการเป็นประเภทเดียวที่โต้แย้งได้บ้างผ่านหัวหน้า แต่ไม่ใช่ช่องทางที่เป็นทางการ · สิ่งที่ต้องทำทั้งห้าประเภทเหมือนกันคือ แจ้งว่ามีการประมวลผลอัตโนมัติ ระบุวัตถุประสงค์ และเปิดช่องทางโต้แย้ง ซึ่งเป็นสามอย่างที่ทำได้โดยไม่ต้องเปลี่ยนวิธีทำงาน

ข้อมูลส่วนบุคคลต้องเก็บและใช้ตามวัตถุประสงค์ที่แจ้งไว้ การนำไปใช้เพื่อวัตถุประสงค์อื่นต้องแจ้งใหม่และมีฐานทางกฎหมายรองรับ — คะแนนความเสี่ยงการลาออกถูกสร้างขึ้นเพื่อให้ฝ่ายบุคคลรู้ว่าใครอาจลาออกและจะได้ดูแลไว้ · แต่เมื่อนำไปใช้ประกอบการพิจารณาเลื่อนตำแหน่ง ผลกลับด้าน คือคนที่ถูกจัดว่าเสี่ยงลาออกสูงอาจถูกมองว่าไม่ควรลงทุนด้วย · ผลที่ตามมาคือคะแนนที่สร้างขึ้นเพื่อช่วยคน กลายเป็นสิ่งที่ทำร้ายคนโดยที่เจ้าตัวไม่รู้ว่ามีคะแนนนี้อยู่ · 186 คนที่ถูกจัดว่าเสี่ยงสูงไม่มีใครรู้ว่าตัวเองอยู่ในกลุ่มนี้ และไม่มีทางรู้ว่าคะแนนคำนวณจากอะไร · คะแนนนี้คำนวณจากตัวแปรเช่นอายุงาน ระยะทางจากบ้านถึงที่ทำงาน และประวัติการลา ซึ่งบางตัวแปรพนักงานเปลี่ยนไม่ได้ การใช้ตัวแปรที่เปลี่ยนไม่ได้ตัดสินโอกาสก้าวหน้าเป็นเรื่องที่ต้องพิจารณาให้รอบคอบ · ระบบจึงตัดการส่งคะแนนนี้ไปยังหน้าจอที่ใช้พิจารณาเลื่อนตำแหน่งทันที และคงไว้เฉพาะการใช้เพื่อวางแผนรักษาพนักงานตามที่แจ้งไว้เดิม

สิทธิที่รองรับเต็ม 1 ประการ รองรับบางส่วน 1 ประการ ไม่รองรับ 4 ประการ = 2 จาก 6 หรือ 33.3% · คำขอรวม 18 + 9 + 4 + 0 + 3 + 0 = 34 คำขอ ✓ ตรงกับหน้า 206 · สิทธิสองประการที่ไม่มีคำขอเลยคือสิทธิที่ไม่มีช่องทางให้ใช้

สิทธิสองประการที่มีคำขอเป็นศูนย์ไม่ได้แปลว่าไม่มีใครต้องการใช้ แต่แปลว่าไม่มีช่องทางให้ใช้ — เมื่อไม่มีปุ่มและไม่มีแบบฟอร์ม คนก็ไม่รู้ว่าขอได้ · สิทธิขอให้ระงับการใช้เป็นสิทธิที่มีความหมายมากในบริบทนี้ เพราะเป็นสิทธิที่พนักงานใช้ขอให้หยุดคำนวณคะแนนความเสี่ยงการลาออกของตนได้ · สิทธิคัดค้านการประมวลผลมีคำขอ 3 คำขอ และทั้งสามเป็นเรื่องเดียวกันคือคัดค้านการประเมินด้วยระบบอัตโนมัติ ซึ่งเป็นสัญญาณว่าถ้ามีช่องทางที่ใช้ง่าย จำนวนจะมากกว่านี้ · เวลาตอบเฉลี่ย 52 วันสำหรับสิทธิคัดค้านเป็นเวลาที่เกินกำหนด 30 วันไปมาก และเป็นประเภทที่ช้าที่สุดในบรรดาคำขอทั้งหมด · การเพิ่มช่องทางใช้สิทธิทั้งหกประการในระบบเป็นงานที่ทำได้ภายในไตรมาสเดียวและไม่ต้องใช้เงิน · แต่การเพิ่มช่องทางจะทำให้จำนวนคำขอเพิ่มขึ้นมาก ซึ่งต้องเตรียมคนรองรับ เพราะปัจจุบันตอบทันกำหนดเพียง 52.9% ที่ 34 คำขอ

ข้อแรกคือแจ้งให้พนักงานรู้ว่าการตัดสินใจใดมี AI ร่วม ซึ่งเป็นข้อที่ทำได้ภายในสัปดาห์เดียวและไม่ต้องเปลี่ยนวิธีทำงานเลย — เพียงเพิ่มข้อความบนหน้าจอผลประเมินและในเอกสารที่ส่งให้พนักงาน · ข้อสองคือหยุดส่งคะแนนความเสี่ยงการลาออกไปยังหน้าจอที่ใช้พิจารณาเลื่อนตำแหน่ง ซึ่งหยุดได้ทันทีในระบบ · ทั้งสองข้อไม่ต้องรอผลการหารือทางกฎหมาย เพราะเป็นสิ่งที่ควรทำอยู่แล้วไม่ว่าคำตอบจะเป็นอย่างไร · ข้อที่สี่คือแสดงเวลาที่หัวหน้าใช้พิจารณา ซึ่งเป็นข้อมูลที่ระบบมีอยู่แล้วแต่ไม่เคยถูกดู และเป็นข้อมูลที่จำเป็นต่อการตอบคำถามว่าคนมีส่วนร่วมอย่างมีความหมายหรือไม่ · ต้องระวังว่าเมื่อเริ่มแสดงตัวเลขนี้ หัวหน้าจะรู้ว่าถูกวัด และเวลาที่ใช้จะเพิ่มขึ้นทันทีโดยไม่เกี่ยวกับคุณภาพการพิจารณา ซึ่งเป็นรูปแบบเดียวกับที่พบในโมดูล 19 เรื่องใบบันทึกเวลา · ระบบจึงบันทึกตัวเลขนี้ไว้แต่ไม่แสดงให้หัวหน้าเห็น แสดงเฉพาะในรายงานรวมที่ไม่ระบุตัวบุคคล