ML มีศักยภาพในการพลิกโฉมสังคมในหลายๆ ด้านที่สำคัญ ไม่ว่าจะเป็นด้านบวกหรือด้านลบ คุณควรพิจารณาถึงผลกระทบด้านจริยธรรมของโมเดลและระบบที่โมเดลเป็นส่วนหนึ่งของโมเดล
โปรเจ็กต์ ML ควรเป็นประโยชน์ต่อสังคม ไม่ควรก่อให้เกิดอันตรายหรือมีแนวโน้มที่จะเกิดการใช้ในทางที่ผิด เนื้อหาไม่ควรส่งเสริม ตอกย้ำ หรือทำให้อคติหรือความลำเอียงรุนแรงขึ้น ไม่ควรเก็บรวบรวมหรือใช้ข้อมูลส่วนบุคคลอย่างไม่มีความรับผิดชอบหลักการเกี่ยวกับ AI ของ Google
Google สนับสนุนการพัฒนาแอปพลิเคชัน ML และ AI ที่เป็นไปตามหลักการเกี่ยวกับ AI หลักการของ Google มุ่งเน้นที่แนวคิดต่อไปนี้
- ความยุติธรรม
- ความเป็นส่วนตัว
- ความโปร่งใส
- ความปลอดภัย
ความยุติธรรม
หลีกเลี่ยงการสร้างหรือส่งเสริมอคติที่ไม่เป็นธรรม โมเดลจะแสดงอคติเมื่อข้อมูลที่ใช้ฝึกมีลักษณะต่อไปนี้
ไม่ได้แสดงถึงจำนวนผู้ใช้จริง
เก็บรักษาผลการตัดสินหรือผลลัพธ์ที่มีอคติ เช่น ผลการตัดสินทางกระบวนการยุติธรรมอาญา เช่น ระยะเวลาการกักขัง
ใช้ฟีเจอร์ที่คาดการณ์ได้แม่นยำมากขึ้นสําหรับผู้ใช้บางกลุ่ม
ตัวอย่างก่อนหน้านี้เป็นเพียงตัวอย่างบางส่วนที่ทําให้โมเดลมีอคติ การทําความเข้าใจข้อมูลของคุณอย่างละเอียดเป็นสิ่งสําคัญในการค้นพบและแก้ไขอคติที่อาจเกิดขึ้น ขั้นตอนแรกในการพัฒนารูปแบบที่เป็นธรรมคือการยืนยันว่าข้อมูลการฝึกอบรมแสดงถึงข้อมูลประชากรของผู้ใช้อย่างถูกต้อง แนวทางปฏิบัติเพิ่มเติมต่อไปนี้จะช่วยสร้างโมเดลที่เป็นธรรม
ระบุกลุ่มที่แสดงข้อมูลไม่เพียงพอในชุดข้อมูลการประเมินหรือกลุ่มที่อาจพบปัญหาคุณภาพโมเดลแย่กว่ากลุ่มอื่นๆ คุณอาจต้องสุ่มตัวอย่างกลุ่มย่อยของผู้ใช้ให้มากขึ้นเพื่อเพิ่มจํานวนผู้ใช้ในกลุ่มนั้นในข้อมูลการฝึก
ใช้ชุดข้อมูลโกลด์ (หรือที่เรียกว่าชุดข้อมูลการเปรียบเทียบ) เพื่อตรวจสอบโมเดลเกี่ยวกับปัญหาความยุติธรรมและตรวจหาอคติแฝง
หลีกเลี่ยงการใส่คุณลักษณะที่มีความละเอียดอ่อนในชุดข้อมูล เช่น เพศหรือเชื้อชาติ
หลีกเลี่ยงการใส่ฟีเจอร์ที่มีข้อมูลเชิงประจักษ์หรือความสามารถในการอธิบายน้อย โดยเฉพาะในบริบทที่มีความละเอียดอ่อนซึ่งใช้โมเดลที่ผ่านการฝึกอบรมเพื่อทำงานที่มีผลกระทบสูงในด้านต่างๆ เช่น การดูแลสุขภาพ การเงิน การศึกษา การจ้างงาน และอื่นๆ เช่น ในโมเดลสําหรับอนุมัติการจํานองบ้าน อย่าใส่ชื่อไว้ในข้อมูลการฝึก ชื่อของผู้สมัครไม่เพียงแต่ไม่เกี่ยวข้องกับงานการคาดการณ์เท่านั้น แต่ยังอาจก่อให้เกิดอคติแฝงหรืออันตรายในการจัดสรรด้วย เช่น โมเดลอาจเชื่อมโยงชื่อผู้ชายกับโอกาสในการชําระคืนที่สูงขึ้น หรือในทางกลับกัน
วัดผลกระทบเชิงลบที่อาจเกิดขึ้นจากการคาดการณ์ของโมเดลที่มีต่อกลุ่มหนึ่งๆ และพิจารณาเทคนิคการแก้ไขอคติโดยเจตนาหากคุณพบผลกระทบเชิงลบในบริบทที่ละเอียดอ่อน
ความเป็นส่วนตัว
ใช้หลักการออกแบบที่ให้ความสำคัญเรื่องความเป็นส่วนตัวตั้งแต่ต้น
ต่อไปนี้คือกฎหมายและนโยบายที่เกี่ยวข้องกับความเป็นส่วนตัวที่ควรทราบและปฏิบัติตาม
กฎหมายว่าด้วยตลาดดิจิทัล (Digital Markets Act หรือ DMA) ของสหภาพยุโรปเพื่อขอความยินยอมในการแชร์หรือใช้ข้อมูลส่วนตัว
กฎหมาย GDPR ของสหภาพยุโรป
นอกจากนี้ อย่าลืมนําข้อมูลส่วนบุคคลที่ระบุตัวบุคคลนั้นได้ (PII) ทั้งหมดออกจากชุดข้อมูล และตรวจสอบว่าโมเดลและที่เก็บข้อมูลได้รับการตั้งค่าให้มีสิทธิ์ที่เหมาะสม เช่น ไม่ได้ตั้งค่าให้ผู้ใช้ทุกคนอ่านได้
ความโปร่งใส
รับผิดชอบต่อผู้ใช้ เช่น ช่วยให้ผู้อื่นเข้าใจสิ่งที่โมเดลของคุณทํา วิธีทํา และเหตุผลที่ทํา การ์ดโมเดล มีเทมเพลตสำหรับบันทึกโมเดลและสร้างรายการที่แสดงความโปร่งใส
ความปลอดภัย
ออกแบบโมเดลให้ทำงานได้อย่างปลอดภัยในสภาพแวดล้อมที่ไม่เอื้ออำนวย เช่น ทดสอบโมเดลด้วยอินพุตที่อาจเป็นอันตรายเพื่อยืนยันว่าโมเดลปลอดภัย นอกจากนี้ ให้ตรวจสอบเงื่อนไขที่อาจทำให้เกิดข้อผิดพลาด โดยทั่วไปแล้ว ทีมจะใช้ชุดข้อมูลที่ออกแบบมาเป็นพิเศษเพื่อทดสอบโมเดลด้วยอินพุตหรือเงื่อนไขที่ทําให้โมเดลไม่ประสบความสําเร็จในอดีต
ทดสอบความเข้าใจ
พิจารณาบริบททางสังคมที่กว้างขึ้นซึ่งโมเดลของคุณทํางานอยู่เสมอ ตรวจสอบว่าการจัดการข้อมูลที่ละเอียดอ่อนไม่ได้ละเมิดปัญหาด้านความเป็นส่วนตัว ส่งเสริมอคติ หรือละเมิดทรัพย์สินทางปัญญาของผู้อื่น