สหภาพยุโรป: ระบบ AI ควรได้รับการสร้างและใช้งานในลักษณะที่โปร่งใสและมีความรับผิดชอบ

วันนี้สหภาพยุโรปได้ออกชุดเอกสารคำแนะนำอย่างเป็นทางการเกี่ยวกับวิธีการที่ทั้งธุรกิจและรัฐบาลควรปฏิบัติตามในการพัฒนาและปรับใช้โครงการปัญญาประดิษฐ์เพื่อให้โปร่งใส ยุติธรรม และ "มีจริยธรรม" อย่างแท้จริง

• 91% ของผู้จัดการเทคโนโลยีเชื่อว่า AI จะเป็นหัวใจสำคัญของการปฏิวัติเทคโนโลยีครั้งต่อไป

จู่ๆ เรื่องนี้ทำให้ฉันนึกถึงกฎที่เรียกว่ากฎสามข้อของหุ่นยนต์ ซึ่งกล่าวถึงโดยนักเขียนชาวรัสเซีย ไอแซค อาซิมอฟ ในชุดเรื่องสั้น "Runaround" ที่เขาแต่งขึ้นในปี 1942 คล้ายกับกฎข้อแรก: หุ่นยนต์ไม่ได้รับอนุญาตให้ทำร้ายมนุษย์หรือเพิกเฉยต่ออันตรายที่ ใบหน้าของมนุษย์ บทความที่ 2: หุ่นยนต์จะต้องเชื่อฟังคำสั่งของมนุษย์อย่างแน่นอน เว้นแต่คำสั่งเหล่านี้จะขัดแย้งกับกฎข้อแรก และประการที่สาม: หุ่นยนต์จะต้องปกป้องตัวเอง โดยมีเงื่อนไขว่าการป้องกันดังกล่าวจะไม่ขัดแย้งกับกฎข้อที่หนึ่งและสอง แม้ว่านี่จะเป็นเพียงชุดกฎ "นิยาย" ที่ปรากฏเมื่อเกือบ 80 ปีที่แล้ว แต่ก็ยังเป็นหัวข้อเฉพาะเมื่อผู้คนค่อยๆ เข้าสู่ยุคปัจจุบันของปัญญาประดิษฐ์ แน่นอนว่ากฎชุดใหม่ที่ออกโดยสหภาพยุโรปนั้นโดยพื้นฐานแล้วจะไม่เหมือนกับกฎหมาย "กฎสามข้อของวิทยาการหุ่นยนต์" ของไอแซค อาซิมอฟ ผู้ร่างกฎหมายในยุโรปไม่สามารถให้กรอบการทำงานด้านจริยธรรมที่ยืดหยุ่นได้ ซึ่งจะช่วยให้เราจัดการกับเรื่องสำคัญๆ เช่น การหยุดหุ่นยนต์นักฆ่าได้ เอกสารคำแนะนำของสหภาพยุโรปช่วยแก้ไขปัญหาที่ "มืดมนและแพร่หลาย" ที่ส่งผลเสียต่อสังคมเมื่อเรารวม AI เข้ากับส่วนสำคัญในชีวิตของเรา เช่น การดูแลสุขภาพ การศึกษา และเทคโนโลยีผู้บริโภค

• วิศวกร AI ของ Facebook พูดถึงการเรียนรู้เชิงลึก ภาษาการเขียนโปรแกรมใหม่ๆ และฮาร์ดแวร์สำหรับปัญญาประดิษฐ์

ตัวอย่างง่ายๆ หากระบบ AI ทางการแพทย์วินิจฉัยบุคคลที่มีความเสี่ยงสูงที่จะเป็นมะเร็งในอนาคต คำแนะนำของสหภาพยุโรปจะช่วยให้แน่ใจว่าจำเป็นต้องดำเนินการบางอย่างต่อไปนี้: ซอฟต์แวร์จะไม่ลำเอียงหรือลำเอียงโดยพฤติกรรมของผู้ป่วย เชื้อชาติหรือเพศและในขณะเดียวกันก็ให้ข้อมูลที่ชัดเจนและโปร่งใสที่สุดเกี่ยวกับสภาวะทางการแพทย์ของตนและโดยเฉพาะอย่างยิ่งจะต้องไม่แทรกแซงหรือขัดขวางการตัดสินใจของผู้ป่วย แพทย์

ใช่แล้ว แนวทางเหล่านี้มุ่งเน้นไปที่การจำกัดและควบคุมโมเดล AI ให้ทำงานอย่างถูกต้องเป็นหลัก แต่เฉพาะในระดับบริหารและราชการเท่านั้น แทนที่จะป้องกันการกระทำของการฆ่าตามจินตนาการของนักเขียนอาซิมอฟ

• [Infographic] งานในอนาคตเมื่อปัญญาประดิษฐ์ค่อยๆเข้ามาแทนที่มนุษย์

เพื่อจัดทำเอกสารคำแนะนำชุดนี้ สหภาพยุโรปต้องเรียกประชุมกลุ่มผู้เชี่ยวชาญ 52 คน เพื่อขอให้พวกเขาหารือ ตกลง และเสนอข้อกำหนด 7 ข้อที่พวกเขาคิดว่าระบบ AI ในอนาคตควรมี ควรสามารถตอบสนองได้ ข้อกำหนดเหล่านี้มีดังนี้:

1. ความสามารถขั้นสูงสุดในการติดตามและตัดสินใจยังต้องอยู่ในมือของมนุษย์: AI ไม่ควรหรือไม่ควรปล่อยให้ "เหยียบย่ำ" อิสรภาพของมนุษย์และการตัดสินใจด้วยตนเอง ในทางกลับกัน ผู้คนไม่ควรถูกควบคุมหรือบังคับโดยระบบ AI ท้ายที่สุดแล้ว มนุษย์จะต้องมีความสามารถในการแทรกแซงหรือติดตามทุกการตัดสินใจของซอฟต์แวร์ AI ในสถานการณ์ที่จำเป็น
2. เทคนิคการปรับใช้ที่แม่นยำ ปลอดภัย และปลอดภัย:เมื่อใช้งานโมเดล AI แต่ละรุ่น ไม่ว่าจะในระดับห้องปฏิบัติการหรือในความเป็นจริง จะต้องมั่นใจในปัจจัยสองประการ: ความปลอดภัยและความแม่นยำ ซึ่งได้แก่: กล่าวอีกนัยหนึ่ง ซอฟต์แวร์ AI ไม่ควรถูกบุกรุกและเข้าควบคุมโดยการโจมตีจากภายนอกได้ง่าย และทุกการตัดสินใจที่ซอฟต์แวร์ทำควรเชื่อถือได้อย่างแน่นอนด้วยวิธีที่สมเหตุสมผลที่สุด
3. การรับรองความเป็นส่วนตัวและการกำกับดูแลข้อมูล:ข้อมูลส่วนบุคคลที่รวบรวมโดยระบบ AI จะต้องมีการรักษาความปลอดภัยอย่างเข้มงวดและเป็นส่วนตัวโดยสมบูรณ์ ข้อมูลนี้ไม่ได้รับอนุญาตให้เปิดเผยหรือเข้าถึงโดยผู้มีบทบาทใดๆ และไม่สามารถถูกขโมยหรือสูญหายได้ง่าย
4. การรับรองความโปร่งใส:ควรเข้าถึงข้อมูลและอัลกอริธึมที่ใช้ในการสร้างระบบ AI และควรนำเสนอและอธิบายการตัดสินใจของซอฟต์แวร์อย่างชัดเจน . กล่าวอีกนัยหนึ่ง ผู้ปฏิบัติงานจะต้องสามารถอธิบายการตัดสินใจที่ระบบ AI ของตนทำได้อย่างเป็นรูปธรรมและสมเหตุสมผล
5. รับรองความหลากหลาย การไม่เลือกปฏิบัติ และความยุติธรรม:ทุกคนจะต้องใช้บริการที่ขับเคลื่อนด้วย AI โดยไม่คำนึงถึงอายุ เพศ เชื้อชาติ หรือลักษณะอื่น ๆ ในขณะเดียวกัน การตัดสินใจของ AI จะต้องไม่มีอคติต่อคุณลักษณะหรือวัตถุใดๆ
6. ผลกระทบเชิงบวกต่อสิ่งแวดล้อมและสังคม:ระบบ AI จะต้องได้รับการปรับใช้และพัฒนาอย่างยั่งยืน (กล่าวคือ ต้องรับผิดชอบต่อระบบนิเวศ) และมีส่วนทำให้เกิดการเปลี่ยนแปลงทางสังคมเชิงบวก
7. ความรับผิดชอบ:ระบบ AI จะต้องได้รับการตรวจสอบและป้องกันโดยระบบป้องกันที่มีอยู่ กล่าวอีกนัยหนึ่ง ควรยอมรับผลกระทบด้านลบ (ถ้ามี) ของระบบอย่างตรงไปตรงมา และผู้ปฏิบัติงานควรรับผิดชอบต่อผลกระทบด้านลบที่ระบบ AI ของตนสร้างขึ้น

คุณอาจสังเกตเห็นว่าข้อกล่าวอ้างข้างต้นบางส่วนค่อนข้างเป็นนามธรรมและยากต่อการประเมินในแง่วัตถุประสงค์ (เช่น คำจำกัดความของการเปลี่ยนแปลงทางสังคมเชิงบวกที่ AI นำมาจะแตกต่างกันไปอย่างมากในแต่ละคน และในวงกว้างมากขึ้น ระหว่างประเทศ ). อย่างไรก็ตาม รายการที่เหลือส่วนใหญ่โดยทั่วไปจะง่ายกว่าและสามารถตรวจสอบและรับประกันได้ผ่านการกำกับดูแลของหน่วยงานที่มีอำนาจ ตัวอย่างเช่น การแบ่งปันข้อมูลที่ใช้ในการฝึกระบบ AI ของรัฐบาลอาจเป็นวิธีที่ดีในการต่อสู้กับอัลกอริธึมที่มีอคติและไม่ชัดเจน

• [Infographic] ประโยชน์และอันตรายจากปัญญาประดิษฐ์

บทบัญญัติของเอกสารคำแนะนำของสหภาพยุโรปไม่มีผลผูกพันทางกฎหมายอย่างชัดเจน แต่สามารถใช้เพื่อกำหนดกฎหมายในอนาคตที่ร่างโดยสหภาพยุโรปที่เกี่ยวข้องกับสาขา AI ในอดีตสหภาพยุโรปเคยกล่าวซ้ำแล้วซ้ำเล่าว่าต้องการทำให้ยุโรปเป็นผู้บุกเบิกโลกในการปรับใช้โมเดล AI ที่มี “จริยธรรม” และออกชุดเอกสารคำแนะนำ ซึ่งแสดงให้เห็นชัดเจนว่าพวกเขาพร้อมที่จะร่างกฎหมายที่กว้างขวาง ควบคุมและปกป้องสิทธิ์ดิจิทัล

สหภาพยุโรปต้องการกำหนดรูปแบบอุตสาหกรรม AI โดยมีมาตรฐานทางจริยธรรมเป็นแกนหลัก

ในฐานะที่เป็นส่วนหนึ่งของความพยายามในการสร้างอุตสาหกรรม AI ที่มี "จริยธรรม" เอกสารคำแนะนำของสหภาพยุโรปถือเป็นก้าวสำคัญในการสร้าง "รายการประเมิน AI ที่เชื่อถือได้" ซึ่งเป็นรายการคำศัพท์ที่สามารถช่วยให้ผู้เชี่ยวชาญค้นหาจุดอ่อนหรืออันตรายที่อาจเกิดขึ้นใน AI ซอฟต์แวร์แม้ว่าจะมีการใช้งานอย่างกว้างขวางก็ตาม รายการนี้อาจมีคำถาม เช่น “คุณสามารถสาธิตว่าระบบ AI ของคุณทำงานอย่างไรในสถานการณ์และสภาพแวดล้อมที่ซับซ้อนได้หรือไม่” หรือ “คุณสามารถประเมินประเภทและขอบเขตของข้อมูลในชุดข้อมูลของคุณได้หรือไม่” ...

แน่นอนว่ารายการประเมินนี้เป็นเพียงเบื้องต้นเท่านั้น EU จะยังคงต้องรวบรวมข้อเสนอแนะจากบริษัทต่างๆ และผู้เชี่ยวชาญด้านปัญญาประดิษฐ์ในอนาคตอันใกล้นี้ ภายในปี 2020 สหภาพยุโรปจะเผยแพร่รายงานสรุปเกี่ยวกับปัญหานี้

• นักวิจัย AI หยุดพัฒนาเครื่องจักรคล้ายมนุษย์แล้ว

Anny Hidvégi ผู้จัดการนโยบายของกลุ่มสิทธิ์ดิจิทัล Access Now และหนึ่งในผู้เชี่ยวชาญ 52 คนที่รับผิดชอบในการจัดทำเอกสารคำแนะนำของสหภาพยุโรปกล่าวว่ารายการการประเมินเป็นส่วนสำคัญ จุดที่สำคัญที่สุดของรายงาน: "เอกสารชุดนี้ช่วยให้เกิดการปฏิบัติได้จริง มุมมองเชิงคาดการณ์ล่วงหน้าเกี่ยวกับวิธีการป้องกันและลดอันตรายที่อาจเกิดขึ้นจาก AI"

“ในมุมมองของเราสหภาพยุโรปมีศักยภาพและความรับผิดชอบเพียงพอที่จะเป็นองค์กรชั้นนำในงานนี้ แต่นอกเหนือจากนั้น เรายังคิดว่าสหภาพยุโรปไม่ควรหยุดอยู่แค่หลักศีลธรรมเท่านั้น พวกเขาควรพิจารณากำหนดให้บริษัทขุดเหมือง AI ปฏิบัติตามกฎหมายในอนาคต” นายฮิดเวกิกล่าวเสริม

คนอื่นๆ สงสัยว่าความพยายามของสหภาพยุโรปในการกำหนดแนวทางการพัฒนา AI ระดับโลกผ่านการวิจัยเชิงจริยธรรมจะมีผลอย่างมาก

“เราไม่มั่นใจเกี่ยวกับวิธีการที่องค์กรชั้นนำของยุโรปใช้ แนวคิดที่ว่าด้วยการสร้างมาตรฐานทองคำสำหรับระบบ AI ที่มีจริยธรรม สหภาพยุโรปจะสามารถกำหนดจุดยืนในการพัฒนาอุตสาหกรรม AI ระดับโลกนั้นเป็นเรื่องที่ค่อนข้างลึกซึ้ง หากต้องการเป็นผู้นำในการกำหนดกฎเกณฑ์ทางจริยธรรมของ AI สหภาพยุโรปจะต้องเป็นผู้นำในด้าน AI โดยรวมก่อน” Eline Ch Pivot นักวิเคราะห์นโยบายอาวุโสของ European Data Innovation Center กล่าว

• ทบทวนเหตุการณ์สำคัญในประวัติศาสตร์กว่า 60 ปีของการพัฒนาปัญญาประดิษฐ์

คุณคิดอย่างไรเกี่ยวกับปัญหานี้? กรุณาแสดงความคิดเห็นของคุณในส่วนความเห็นด้านล่าง!