歐盟：人工智慧系統應以透明和負責任的方式建構和部署

歐盟今天正式發布了一套指導文件，指導企業和政府在開發和部署人工智慧專案時應如何遵循，從而真正做到透明、公平和「道德」。

• 91% 的技術經理認為人工智慧將成為下一次科技革命的核心

這突然讓我想起俄羅斯作家艾薩克·阿西莫夫在1942年創作的短篇小說集《奔跑吧》中提到的一條叫做機器人三定律的定律，就像第一條一樣：機器人不得傷害人類或忽視人類所面臨的危險。人類的臉。第二條：機器人必須絕對服從人類所發出的命令，除非這些命令與第一定律相衝突。第三：機器人必須保護自己，前提是這種保護不與第一定律和第二定律相衝突。儘管這只是近80年前出現的一套「虛構」規則，但當人們逐漸進入當前的人工智慧時代時，它仍然特別具有話題性。當然，歐盟頒布的這套新規則不會與艾薩克·阿西莫夫的「機器人三定律」法律有本質上的相同。歐洲立法者無法提供靈活的道德框架來幫助我們解決諸如阻止殺手機器人之類的重大問題。相反，歐盟的指導文件有助於解決「黑暗而普遍」的問題，這些問題對社會產生負面影響，因為我們將人工智慧融入我們生活的許多重要領域，例如醫療保健、教育和消費技術。

• Facebook AI 工程師談論人工智慧的深度學習、新程式語言和硬體

舉個簡單的例子，如果醫療人工智慧系統診斷出一個人未來患癌症的風險很高，歐盟的指導意見將有助於確保需要完成以下一些工作：該軟體不會受到患者的偏見或偏見的影響。種族或性別，同時提供有關其醫療狀況的最清晰、最透明的信息，尤其不得乾擾或妨礙患者的決定。

所以，是的，這些指導方針主要集中在限制和控制人工智慧模型的正常運行，但僅限於行政和官僚層面，而不是按照作家阿西莫夫的想像來防止殺戮行為。

• 【資訊圖】人工智慧逐漸取代人類的未來工作

為了製定這套指導文件，歐盟不得不召集了一個由 52 名專家組成的小組，要求他們討論、商定並提出他們認為未來人工智慧系統應該具備的 7 項要求。這些要求如下：

1. 最終的監控和決策能力仍然必須掌握在人類手中：人工智慧不應該，或者更確切地說，不允許「踐踏」人類的自主性和自決權。相反，人們不應該被人工智慧系統操縱或脅迫。畢竟，人類必須有能力幹預或監控人工智慧軟體在必要情況下做出的每一個決定。
2. 準確、可靠、安全的部署技術：每個人工智慧模型在部署時，無論是在實驗室規模還是在現實中，都必須確保安全性和準確性兩個因素，它們是： 先決條件。換句話說，人工智慧軟體不應該輕易被外部攻擊攻陷和接管，它所做的每一個決定都應該以最合理的方式絕對值得信賴。
3. 確保隱私和資料治理：人工智慧系統收集的個人資料必須受到嚴格保護並完全私密。這些資料不允許任何行為者洩露或訪問，也不會輕易被竊取或遺失。
4. 確保透明度：用於創建人工智慧系統的數據和演算法應該是可訪問的，軟體做出的決策也應該清晰地呈現和解釋。換句話說，操作員必須能夠以具體且合乎邏輯的方式解釋人工智慧系統所做的決策。
5. 確保多元化、非歧視和公平：人工智慧驅動的服務必須向所有人提供，無論年齡、性別、種族或其他特徵如何。同時，人工智慧所做的決策不得偏向任何特徵或物件。
6. 正面的環境和社會影響：人工智慧系統必須可持續地部署和開發（即它們必須對生態負責）並為積極的社會變革做出貢獻。
7. 責任：人工智慧系統必須經過現有保障措施的審核和保護。換句話說，應該坦誠地承認系統的負面影響（如果有的話），並且運營商應該為其人工智慧系統造成的負面影響承擔責任。

你可能會注意到，上述一些說法相當抽象，很難從客觀意義上進行評估（例如，人工智慧帶來的積極社會變革的定義因人而異，更廣泛地說，在不同國家之間也有很大差異） ）。但剩下的大部分項目一般都比較簡單，可以透過當局的監管來檢查和保證。例如，共享用於訓練政府人工智慧系統的資料可能是對抗有偏見、不透明演算法的好方法。

• [資訊圖表]人工智慧的好處與危險

這些歐盟指導文件的規定顯然不具有法律約束力，但它們可以用來制定歐盟未來起草的任何涉及人工智慧領域的立法。過去，歐盟曾多次表示，希望讓歐洲成為全球部署「有道德的」AI模型的先驅，而推出一套指導文件，這清楚地表明他們準備起草影響深遠的法律規範和保護數位權利。

歐盟希望塑造以道德標準為核心的人工智慧產業

作為創建「道德」人工智慧產業努力的一部分，歐盟指導文件可以被視為創建「可信人工智慧評估清單」的墊腳石——該清單術語可以幫助專家發現人工智慧中的任何弱點或潛在危險。該清單可能包括以下問題：「您能否演示您的人工智慧系統在複雜情況和環境中的表現？」或「您能否評估資料集中資料的類型和範圍？」 ...

當然，這份評估清單只是初步的，歐盟近期仍需收集企業和人工智慧專家的回饋意見。歐盟最快將於2020年就這項問題發布總結報告。

• 人工智慧研究人員已停止開發類人機器

數位版權組織Access Now 的政策經理、負責起草歐盟指導文件的52 名專家之一的Anny Hidvégi 表示，評估清單是關鍵部分。報告最重要的一點是：「這套文件有助於提供切實可行的指導意見。” ，對如何預防和盡量減少人工智慧潛在危害的前瞻性觀點。”

「我們認為，歐盟有足夠的潛力和責任成為這項工作的領導組織。但除此之外，我們也認為歐盟不應止步於道德原則。他們應該考慮要求人工智慧挖礦公司將來遵守法律。」Hidvégi 先生補充道。

其他人則懷疑歐盟試圖透過倫理研究來塑造全球人工智慧的發展方式是否會產生多大影響。

「我們對歐洲領先組織所採取的方法持懷疑態度。透過創建道德人工智慧系統的黃金標準，歐盟將能夠在全球人工智慧產業的發展中佔有一席之地的想法相對牽強。要成為制定人工智慧道德規則的領導者，歐盟必須首先成為整個人工智慧領域的領導者，」歐洲數據創新中心高級政策分析師 Eline Ch Pivot 分享道。

• 回顧人工智慧60多年發展史上的重要里程碑

對於這個問題你怎麼看？請在下面的評論部分留下您的評論！