歐盟今天發布了一套關于公司和政府應如何開發人工智能道德應用的指導方針。

這些規則與艾薩克·阿西莫夫的“機器人三定律”不同。他們沒有提供一個有助于我們控制殺人機器人的活潑，道德的框架。相反，它們解決了影響社會的模糊和分散的問題，因為我們將人工智能整合到醫療保健，教育和消費者技術等領域。

因此，例如，如果AI系統在未來的某個時間診斷您患有癌癥，歐盟的指導方針將要確保發生一些事情：軟件沒有因您的種族或性別而受到偏見，它沒有不要超越人類醫生的反對意見，而是讓患者可以選擇向他們解釋他們的診斷。

所以，是的，這些指導方針是關于阻止人工智能運行，但在管理和官僚程度，而不是阿西莫夫式的謀殺之謎。

為了實現這一目標，歐盟召集了一個由52位專家組成的小組，他們提出了他們認為未來AI系統應該滿足的七項要求。它們如下：

人道機構和監督 - 人工智能不應該踐踏人類自治。人們不應該被人工智能系統操縱或脅迫，人類應該能夠干預或監督軟件做出的每一個決定。

技術穩健性和安全性 - AI應該是安全和準確的。它不應該容易受到外部攻擊(例如對抗性示例)的影響，并且它應該是相當可靠的。

隱私和數據治理 - AI系統收集的個人數據應該是安全和私密的。任何人都不應該訪問它，它不應該被輕易竊取。

透明度 - 用于創建AI系統的數據和算法應該是可訪問的，軟件做出的決策應該“被人類理解和追蹤”。換句話說，運營商應該能夠解釋他們的AI系統做出的決策。

多元化，非歧視和公平 - 人工智能提供的服務應該適用于所有人，無論年齡，性別，種族或其他特征如何。同樣，系統也不應該偏向于這些界限。

環境和社會福祉 - 人工智能系統應該是可持續的(即，他們應該對生態負責)和“增強積極的社會變革”

問責制 - 人工智能系統應該是可審??計的，并由公司舉報人的現有保護措施涵蓋。系統的負面影響應該事先得到承認和報告。

您會注意到其中一些要求非常抽象，難以從客觀意義上進行評估。(例如，“積極的社會變革”的定義因人而異，國家之間存在巨大差異。)但其他人則更為直截了當，可以通過政府監督進行檢驗。例如，共享用于訓練政府AI系統的數據可能是對抗偏見算法的好方法。

這些準則沒有法律約束力，但它們可能影響歐盟起草的任何未來立法。歐盟一再表示希望成為道德AI的領導者，并且已經向GDPR表明它愿意制定保護數字權利的深遠法律。

但這種作用在一定程度上是由環境強加給歐盟的。在涉及投資和尖端研究時，它無法與美國和中國 - 世界人工智能的領導者 - 競爭，因此選擇道德是塑造技術未來的最佳選擇。

作為這項工作的一部分，今天的報告包括所謂的“值得信賴的AI評估列表” - 一系列問題，可幫助專家找出AI軟件中任何潛在的弱點或危險。此列表包含的問題包括“您是否驗證了系統在意外情況和環境中的行為?”和“您是否評估了數據集中數據的類型和范圍?”

這些評估清單只是初步的，但歐盟將在未來幾年收集公司的反饋意見，并在2020年提交有關其效用的最終報告。

數字版權組織Access Now的政策經理FannyHidvégi和幫助編寫今天指南的專家表示，評估列表是報告中最重要的部分。Hidvégi告訴The Verge，“它為如何減輕人工智能的潛在危害提供了一個實用的，前瞻性的視角” 。

“我們認為，歐盟有潛力和責任成為這項工作的重中之重，”Hidvégi說。“但我們確實認為歐盟不應該停留在道德準則上......它只能在合法合規的基礎上發揮作用。”

其他人懷疑歐盟試圖通過倫理研究來塑造全球人工智能的發展方式會產生很大的影響。

“我們對所采取的方法持懷疑態度，認為通過為道德人工智能創建一個黃金標準，它將確認歐盟在全球人工智能開發中的地位，”數據創新智庫中心的高級政策分析師Eline Chivot告訴他們邊緣。“要成為道德人工智能領域的領導者，首先必須引領 人工智能本身。”