悉尼大學已與IAG和CSIRO的Data61合作創建了Gradient Institute，這是一個非營利性組織，將促進在私營和公共部門中創建道德人工智能。

除了IAG和CSIRO的Data61外，悉尼大學今天還宣布創建Gradient Institute。該研究所將是一個獨立的非營利組織，旨在研究人工智能(AI)的倫理學并開發基于倫理學的基于AI的系統，從而為個人和整個社會提供更好的成果。

該研究所的重點將是創建一個“所有系統都遵守道德規范的世界”。這不僅可以通過研究來實現，還可以通過實踐，政策倡導，公眾意識以及對人們進行道德發展和使用AI的培訓來實現。

該研究所將利用研究結果來創建可以由商業和政府采用和改編的開源道德AI工具。

以解決方案為中心的道德人工智能方法

從CSIRO Data61的工程和設計總監接任后，由比爾·辛普森-楊(Bill Simpson-Young)領導該研究所擔任首席執行官。他將與IAG的全資子公司Ambiata的聯合創始人兼首席科學家Tiberio Caetano博士合作，他將以首席科學家的身份指導研究所對倫理AI的研究。

Simpson-Young先生表示，如今的人工智能既是挑戰，也是發現人工智能的哪些設計選擇將為人類和社會帶來積極成果的機遇。

“人工智能從數據中學習，數據反映了過去–在梯度研究所，我們希望未來比過去更好。通過將道德觀念嵌入AI中，我們相信我們將能夠通過通過具有道德意識的機器學習創造更好的結果來選擇避免過去的錯誤的方法。

“例如，在招聘中，當自動化系統使用歷史數據指導決策時，它們可能會偏向于某些職業中歷來代表性不足的子群體。

Simpson-Young先生說：“通過將道德規范嵌入到AI的創建中，我們可以減輕這些偏見，這些偏見在當今零售，電信和金融服務等行業中很明顯。”

政府，工業界和學術界作為創始伙伴合作

澳大利亞最大的通用保險公司IAG的首席客戶官Julie Batch說，作為Gradient Institute的主要合作伙伴，反映了IAG致力于創新以創造更好的客戶體驗的重點。

面對AI的挑戰和機遇，需要考慮公平和平等的思想。沒有政府或企業可以獨自做到這一點。我們需要跨部門合作，我們必須緊迫地做到這一點，這就是為什么我們為能與澳大利亞兩個最強大的科學和學術領袖(Data61和悉尼大學)建立合作伙伴而感到自豪。

“道德的AI將提高人們對自動化機器決策方式的信任。IAG希望能早日采用該研究所開發的技術和工具，以便我們可以為客戶提供更好的體驗。” Batch女士說。

“將Gradient Institute建立為獨立的非營利組織對于實現其宗旨至關重要，我們希望其他組織也能加入我們，為這項研究做出貢獻。”

CSIRO Data61的首席執行官Adrian Turner是澳大利亞科學機構的數字創新部門，他說Gradient Institute是重要的一步，因為AI和機器學習將影響社會以及澳大利亞經濟的各個領域。

“隨著AI越來越廣泛地被采用，確保在開發技術時要考慮到道德考量是至關重要的。作為一個，我們需要正確對待這一點，以便從生產率的提高中獲得AI的好處，從而獲得新的世界價值。

“我們很高興成為Gradient Institute的創始合伙人，該研究所結合了該國一些最偉大的AI人才。這是Data61網絡模型的一個很好的例子，它在組織邊界松散的情況下運作，有助于為與數據相關的研究挑戰帶來連貫一致的，加速的，全國范圍的成果，從而為澳大利亞造福。” Turner先生說。

悉尼大學副校長Duncan Ivison教授表示，有必要建立一種人工智能的道德框架，該框架應結合對技術的可能性和人工智能的局限性的深刻了解，同時還要確保它主要由人類的需求和利益所決定。

“像悉尼大學這樣的研究密集型大學能夠利用其在科學，工程，人文和社會科學領域的豐富知識資源，非常適合與政府，行業和社區團體合作以實現這種方法。

伊維森教授說：“我們需要合作，相互批評，并使社區參與以應對正在出現的新挑戰，這是我們時代面臨的重大道德挑戰之一。”