OpenAI安全團(tuán)隊(duì)升級授予其董事會否決危險(xiǎn)AI的權(quán)力

2023-12-20 16:03:37 編輯：吳子承來源：

導(dǎo)讀當(dāng)?shù)貢r(shí)間12月18日，OpenAI在官網(wǎng)表示，正在擴(kuò)展內(nèi)部安全流程，以抵御有害人工智能的威脅。本次更新很大程度，是因?yàn)橹霸摴臼紫瘓?zhí)行官山

當(dāng)?shù)貢r(shí)間12月18日，OpenAI在官網(wǎng)表示，正在擴(kuò)展內(nèi)部安全流程，以抵御有害人工智能的威脅。本次更新很大程度，是因?yàn)橹霸摴臼紫瘓?zhí)行官山姆奧特曼被董事會霸著的一個(gè)緣由似乎與大模型安全問題有關(guān)。在發(fā)布的內(nèi)容當(dāng)中，該公司對于最新的“準(zhǔn)備框架”也做了相關(guān)的解釋。即OpenAI跟蹤、評估、預(yù)測和防范日益強(qiáng)大的模型帶來的災(zāi)難性風(fēng)險(xiǎn)的流程。

本次公司革新之后，“新安全顧問小組”將會位于技術(shù)團(tuán)隊(duì)之上，向領(lǐng)導(dǎo)層提出建議，并且董事會被授予否決權(quán)。在開發(fā)中的前沿模型有準(zhǔn)備團(tuán)隊(duì)，該團(tuán)隊(duì)會在模型發(fā)布之前識別和量化風(fēng)險(xiǎn)，然后是超級對齊團(tuán)隊(duì)，正在研究超級智能模型的理論指南。OpenAI根據(jù)4個(gè)風(fēng)險(xiǎn)類別對每個(gè)模型進(jìn)行評級：網(wǎng)絡(luò)安全、說服、模型自主性以及CBRN。

標(biāo)簽：

免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！