OpenAI組建新團隊：收集公眾意見 ai價值觀可以和人類相同嗎

2024-01-18 13:46:16 編輯：潘中博來源：

導讀在美國當地時間1月16日，人工智能領域的初創企業openai通過博客宣布，公司目前正在組建一個名為集體對齊的團隊。這個團隊人員主要是由研究...

在美國當地時間1月16日，人工智能領域的初創企業openai通過博客宣布，公司目前正在組建一個名為集體對齊的團隊。這個團隊人員主要是由研究人員和工程師組成團隊的主要任務就是負責收集公眾意見，用這些公眾意見來訓練人工智能模型，解決偏見和其他隱患問題。 Openai公司在發文中表示，公司的目的就是為了打造一個系統，能夠收集公眾對于人工智能模型的看法，并將這些意見融入到產品服務中，這樣一來，公司旗下的人工智能模型就會盡可能和人類的價值觀保持一致。

為了實現這一目的，openai公司正在招募擁有不同技術手段的研究工程師。Openai公司表示，公司將會和外部顧問和其他的團隊合作，所以公司需要來自于不同領域內的專家一起來推動工作的正常進展。

其實集體對齊團隊就是以2023年5月份openai公司的一個公共項目為基礎，這個公共項目的目的就是為了建立一個民主程序。 OpenAI新團隊創始成員泰納·埃倫杜表示，隨著超級人工智能模型的發展，模型將會成為每一個人日常生活中的一部分，所以提前收集群眾意見，對于日后模型，更好的融入人類社會是至關重要的。

雖然openai公司曾多次描述這個項目和利益沒有關系，但是投資者考慮到首席執行官奧特曼對于人工智能監管的反對態度，就很難以相信公司的說法。奧特曼以及公司總裁和首席科學家曾多次強調人工智能技術發展的速度已經遠遠超過了預期，眼下已經沒有時間等待權威機構來抑制這項技術的發展，所以他們希望能夠將人工智能技術的監管工作眾包給所有的解決方案提供商。