幻覺？馬斯克TruthGPT搞不定！OpenAI創(chuàng)始人直言復雜

2023-05-04 14:05:39 編輯：伏厚麗來源：

導讀馬斯克此前聯(lián)合各行各業(yè)的大佬，呼吁停止AI研發(fā)6個月。事實上并沒有起到很好的阻止效果，反而讓AI大戰(zhàn)愈演愈烈。馬斯克最終妥協(xié)AI研發(fā)，官

馬斯克此前聯(lián)合各行各業(yè)的大佬，呼吁停止AI研發(fā)6個月。事實上并沒有起到很好的阻止效果，反而讓AI大戰(zhàn)愈演愈烈。馬斯克最終妥協(xié)AI研發(fā)，官宣推出TruthGPT平臺。

幻覺一直是open AI、谷歌以及馬斯克人工智能公司面對的核心問題。 Open AI聯(lián)合創(chuàng)始人兼研究員在演講中討論到如何解決這些問題，根據(jù)該研究員的說法，將幻覺可以分為兩種類型。

第1種為模式完成行為，指的是語言模型無法表達自己的不確定性，無法質(zhì)疑提示中的前提或者之前犯的錯誤。

第2種為模型猜測錯誤，語言模型本身是一種知識圖譜，包括來自網(wǎng)絡(luò)當中訓練的數(shù)據(jù)事實，微調(diào)可以理解為學習一個函數(shù)，該函數(shù)在知識圖譜上運行并輸出token預測。之后該研究員又講了一系列的解決方法，對于如何攻克幻想難題直言很復雜。

標簽：幻覺，GPT