信通院稱人工智能風(fēng)險分為5個等級 AI會有什么影響

2023-12-26 14:31:56 編輯：鮑彬媚來源：

導(dǎo)讀 12月24日，在2024中國信通院ICT深度觀察報告會人工智能伙伴分論壇上，中國信息通信研究院發(fā)布2023年人工智能風(fēng)險管理體系。該體系將人工智...

12月24日，在2024中國信通院ICT深度觀察報告會人工智能伙伴分論壇上，中國信息通信研究院發(fā)布2023年人工智能風(fēng)險管理體系。該體系將人工智能帶來的風(fēng)險分為兩類，包括自身技術(shù)系統(tǒng)造成的風(fēng)險以及應(yīng)用生產(chǎn)的風(fēng)險，同時參考我國現(xiàn)行網(wǎng)絡(luò)安全等級保護(hù)要求將人工智能風(fēng)險劃分為5個等級。最高的第五等級風(fēng)險是指對人類社會有一定的顛覆性影響，比如不受人類控制的強(qiáng)人工智能，具有極強(qiáng)的自主性。

人工智能的發(fā)展可能會帶來一定的偏見和歧視，比如通過訓(xùn)練數(shù)據(jù)的人工智能系統(tǒng)，可能會在無意當(dāng)中延續(xù)或放大社會偏見。人工智能技術(shù)需要收集和分析大量的個人數(shù)據(jù)，會引發(fā)數(shù)據(jù)隱私和安全相關(guān)的問題。道德困境也是一個大問題，在人工智能系統(tǒng)中灌輸?shù)赖潞蛡惱韮r值觀，是一項極大的挑戰(zhàn)。