OpenAI研究實驗室已經發布了文本生成的AI系統的完整版本，專家警告說，該系統可能用于惡意目的。

該機構最初于今年2月發布了該系統GPT-2，但由于擔心該程序的完整版本會被用于傳播假新聞，垃圾郵件和虛假信息，因此拒絕了該程序的完整版本。從那時起，它發布了更小，更簡單的GPT-2版本，并研究了它們的接收情況。其他人也復制了工作。在本周的博客文章中，OpenAI現在表示“沒有明顯的濫用證據”，并已完全發布了該模型。

GPT-2可以撰寫虛假的新聞文章，故事，詩歌和代碼

GPT-2是新一代文本生成系統的一部分，它們以最少的提示生成連貫的文本的能力給專家留下了深刻的印象。該系統接受了從網絡上抓取的800萬個文本文檔的培訓，并且可以響應用戶提供的文本片段。例如，給它提供一個偽造的標題，它將撰寫一個新聞故事;給它一首詩的第一行，它將提供一整節經文。

確切地傳達GPT-2的輸出質量是很棘手的，但是該模型通常會產生令人信服的，令人信服的文字，這些文字通常可以使人看起來很聰明(盡管這并不是說GPT-2所做的事情涉及我們認為是認知的任何事情) 。但是，在該系統上玩了足夠長的時間，其局限性變得很明顯。它尤其遭受長期一致性的挑戰;例如，在故事中始終使用字符的名稱和屬性，或者在新聞文章中使用單個主題。

感受GPT-2的能力的最佳方法是自己嘗試一下。您可以在TalkToTransformer.com上訪問Web版本，然后輸入自己的提示。(“變壓器”是用于創建GPT-2及其同伴的機器學習體系結構的組成部分。)

除了GPT-2的原始功能外，該模型的發布還值得關注，這是有關AI研究人員減輕其工作造成的損害的責任的持續辯論的一部分。專家指出，對尖端AI工具的輕松訪問可以使惡意行為者發動攻擊。例如，通過使用Deepfake制作復仇色情影片，我們已經看到了這種動態。由于這種擔憂，OpenAI限制了其模型的發布。

但是，并非所有人都對實驗室的方法表示贊賞。許多專家批評了這一決定，稱該決定限制了其他人為減輕該模型的危害而進行的研究的數量，并且對人工智能的危險進行了不必要的大肆宣傳。

“這句話‘太危險了’被隨便扔在這里沒有很多的思想或實驗的，”研究員Delip饒告訴瀕臨二月回來。“我認為[OpenAI]花費的時間不足以證明它實際上是危險的。”