互聯網提供了建設性對話與合作的潛力，但在線對話往往會淪為人身攻擊。希望能夠避免這些攻擊，康奈爾大學的研究人員已經創建了一個模型來預測哪些民事談話可能會發生毒性轉變。

在對維基百科上的數百個交易所進行分析后，研究人員開發了一個計算機程序，用于掃描紅旗 - 例如重復，直接提問和在前兩個帖子中使用“你”這個詞 - 來預測最初的民事談話會出錯。

研究發現，早期的交流包括問候，表達感激之情，諸如“似乎”的對沖以及“我”和“我們”這兩個詞更可能保持文明。

“有數百萬次這些討論，你不可能現場監控它們。這個系統可能會幫助人類主持人更好地引導他們的注意力，”信息科學助理教授兼共同作者克里斯蒂安·丹尼斯庫 - 尼庫列斯庫 - 米齊爾說。文章“對話失敗：發現會話失敗的早期跡象”。

“我們人類對如何檢測某些事情是否變壞有直覺，但這只是一種懷疑。我們不能百分之百地做到這一點。因此，我們想知道我們是否可以建立系統來復制這種直覺，因為人類既昂貴又忙碌，我們認為這是計算機有可能超越人類的問題，“Danescu-Niculescu-Mizil說。

計算機模型也考慮了Google的Perspective，這是一種用于評估“毒性”的機器學習工具，大約65%的時間是正確的。人類在72%的時間里正確猜對了。

人們可以測試自己的能力來猜測哪些對話會在在線測驗中脫軌。

該研究分析了1,270個對話，這些對話是從民間開始但墮落為個人攻擊，從1600萬個維基百科“談話”頁面中的5000萬個對話中挑選出來，編輯們討論文章或其他問題。他們成對地檢查了交換，比較了每個在同一個主題上取得成功的會話，所以結果并沒有受到政治等敏感主題的影響。

該論文與康奈爾大學博士共同撰寫。信息科學專業學生Justine Zhang; 博士 計算機科學專業的學生Jonathan P. Chang和Yiqing Hua; Jigsaw的Lucas Dixon和Nithum Thain; 維基媒體基金會的Dario Taraborelli將于7月15日至20日在澳大利亞墨爾本舉行的計算語言學協會年會上發表演講。

研究人員希望這種模式可用于拯救風險對話并改善在線對話，而不是禁止特定用戶或審查某些主題。一些在線海報，例如非母語英語使用者，可能沒有意識到他們可能被認為是攻擊性的，這種系統的警告可以幫助他們自我調整。

“如果我有找到人身攻擊的工具，那已經太晚了，因為攻擊已經發生，人們已經看到了，”Chang說。“但是，如果你理解這次談話朝著一個糟糕的方向前進并采取行動，那么這可能會讓這個地方更加歡迎。”