利用人工智慧本身來檢測人工智慧創造的假新聞

利用人工智慧本身來檢測人工智慧創造的假新聞

最近,哈佛大學和麻省理工學院的 AI-MIT Watson 實驗室的研究人員創建了 GLTR 工具(Giant Language Model Test Room - 巨型語言模型測試室),利用人工智慧本身來檢測來自 AI 的資訊偏差。

GLTR工具清楚地了解AI是如何運作的,然後分析資訊內容。該工具透過突出顯示一段文字來檢測人工智慧技術創建的假新聞。讀者可以透過下圖了解 GLTP 的分析功能。以綠色突出顯示的單字是最可預測的,紅色和黃色的單字不太可預測,紫色是最不可預測的。

利用人工智慧本身來檢測人工智慧創造的假新聞

科學家依靠每段文本的顏色和分析來評估資訊的真實性,無論它是否是由演算法創建的。由於使用了許多困難的單詞,以紅色、紫色和黃色突出顯示的文字不太可能由人工智慧產生。如果文字被大量藍色覆蓋,則意味著有很多常見單詞,並且很可能是由機器人創建的。該工具有助於將虛假文字偵測率提高約 72%。

利用人工智慧本身來檢測人工智慧創造的假新聞

本質上,人工智慧文字產生器寫出的句子可能在語法上是正確的,但肯定會存在語義問題,或者在許多情況下甚至缺乏任何真正的含義。任何原因。

目前,利用人工智慧和非自然語言生成模型製造假新聞、傳播假訊息的現象越來越普遍,為社會帶來了嚴重後果。這些假文本有時極其複雜,使讀者很難意識到它們是由機器而不是人類編寫的。同時,GLTR工具具備準確區分上述類型假文本的能力,是有效的「天敵」AI工具。這也是GLTR計畫研究者的核心思想。

類似GLTR的措施應該盡快在實踐中得到推廣和廣泛應用。它們不僅在偵測假文字方面很有價值,而且在識別 Twitter 機器人方面也發揮著特別有效的作用,Twitter 機器人經常被用來擾亂美國和許多其他國家的選舉。

利用人工智慧本身來檢測人工智慧創造的假新聞利用AI本身來檢測AI是有效的「天敵」措施

在GLTR誕生之前,有一種廣泛使用且相對有效的基於AI的識別工具,稱為Botometer。從本質上講,Botometer 使用機器學習技術來確定任何帳戶是由人操作還是由軟體演算法操作。該工具能夠識別機器人帳戶和非人工操作的虛假帳戶,準確率高達 95%。

再次指出並強調需要創建協作式人工智慧系統來解決常見的技術/社會問題。這是當前數位化、人工智慧時代人類面臨的一項艱鉅但又極為迫切的任務。

看更多:


歐洲將成立ChatGPT工作小組

歐洲將成立ChatGPT工作小組

聯合歐洲國家隱私監管機構的機構週四表示,已成立一個專門負責 ChatGPT 的工作小組

AI預測人類死亡時間,準確率達78%

AI預測人類死亡時間,準確率達78%

丹麥和美國科學家合作開發了一種名為 life2vec 的人工智慧系統,能夠高精度預測人類死亡時間。

AI僅透過尿液聲音預測泌尿系統疾病

AI僅透過尿液聲音預測泌尿系統疾病

一種名為 Audioflow 的人工智慧演算法可以聆聽排尿的聲音,從而有效、成功地識別患者的異常尿流和相應的健康問題。

調酒師注意了:這個機器人只要1分鐘就能調出一杯雞尾酒

調酒師注意了:這個機器人只要1分鐘就能調出一杯雞尾酒

日本的老化和人口減少導致該國缺乏大量年輕工人,特別是在服務業。

當數百人得知他們所愛的女孩是人工智慧的產物時,他們的幻想破滅了

當數百人得知他們所愛的女孩是人工智慧的產物時,他們的幻想破滅了

名為 u/LegalBeagle1966 的 Reddit 用戶是眾多迷戀 Claudia 的用戶之一,Claudia 是一個電影明星般的女孩,經常在這個平台上分享誘人的自拍照,甚至是裸體的。

又有12家潛力公司加入微軟「AI聯盟」。

又有12家潛力公司加入微軟「AI聯盟」。

微軟剛剛宣布,又有 12 家科技公司將參與其 AI for Good 計畫。

AI有血有肉再現七龍珠角色

AI有血有肉再現七龍珠角色

使用者@mortecouille92利用圖形設計工具Midjourney的力量,創建了著名龍珠角色的獨特逼真版本,如悟空、貝吉塔、布瑪和老龜。

改善 ChatGPT 反應的 7 種技巧

改善 ChatGPT 反應的 7 種技巧

只需添加一些條件或設定一些場景,ChatGPT 就可以為您的查詢提供更相關的答案。讓我們看看可以提高 ChatGPT 響應品質的一些方法。

驚嘆人工智慧繪製的精美畫作

驚嘆人工智慧繪製的精美畫作

Midjourney是一個人工智慧系統,最近在網路社群和藝術家界引起了“熱潮”,因為它的畫作極其精美,不遜色於真正的藝術家。

這個人工智慧模型是最早發現武漢肺炎疫情消息的「專家」之一。

這個人工智慧模型是最早發現武漢肺炎疫情消息的「專家」之一。

在中國宣布疫情爆發幾天后,透過獲取全球機票銷售數據,BlueDot 的人工智慧系統繼續準確預測武漢冠狀病毒向曼谷、首爾、台北和東京的傳播。