AI問與答深度產業

我們該如何辨別、對抗 AI 生成的假消息?

我們該如何辨別、對抗 AI 生成的假消息? 假消息,ai 評論, AI, 頭條

最近站長在跟別人聊天時,說到關於人工智慧與機器學習的話題,有人意外提出了這個問題:「ChatGPT 很會一本正經的講幹話,有辦法快速簡單的找出 AI 說的錯誤訊息嗎?」這個問題讓我陷入思考,當下給不出任何答案。回家找了一些資料,基本確定一件事:文字型 AI 內容糾錯,必須依賴用戶的使用習慣;影音、圖片型 AI 內容,則可以透過軟體協助判斷。

文字型 AI 內容,有一些工具可以簡單用來糾錯

先說結論,我並沒有找到適合大眾使用、可完全放心依賴的 AI Fact Checker 工具。理由在於,現階段的 AI Fact Checker 工具,本身多半也是利用 AI 大模型在做回應。這是一個無限循環,你又如何能確定,AI 給你的糾錯資訊本身是正確的呢?

我們該如何辨別、對抗 AI 生成的假消息? 假消息,ai 評論, AI, 頭條

當然,我還是可以提供一些目前查到的工具:

Debunkd:一款幫你判斷文字敘述是否正確的 Chrome Extension 軟體。它的優勢在於界面簡潔直覺、支援文字糾錯以及 AI 圖片協助判斷功能。當你輸入內容時,Debunkd 會幫你判斷是否正確,並且附上參考資訊來源出處;如果你輸入的是中文,它也會自動幫你翻譯成英文,再來幫你驗證正確性(但是他的回答一律是使用英文)。

我們該如何辨別、對抗 AI 生成的假消息? 假消息,ai 評論, AI, 頭條

聽起來是不是很迷人?但是這系統本身應該也是用 AI 在運行的(軟體頁沒有明確說明),在輸入框的下方,Debunkd 依舊有免責聲明:無法保證內容的正確性。

等等,這不就跟 ChatGPT 一樣了嗎?

另外,雖然它會提供參考資訊的來源,但這些來源點進去後有可能出現 404 無法顯示網頁,不確定哪裡出了問題。不過經過我個人的測試,一些明顯的錯誤,它還是能夠辨識出來的,但問題依舊:我無法放心的完全相信它,在重要時刻我可能還是要「想辦法驗證這個驗證工具所驗證出來的資訊的正確性」,無限套娃。

Bing ChatGoogle Bard:我想,應該不需要解釋了吧?這是微軟與 Google 所推出的兩款 AI 聊天機器人。當你無法確定 ChatGPT 生成的内容是否正確時,或許可以考慮使用這兩款 AI 聊天機器人進行「交叉驗證」,看看這兩款機器人有沒有不一樣的看法。

我們該如何辨別、對抗 AI 生成的假消息? 假消息,ai 評論, AI, 頭條

當你使用 Bing 的時候,則可以利用 ChatGPT、Bard 來驗證,以此類推。不過問題跟前面的 Debunkd 相同,這些工具全都無法保證它的正確性,你還是不能完全放心的運用他們來糾錯。

面對 AI 生成的假消息,還是需要靠用戶改變習慣來對抗錯誤

這說來容易,但做起來難,簡單講就是媒體識讀的一部分:用戶要養成尋找「消息來源」的好習慣。

今天無論你看到的內容,是來自 AI 如 ChatGPT、是來自媒體、來自 YouTube 或抖音,來自 PTT 爆卦,還是來自 Dcard 分享,你都必須習慣主動驗證消息的正確性。

如何驗證?不是再去找另一家媒體的說法(這或許有用,但大部分沒用,因為現在天下媒體一大抄,看十篇有九篇是自體繁殖,都來自同一個出處),而是回頭找最原始的內容來看:

  • 是來自英文、俄文還是韓文、簡體中文的報導嗎?你看看原始消息來源,是地方小報?是大媒體?有誰背書嗎?
  • 原始來源是論文嗎?你找出來看看,這論文有經過同儕審查嗎?別人有對論文進行評論嗎?
  • 還是根本沒有原始來源,來源不可考呢?或是來源根本是一個社交媒體的假帳號?
我們該如何辨別、對抗 AI 生成的假消息? 假消息,ai 評論, AI, 頭條

到頭來,用戶自己的判斷,依舊是最重要的一環。很多時候,你可以從「其他人對於該消息的評論」來間接找到有用的訊息。(首先你必須無視那些聳動的、訴諸民粹的無效評論,從無數內容中辨識出有幫助的資訊。當然,這依舊需要依賴個人的判斷能力。)

AI 內卷時代來臨:錯上加錯,垃圾訊息大爆發

如果你想偷懶、節省時間,透過上面我提供的 AI 工具進行交叉判斷,可能是最簡單的 AI 糾錯方式,但相對應的,你必須承擔「可能發生的錯誤」風險。事實上,隨著網路 AI 內容的增加,想要透過搜尋引擎糾錯、找到問題的答案,也變得越來越困難,因為 AI 時代讓一切都內卷了起來。

由 AI 所生成的錯誤訊息,被發送到網路上,再被搜尋引擎收錄,你找到的資訊很可能依舊是錯誤資訊。可怕的還沒結束,AI 的訓練每天都在發生,這些被發送到網路上的錯誤資訊,很可能再被收錄成大數據的一部分,再被拿去訓練 AI,更加强了 AI 生成內容的錯誤率 …。

目前還不確定這些 AI 大廠會如何避免這些問題,但可以確定的是,個人「尋找源頭資訊、判斷可信度」能力的重要性,在 AI 時代不但沒有下降,反而還更高了呢。

Written by
黃郁棋

《科技人》站長,在科技業打滾十年的老屁股,每天都覺得自己要被新技術取代了,完了完了。

公開留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *