Home 其他 產業 為避免 AI 被拿來影響美國大選,OpenAI 出手了:禁止模仿
產業AI其他

為避免 AI 被拿來影響美國大選,OpenAI 出手了:禁止模仿

allison saeng W8u1HyiwLQw unsplash

為應對即將到來的美國 2024 年總統大選,ChatGPT 背後的母公司 OpenAI 近日更新了政策,以防範選舉相關假訊息的傳播,嚴格限制旗下產品用來模仿候選人、政府以及競選與遊說,這或許會大大影響未來的 AI 運用政策。

OpenAI 為應對美國大選假訊息的新政策

近日,OpenAI 宣佈了一系列新的政策,目的在防止旗下 AI 工具在即將到來的 2024 年美國總統選舉中被濫用。這一決策背後的原因是顯而易見的:隨着 AI 技術的日益成熟,其在選舉中的潛在影響力不容小覷。

getty images ycloagdiy 4 unsplash2481487082651444234

根據《華爾街日報》的報導,OpenAI 已禁止旗下的 AI 工具被用來模仿候選人或地方政府,同時也禁止將這些工具用於競選活動或遊說,這包括但不限於 AI 圖片的建立、文字用句的模仿等等。

此外,OpenAI 還明確禁止使用他們家的 AI 工具來阻礙投票行為,或歪曲投票過程。

OpenAI 導入 C2PA 證書:加強生成式圖像真實性驗證

OpenAI 計劃在今年將內容來源和真實性聯盟(C2PA)的數位證書整合到旗下的 Dall-E 圖像生成工具中,例如 ChatGPT Dall-E 應用。這一系統將使得人工生成的圖像更易於識別,即便在細節處理上無懈可擊,依舊能被判斷出是否是 AI 生成。

levart photographer 7q ke4szzvq unsplash6339823810333719902

除了 OpenAI,微軟、亞馬遜、Adobe 和 Getty 等公司也正在參與這一計劃。

引導選民查詢正確資訊:強化投票指導

針對美國選民提出的有關投票的問題,OpenAI 的工具將指引用戶前往 CanIVote.org 查閱資料,這是一個關於如何和在哪裏投票的權威網路資源。

考量到 AI 本身的快速變化,包括運用 AI 工具寫詩、寫一些一本正經的謊言方面的能力,這些措施在選舉季的到來,是否可以有效防止虛假訊息傳,效果尚不明確。

rolf van root lyi1t85lry8 unsplash939581193604307397

由於 OpenAI 旗下的 ChatGPT 是全球 AIGC 工具中的領導者,OpenAI 對於 AI 的監管政策,會相當大程度的影響全球其他產品的運營方向。

或許在不久的將來,為了避免工具被濫用,AI 工具的適用範圍將會被大大限縮。

公開留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *