Amazon 警告員工：不要向 ChatGPT 分享機密資訊，包括正在寫的程式碼

自從 OpenAI 公司於 2022 年 11 月釋出人工智慧聊天機器人 ChatGPT 以來，它一直受到科技領域的熱捧，但是科技巨頭 Amazon 卻對其充滿了警惕，甚至警告員工「不要向 ChatGPT 分享機密資訊」。

Amazon 的內部 Slack 頻道中有許多關於如何使用 ChatGPT 的問題，其中一些員工想知道他們是否被允許在工作裝置上使用 AI 工具來工作，而另一些則是想了解 Amazon 是否制定了關於使用 AI 工具的官方指導。

不久前，Amazon 的一名公司律師加入了討論，在 Slack 頻道中，他警告員工不要向 ChatGPT 提供「任何 Amazon 機密資訊，包括正在寫的程式碼」。

向 ChatGPT 分享機密資訊是可以的嗎？

隨著生成式 AI 的極速擴散，有越來越多問題急需解決與討論，例如「不該被拿來當訓練材料的內容，都被拿來使用」的情況該如何處理。現在，Amazon 公司正在直接面對這個問題。

從 Amazon 的 Slack 討論我們可以發現，ChatGPT 的出現引發了許多新的問題，該工具是一種對話式 AI，可以以更清晰、更明智的方式回答問題。ChatGPT 的迅速擴散可能會顛覆多個行業，例如媒體、學術和醫療保健行業，這迫使人們努力尋找聊天機器人的新的使用方式，以及探討其可能帶來的影響。

員工如何與 ChatGPT 共享機密資訊、以及其開發者 OpenAI 如何處理這些資訊，可能會成為一個令人爭論不休的問題。特別是對於 Amazon 來說，其主要競爭對手 Microsoft 已經在 OpenAI 投入了大量的資金。華盛頓的立法者也認識到，AI 可能會對社會產生重大影響，並且正在努力確保 AI 的發展和使用是安全的。

隨著 ChatGPT 這款生成式 AI 工具的使用，如何保護機密資訊變得至關重要。現在人們需要開始考慮，如何與 ChatGPT 共享資料才是安全的，以及OpenAI（ChatGPT的開發者）會如何利用這些資料的問題。

資安隱憂成為 ChatGPT 等「生成式 AI」的頭號問題

華盛頓大學計算語言學教授艾米莉·本德爾（Emily Bender）認為，OpenAI 在資料使用方面缺乏透明度，儘管他們可能只會將資料用來訓練 AI，但是公司應該要注意的是，在未來幾個月後，其他使用者是否可以透過聰明的提問來得到公司的機密訊息？

亞馬遜有多種內部安全措施來試圖保護資訊安全。例如，當員工在工作裝置上訪問 ChatGPT 網站時，會出現一條警告訊息，告訴他們即將訪問一個「可能未經亞馬遜安全部門批准的外部服務」。儘管如此，員工們報告說，他們仍可以透過點選「確認」來繞過這條訊息。

參與 Slack 討論的員工討論到，使用 AI 工具作為「Coding 助手」來改進程式碼的可能性。一位員工甚至報告說，他們在 ChatGPT 上詢問了 Amazon 的一個工程師職位面試問題，並從 AI 模型中獲得了準確的解決方案。

亞馬遜似乎正在積極加速開發與 ChatGPT 競爭的技術，例如語音助手 Alexa 和程式碼推薦服務 CodeWhisperer。一位 AWS 員工透露，他們已經成立了一個工作組，以「瞭解先進的聊天 AI 對我們業務的影響」。研究表明，ChatGPT 在解決 Aurora 資料庫問題、為 AWS 認證雲架構師證書考試建立培訓材料等企業任務方面非常有效。

考慮到 ChatGPT 的規模迅速增長，在推出一週內就突破了 100 萬用戶，現在還很難看出 OpenAI 將會如何「識別」和「刪除」所有不該被運用的機密個人資料，而這勢必成為隱憂。