什麼是影子人工智慧？ 企業 IT 的最新安全威脅

過去幾年人工智慧的興起震動了整個科技產業，企業網路安全產業也不例外：他們突然面臨影子人工智慧。

「影子人工智慧」一詞是指組織內未經授權使用人工智慧的行為。 由於IT部門對此一無所知，因此他們無法追蹤或控制人工智慧的使用。

這使得公司面臨潛在的剝削或其他問題。 以下是影子人工智慧可能成為日益嚴重的問題的原因，以及您的公司可以採取哪些措施。

什麼是影子人工智慧？

影子人工智慧是指員工在公司不知情或未同意的情況下使用人工智慧來幫助他們完成任務。 當員工不向公司解釋這種用途時，該公司就不會意識到其隊伍中正在使用影子人工智慧。 得到它？ 因為人工智慧的使用正在暗處發生。

任務可能會更快完成，但如果沒有人工智慧使用的可見性和指南，就不可能完全控制結果。 對於任何業務經理來說，缺乏控制都是業務持續成功的危險信號。

有大量證據表明，影子人工智慧已經成為許多行業的一個大問題，即使它尚未導致任何災難性的安全故障。 至少，我們沒有聽說過：畢竟，相當一部分科技公司在事後未能報告駭客行為。

這是一個額外的重要事實，為影子人工智慧的潛在威脅提供了額外的背景資訊。

只有 4.39% 的公司在整個組織中完全整合了人工智慧工具

根據 Tech.co 2024 年科技對工作場所影響報告的數據，只有 25 家公司中有 1 家擁有嚴格的人工智慧指導方針。

相較之下，另一項調查中有44%的受訪者表示，他們在專業環境和個人環境中都使用人工智慧。 這項調查專門針對法國公司，估計有28%的員工在沒有公司監督的情況下使用人工智慧。

換句話說，儘管過去幾年圍繞著生成文字和圖像工具的討論很熱，但企業在製定人工智慧法規方面進展緩慢。

為什麼影子人工智慧很危險

從定義上講，要確定這種做法的危險性是一項挑戰，因為這種做法沒有受到監控或完全理解。 以下是最令人擔憂的領域。

內部或外部錯誤訊息

我們的報告發現， 49%的高階領導擔心大型語言 AI ​​模型產生假訊息的風險。 我們已經看到了有關人工智慧驅動的法律摘要存在缺陷以及其他錯誤的報道，因此很容易想像內部業務報告或發給重要客戶的電子郵件也會發生同樣的情況。

網路安全風險

出於編碼目的部署人工智慧是一種流行的用例，但如果由 IT 支援團隊使用，該程式碼可能包含人工智慧生成的錯誤或駭客可以透過安全協議將惡意軟體邏輯炸彈溜走的漏洞。

曝光數據

此外，許多人工智慧用戶並不知道他們的提示將被免費人工智慧工具背後的公司記錄下來。 如果私人公司資料用於提示，則會被揭露。 這就是為什麼你永遠不應該與人工智慧平台共享敏感的公司資料等。

合規失敗

全球各國政府都在推出自己的人工智慧限制和指導方針。 如果沒有代表追蹤公司內部的聯邦或州監管，您就無法確定員工不會讓您的企業接受監管機構的調查。

您的公司如何應對影子人工智慧的使用

最終，影子人工智慧的威脅是由圍繞工作場所人工智慧使用的不存在或有限的業務政策造成的。 因此，答案相對簡單：您需要製定指導方針，將人工智慧的使用限制在特定角色內的特定任務上。

而且，50% 的美國公司表示，他們目前正在“更新內部政策以管理 ChatGPT 的使用並結束 Shadow GPT”，該解決方案似乎已經在推出，儘管進展緩慢。

最安全的選擇是全面禁止人工智慧的使用：蘋果、亞馬遜、三星和高盛等幾家公司已經禁止至少某些版本的人工智慧全天候使用。 然而，這也意味著您也無法從科技工具中受益。

您可能希望在指南中包含有關未來人工智慧使用的警告：在等待批准之前，工作人員應該能夠在最初的指南之外擴展人工智慧的使用，因為人工智慧工具未來將繼續發展。

公司人工智慧使用的最佳實踐

公司內部人工智慧的使用不一定都是壞事。 Tech.co 的 2024 年工作場所科技報告發現，使用更多協作工具和人工智慧的人自我報告生產力更高，而令人印象深刻的是，59% 的人工智慧用戶擁有更高的工作滿意度。

以下是充分利用人工智慧的一些技巧：

• 查看培訓課程。 許多人工智慧培訓材料都可以在網路上免費取得。
• 不要試圖更換工作。 人工智慧距離完全取代人類還有很長的路要走。 我們的報告發現，在使用人工智慧來編寫任務的組織中，63% 的高階領導專業人士表示，人工智慧工具對取消工作角色沒有任何影響。
• 將人工智慧限制在特定的機器人和特定的任務。 ChatGPT 或 Claude 3 可能是目前最好的選擇。
• 閱讀提示。 最好的提示會得到最好的結果，因此我們整理了一份指南，建議如何思考提示寫作。

在我們的 2024 年調查中， ChatGPT是企業內使用最受歡迎的人工智慧工具，但其他工具可能也同樣有效甚至更好：我們最近的一項測試發現，與ChatGPT 相比，Claude 3 編寫了更好、更容易解析的文字結果。

最後，重要的是要記住，生成文字或圖像機器人實際上並不「智慧」——在你對人工智慧必須提供的任何內容進行橡皮圖章之前，你總是需要一個人類指導來仔細檢查幻覺或其他謊言。