什么是影子人工智能？ 企业 IT 的最新安全威胁

过去几年人工智能的兴起震动了整个科技行业，企业网络安全行业也不例外：他们突然面临着影子人工智能。

“影子人工智能”一词是指组织内未经授权使用人工智能的行为。 由于IT部门对此一无所知，因此他们无法跟踪或控制人工智能的使用。

这使得公司面临潜在的剥削或其他问题。 以下是影子人工智能可能成为一个日益严重的问题的原因，以及您的公司可以采取哪些措施。

什么是影子人工智能？

影子人工智能是指员工在公司不知情或未同意的情况下使用人工智能帮助他们完成任务。 当员工不向公司解释这种用途时，该公司就不会意识到其队伍中正在使用影子人工智能。 得到它？ 因为人工智能的使用正在暗处发生。

任务可能会更快地完成，但如果没有人工智能使用的可见性和指南，就不可能完全控制结果。 对于任何业务经理来说，缺乏控制都是业务持续成功的危险信号。

有大量证据表明，影子人工智能已经成为许多行业的一个大问题，即使它尚未导致任何灾难性的安全故障。 至少，我们没有听说过：毕竟，相当一部分科技公司在事后未能报告黑客行为。

这是一个额外的重要事实，为影子人工智能的潜在威胁提供了额外的背景信息。

只有 4.39% 的公司在整个组织中完全集成了人工智能工具

根据 Tech.co 2024 年技术对工作场所影响报告的数据，只有 25 家公司中有 1 家拥有严格的人工智能指导方针。

相比之下，另一项调查中有44%的受访者表示，他们在专业环境和个人环境中都使用人工智能。 这项调查专门针对法国公司，估计有28%的员工在没有公司监督的情况下使用人工智能。

换句话说，尽管过去几年围绕生成文本和图像工具的讨论很热，但企业在制定人工智能法规方面进展缓慢。

为什么影子人工智能很危险

从定义上讲，要确定这种做法的危险性是一项挑战，因为这种做法没有受到监控或完全理解。 以下是最令人担忧的领域。

内部或外部错误信息

我们的报告发现， 49%的高层领导担心大型语言 AI ​​模型生成虚假信息的风险。 我们已经看到了有关人工智能驱动的法律摘要存在缺陷以及其他错误的报道，因此很容易想象内部业务报告或发给重要客户的电子邮件也会发生同样的情况。

网络安全风险

出于编码目的部署人工智能是一种流行的用例，但如果由 IT 支持团队使用，该代码可能包含人工智能生成的错误或黑客可以通过安全协议将恶意软件逻辑炸弹溜走的漏洞。

暴露数据

此外，许多人工智能用户并不知道他们的提示将被免费人工智能工具背后的公司记录下来。 如果私人公司数据用于提示，则会被暴露。 这就是为什么你永远不应该与人工智能平台共享敏感的公司数据等。

合规失败

全球各国政府都在推出自己的人工智能限制和指导方针。 如果没有代表跟踪公司内部的联邦或州监管，您就无法确定员工不会让您的企业接受监管机构的调查。

您的公司如何应对影子人工智能的使用

最终，影子人工智能的威胁是由围绕工作场所人工智能使用的不存在或有限的业务政策造成的。 因此，答案相对简单：您需要制定指导方针，将人工智能的使用限制在特定角色内的特定任务上。

而且，50% 的美国公司表示，他们目前正在“更新内部政策以管理 ChatGPT 的使用并结束 Shadow GPT”，该解决方案似乎已经在推出，尽管进展缓慢。

最安全的选择是全面禁止人工智能的使用：苹果、亚马逊、三星和高盛等几家公司已经禁止至少某些版本的人工智能全天候使用。 然而，这也意味着您也无法从技术工具中受益。

您可能希望在指南中包含有关未来人工智能使用的警告：在等待批准之前，工作人员应该能够在最初的指南之外扩展人工智能的使用，因为人工智能工具未来将继续发展。

公司人工智能使用的最佳实践

公司内部人工智能的使用并不一定都是坏事。 Tech.co 的 2024 年工作场所科技报告发现，那些使用更多协作工具和人工智能的人自我报告生产力更高，而令人印象深刻的是，59% 的人工智能用户拥有更高的工作满意度。

以下是充分利用人工智能的一些技巧：

• 查看培训课程。 许多人工智能培训材料都可以在网上免费获得。
• 不要试图更换工作。 人工智能距离完全取代人类还有很长的路要走。 我们的报告发现，在使用人工智能来编写任务的组织中，63% 的高级领导专业人士表示，人工智能工具对取消工作角色没有任何影响。
• 将人工智能限制于特定的机器人和特定的任务。 ChatGPT 或 Claude 3 可能是目前最好的选择。
• 阅读提示。 最好的提示会得到最好的结果，因此我们整理了一份指南，建议如何思考提示写作。

在我们的 2024 年调查中， ChatGPT是企业内使用最流行的人工智能工具，但其他工具可能也同样有效甚至更好：我们最近的一项测试发现，与 ChatGPT 相比，Claude 3 编写了更好、更容易解析的文本结果。

最后，重要的是要记住，生成文本或图像机器人实际上并不“智能”——在你对人工智能必须提供的任何内容进行橡皮图章之前，你总是需要一个人类指导来仔细检查幻觉或其他谎言。