确保人工智能驱动的客户体验：将人工智能与网络安全相集成

如今，组织正在大规模地逐步采用和集成人工智能——改变他们的日常工作方式。

从长远来看，人工智能可以改变您的客户服务运营，同时为您的公司提供令人着迷的新机遇。 新研究表明，能够使用生成式人工智能 (AI) 工具的人比不使用生成式人工智能 (AI) 工具的人表现要好 14%，营销技术中的人工智能现在已成为赌注。

然而，一个大问题仍然存在：您打算如何处理有关信息安全和信任的担忧？

请记住，企业渴望利用人工智能的潜力，同时穿越安全和道德数据利用的复杂环境。 这使得人工智能网络安全成为一个关键考虑因素，即使您在增强客户体验时也是如此。

管理客户数据时人工智能和网络安全的交叉点

最近接受调查的销售、服务、营销和商业领域的专业人士中有 73% 表示，生成式人工智能带来了新的安全风险。 超过 60% 打算实施人工智能的人必须弄清楚如何安全地实施人工智能，同时保护敏感数据。 前面提到的风险在医疗和金融服务等受到严格监管的行业尤其重要。

在日益互联的世界中，随着客户通过各种平台与企业互动，不可否认的是，组织积累了大量的客户信息。

然而，他们有法律义务保护他们收集的数据，例如个人身份信息 (PII)、个人健康信息 (PHI) 和个人身份财务信息 (PIFI)，所有这些都可能用于识别或定位个人。

安全漏洞不仅仅是违规事件，而且还会不可磨灭地侵蚀客户信任和市场商誉。 例如，金融服务公司 Equifax 在允许客户数据遭到泄露后，花了近一年的时间才恢复市场。

在生成人工智能的背景下，这一挑战进一步加剧。 Gen AI 生成与训练数据类似的新数据； 因此，本材料中不得包含任何敏感信息。

如果不关注人工智能网络安全和隐私，生成无意侵犯个人 PII 的内容的可能性仍然很高。

营销领导者应了解的人工智能驱动系统中的主要网络安全风险

尽管将人工智能融入消费者体验有很多好处，但它也带来了一些网络安全风险。 这些都是 ：

1. 数据隐私和保护问题

收集、分析和存储的个人信息可能对人工智能算法的性能至关重要。 然而，如果缺乏人工智能网络安全措施，非法披露是可能的。 未经测试的代码实例可能会导致聊天机器人在进行实时对话时向另一个用户显示单个用户的购买历史记录。 这严重违反了隐私法规。

不安全或薄弱的人工智能系统可能会为黑客提供丰富的消费者信息。 想象一个场景，其中您存储的消费者数据的加密需要改进，或者尚未强制执行访问控制。 这就是为什么 42% 的品牌认为平衡网络安全和客户满意度是 2023 年最重大的挑战。

2. 针对人工智能攻击的脆弱性

随着人工智能客户体验变得越来越普遍，恶意行为者稍微落后了。 数据中毒的一个典型例子是操纵或破坏用于训练机器学习和深度学习模型的数据。 这种攻击有时被称为“模型中毒” ，试图损害人工智能输出和决策的准确性。

同样，对抗性攻击可能会威胁客户数据运营。 它们生成的数据集肉眼看来状况良好，但会导致机器学习工作流程中的分类不准确。 黑客通过捏造“噪音”的形式发起攻击来实现这一目标，从而导致人工智能/机器学习错误分类。

渗透攻击使情况更加恶化。 它们可能被用来窃取训练数据； 例如，恶意个人获取了数据集的访问权限，然后继续放错位置、转移或窃取数据。 此外，随着人工智能模型的可预测性提高，特定提示可能会导致额外信息的意外泄露。

3. 合规和监管挑战

接受具有潜在偏见的个人输入的人工智能可能会产生偏差的编程，从而导致不合规风险并可能损害您的财务业绩。 例如，当亚马逊实施其人工智能框架来筛选候选人时，该算法表现出对男性候选人提交的简历的偏见。

就人工智能客户体验而言，想想一个聊天机器人，它主要使用高价购买的消费者提供的数据进行训练，以便它能够响应产品查询。 聊天机器人可能会提供简短且不太有用的描述来回答客户有关廉价、实惠产品的询问。

歧视性和偏见（无论是有意还是无意）的技术可能会对公司的合规状况和财务业绩造成重大损害。 此外，人工智能具有巨大的不道德利用潜力，这意味着组织可能会做出使其面临反垄断责任的决策。

例如，如果一个组织错误地选择利用人工智能来进行定价决策，则可能会扰乱健康的市场竞争，招致监管审查和可能的处罚。

保护人工智能客户体验系统的最佳实践

幸运的是，克服人工智能网络安全的挑战并非不可能，通过投资适当的措施，品牌可以继续在客户运营中受益于人工智能的力量。

1.实施更强大的访问控制

企业必须建立基于角色的访问控制和用户验证流程，以防止未经授权的访问客户记录和人工智能应用程序。 这涉及实施限制访问的步骤，例如有时限的密码、多重身份验证和大多数次要特权策略。

2. 加密动态和静态的客户数据

加密可以在数据生命周期的每个阶段（在数据与人工智能应用程序之间的传输过程中）保护数据。 例如，TL​​S 和 SSL 广泛用于传输协议中。 为了进一步保护静态数据，企业可以实施文件加密或数据库加密策略，包括人工智能训练数据集。

3、采用保密云计算

机密云计算即使在处理数据时也可以保护数据； 这使得它对于人工智能客户体验极其重要。 这些保护措施使用可信执行环境和同态加密等算法策略来保证数据安全和隐私，无论处理阶段如何。

3. 在您的生成人工智能系统中进行毒性检测测试和接地

毒性检测是一种检测有害内容（包括仇恨言论和负面刻板印象）的方法。 使用机器学习 (ML) 模型对法学硕士提供的回答进行分析和排名，可确保任何输出（无论是哪一代）从业务角度来看都是富有成效的。

此外，通过将模型“扎根”在实际数据和相关背景中，动态扎根可以指导法学硕士使用最新和精确的数据做出反应。 这可以防止不基于现实或事实或“人工智能幻觉”的错误反应。

4. 执行严格的数据保留政策

组织最多只能保留 BAU 客户运营所需的客户数据。 利用消费者数据保留策略可以抵消未经授权的访问和违反人工智能网络安全的风险。 这可确保遵守 GDPR、HIPAA、CCPA 等重要数据保护法，同时增强隐私性。

5. 在制定人工智能训练数据集时练习屏蔽

在数据脱敏过程中，使用匿名数据代替敏感、机密信息，以保护私人数据并符合法律法规。 在训练人工智能模型时，数据脱敏可以帮助确定所有个人身份信息（例如姓名、电话号码和地址）已被删除。 这不仅有助于人工智能网络安全（通过减少潜在黑客的有效负载），而且还可以减少偏见。

建立消费者对人工智能系统的信任

很难想象人们曾经对电子商务不信任！ 在这个每年价值 1 万亿美元的行业得到广泛采用之前，许多普通消费者对其机密和财务数据的安全心存疑虑。 信任赤字——对于任何新想法取得成果来说，这是一个重要的、在某种程度上是无形的（但至关重要的）因素。

信任将决定企业和消费者成功接受人工智能（特别是生成式人工智能）崛起的程度。

一些公司可能会尝试改变其客户体验计划，而不执行消除偏见、保证数据保护和提供全天候透明度的艰巨任务。

然而，这项工作将精确地决定人们（您的员工或您的客户）将如何相信人工智能令人难以置信的变革力量，并如何从人工智能客户体验中为您的组织赢得最大的投资回报率。

接下来，阅读有关面向企业领导者的民主化、可操作性、负责任的 AI 和 ML 的AWS 白皮书。 请单击顶部的社交媒体按钮与您的网络分享本文。