弗吉尼亚州准备通过一项全州法律，规范“高风险”人工智能的使用。

《高风险人工智能开发者和部署者法案》将对使用影响弗吉尼亚州消费者的“高风险”人工智能系统的企业施加新的合规要求。

该立法涵盖了独立做出或严重影响重要消费者决策的人工智能系统，影响了客户服务自动化、个性化和推荐等领域。

该法案已由弗吉尼亚州参议院正式通过，现在必须由弗吉尼亚州州长签署成为法律，这将使该条例于2026年7月1日生效。

但“高风险”人工智能究竟是什么意思，这将如何影响客户服务和体验团队的发展？

理解法律条文

在讨论这一消息时，联络中心人工智能协会概述了以下五个领域，作为可能与客户体验相关的“高风险”人工智能的实例：

•当它用于自动决定客户是否有资格获得产品或服务时。

•当它用于生成个性化的财务报价和建议时。

•当它用于确定访问高级服务或客户层时。

•当它用于解决争议和流程时，客户会自动提出索赔。

•当它被用来影响信贷审批和融资选择时。

弗吉尼亚州的法律将侧重于“专门用于自主”决策的人工智能解决方案。

虽然这些变化可能会影响目前部署人工智能系统的企业，但在该法案生效之前的16个月时间框架将帮助客户体验团队加快速度。

读者会注意到，该法律的全名涉及开发人员和部署人员；这是因为立法中包含了针对这两个角色的具体指导方针。

根据弗吉尼亚州法律，开发或大幅修改人工智能驱动的客户体验系统的企业被归类为开发人员。

属于这一类别的人必须采取合理措施防止歧视，披露系统目的和限制，提供偏见监测文件，并在重大变更后90天内更新披露。

根据该立法，使用人工智能系统进行客户互动的组织被归类为部署者。

指定的部署人员必须制定人工智能工具的风险管理政策，在部署前进行影响评估，并在人工智能参与决策时通知客户。

必须解释不利的决定，并有机会进行纠正，文件必须保存至少三年。

除了这两种分类外，法律还包括对生成式人工智能（GenAI）使用的具体规定。

该立法要求GenAI使用可检测的标记或识别方法在客户体验应用程序中创建合成内容（音频、视频或图像）。

这适用于人工智能生成的产品演示、虚拟试穿、人工智能语音客户服务和个性化营销。

然而，创意作品和艺术表达也有例外，允许在营销和品牌内容中使用。

在以下情况下使用任何形式的人工智能也包括不同程度的豁免：

•反欺诈技术（使用面部识别的技术除外）

•用于客户数据保护的网络安全工具

•HIPAA涵盖了特定医疗CX场景中的实体

•遵循同等联邦标准的金融机构

对于那些未被豁免且被发现违反新法律的人，非故意违规行为每次最高可导致1000美元的罚款，而故意违规行为每起最高可导致10000美元的罚款。

每个受影响的客户都被视为单独的违规行为，这意味着潜在的罚款可能会增加巨大的成本。

新兴的人工智能趋势

弗吉尼亚州可能是最新的一个，但它并不是第一个引入州特定人工智能法规的州。

科罗拉多州成为美国第一个正式颁布全面消费者保护法规的州，旨在确保公平、无歧视地使用人工智能，为人工智能部署提供基于风险的指导方针，以保护消费者。

加利福尼亚州、伊利诺伊州、明尼苏达州和犹他州目前也在引入某种形式的人工智能法规。

在美国以外，欧盟已经出台了《人工智能法案》，Gartner预测，在未来三年内，欧盟可能会将“与人交谈的权利”纳入其消费者保护法。

很明显，随着人工智能开始成熟，技术的治理将变得更加复杂和温和。

希望最大限度地发挥其人工智能产品潜力的客户服务和体验专业人员将需要了解所有最新的法律法规，否则将面临法律和财务问题。