概述

Shulex (Voc.ai) 是一家面向全球 VOC（Voice Of Consumers，消费者声音）市场的 AI SaaS 公司，以旗下 AI 工具，助力客户实现 VOC 洞察。在亚马逊云科技以 Amazon Bedrock（仅在海外区域可用）、Amazon SageMaker 为代表的一系列生成式 AI 工具与应用的帮助下，Shulex 提升和强化了旗下一系列出海 AI 工具产品的服务能力，显著提高了用户的满意度和留存率。目前，Shulex 使用的亚马逊云科技服务包括：Amazon Bedrock、Amazon SageMaker、Amazon Simple Storage Service (Amazon S3)、Amazon Aurora、Amazon OpenSearch Service 等。

机会 | 企业 VOC 洞察需求持续增长，亟需借生成式 AI 完成高效分析

随着企业出海的重心从 “数字化出海” 向 “出海数字化” 扩展，借助数字化技术对出海业务进行转型和创新，已成为中国企业出海时的重要考量。其中，VOC 的数字化运营，能够促进企业在传播沟通、商品促销、渠道运营、消费者关系管理等方面的策略制定，同时还将构成品牌公众印象和品牌口碑的基础，深刻影响品牌资产价值，因此 VOC 数字化就成为企业的必然选择。Shulex 瞄准出海赛道的这一机会，开发了 Shulex VOC、Shulex 智能客服等出海 SaaS 应用，以 Shulex 自研模型为基础，帮助出海企业更好地通过数字化方式进行业务升级和创新，实现业务增长。

前期，Shulex 基于 NLP（Natural Language Processing，自然语言处理）技术自研了 VOC 核心机器学习模型，实际使用中获得了良好的效果。但随着企业数字化转型的深入，客户体验触点愈加分散，从之前单一的亚马逊电商网站评论分析、客服邮件，拓展到社交媒体、网络直播、实时聊天等多个领域，产生了多渠道、多类型、多语种的客户反馈数据，因此，基于传统机器学习模型的技术栈也遇到了越来越大的挑战。2023 年初，Shulex 开始尝试和探索应用大语言模型（Large Language Model，简称 LLM）进行更为高效的 VOC 数据分析与洞察。此外，Shulex 还希望通过生成式 AI 的能力来强化 Shulex 智能客服的服务水准，使之一定程度上具备 Agent（代理）的功能，满足用户多样化需求。为此，Shulex 需要引入强大的生成式 AI 服务来升级自身应用。

在选择合作对象时，Shulex 从自身技术栈的构成出发，决定基于 “开源支持” 和 “性能” 这两个要点进行考量。开源支持方面，Shulex 主要使用的是 HuggingFace 这一技术栈，而亚马逊云科技正是 HuggingFace 的首选云供应商，双方已建立了紧密合作；使用 Amazon SageMaker JumpStart 或 Hugging Face 亚马逊云科技深度学习容器 (DLC)，Shulex 能够无缝切换，便捷高效地进行模型的训练、微调和部署。另一方面，Amazon Bedrock 上的 Claude 大模型，支持最长 200k tokens 的分析和处理，这是 Claude 特有的、其他商用大模型难以匹敌的能力，能极大地提升 Shulex VOC 的内容分析和处理效率。并且与目前市面上另一款主流商用大模型相比，Claude 的每百万 Tokens 价格要低 20%，拥有明显的成本优势。因此，Shulex 决定与亚马逊云科技合作，通过亚马逊云科技的一系列生成式 AI 工具和服务，提升旗下产品的性能和能力。

“通过应用 Amazon Bedrock 这一强大的生成式 AI 应用开发平台，我们以 Shulex VOC Analysis Bot 为首的一系列 Bot 的能力得到了强化，用户满意度整体因此有了 15.4% 的提升，用户留存率也提高了 12.1%。我们认为，亚马逊云科技具有非常全面的生成式 AI 开发技术栈，无论是企业自研大语言模型还是快速使用商业模型，都是我们正确的选择。”

潘胜一
Shulex 算法合伙人

解决方案 | 基于亚马逊云科技生成式AI工具调用大模型，促进商业分析提效、增加精准度

Amazon Bedrock 是一项完全托管的生成式 AI 应用开发平台，使用单个 API 即可访问来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型 (Foundation Model)，以及构建生成式 AI 应用程序所需的一系列广泛功能，在维护隐私和安全的同时简化开发。目前，Shulex 旗下主要有 Shulex VOC 和 Shulex 智能客服两条产品线，对应一系列名为 “Bot” 的 AI 工具产品，能够实现商业分析、用户问题自动应答等功能。在亚马逊云科技 Amazon Bedrock、Amazon SageMaker 等产品赋能之下，这些 “Bot” 得以快速开发，并借助大语言模型获得了能力强化。

长达 200k tokens 分析能力，让 Analysis Bot 结论更可靠

VOC 的基础功能，是基于 NLP 技术对客户反馈数据进行处理与分析，如对电商评论进行打标签、分类、提供摘要等等。Shulex VOC 产品的颗粒度较市场同类产品更为细化，可进一步细分出使用场景、用户期望是否满足、用户的标签词占比等指标。在此基础上，它还能实现商品层面的 CPV （Category,Property and Value，商品品类、属性和价值）呈现，帮助进行更精确的商品定位。借助这些信息，Shulex VOC 的用户能够对商品的反馈、销量、 CPV 构成等获得初步的洞察。

在此基础上，Shulex 还借助 Amazon Bedrock 中的 Claude 模型，优化 “Analysis Bot” 工具，寻找 “数据背后的原因”，实现对数据的更深度洞察。如某商品获得某个标签时，企业往往希望通过进一步分析用户的留言、评论以及在社交媒体等各种场合的言论等，得知该标签的产生原因，以便制定相应的商业策略。然而，用户的表达可能是各种方式、没有统一的关键词，依靠简单的 NLP 通用能力难以处理。而当商品的评论量达到几千或上万级别时，以人工检索分析的方式进行也不再现实，因此，以更强大的商用大模型做内容分析就成为唯一可行的方案。Analysis Bot 利用 Claude 模型可以一次性对海量客户反馈（支持 200K tokens 上下文长度）进行数据和语义分析，企业可以通过对话的方式持续深度挖掘，对大量评论进行语义识别，归纳、总结出标签生成的原因， Shulex 将这一过程称之为 “Tag Reasoning”（标签推理）。由于 Claude 支持最长 200k 的 tokens 分析，Tag Reasoning 不仅能够一次性输入更多内容、进行更为高效的分析，内容之间的关联性也因此更为紧密，这使得 Tag Reasoning 的结论更可靠、更有说服力。并且，依托 Claude 的强大能力，AnalysisBot 能够基于多个不同 Tag Reasoning 结论，对商品、客户数据给出商业分析级别的报告，Shulex 目前正在积极推进这一项目。

Shulex 算法合伙人潘胜一表示，“AnalysisBot 在某应用场景中，对数据的分析结果，与我们某位资深客户的分析结论完全一致。客户认为，AnalysisBot 有望在未来节约商业决策所需时间，加速业务发展。”

Shulex 基于亚马逊云科技的系统架构示意图

低“幻觉”、高知识召回精度，助力 AI Bot 实现更佳用户体验

AI Bot 是 Shulex 智能客服中用于直接与用户沟通、产生回答的工具，提供 10 种不同语言的邮件和聊天服务，且能 24 小时在线，1 分钟内及时回复客户问题。Shulex 为 AI Bot 的使用和提效设计了 “构建框架 - 应用框架 - 强化框架” 三个步骤，而 Amazon Bedrock 上的 Claude 大模型，贯穿于这三个步骤之中，起到了关键作用。

首先，由于每一位客户的经营领域都不一样，智能客服需要针对客户的经营领域，构建出对应的 RAG（Retrieval Augmented Generation，检索增强生成）框架，使之能够在一个既定框架内回答问题。这一步操作通常是通过对客户网站的帮助中心、客户产品的使用手册、客户客服过往的对话记录进行分析和提炼来实现，Claude 拥有强大的语言分析和处理能力，能够高效、迅捷地完成框架构建。第二步也即运用基础 RAG 框架回答用户问题的过程，Shulex 把它视为对 NLP 通用问题进行求解：识别用户问题中的关键词，确认用户的意图，然后根据意图在 RAG 框架中进行知识召回。在这一步中，Claude 作为生成式 AI 的典范，在回答问题时可以对语句进行优化，让回答更容易理解、更平易近人、更有温度。实际使用过程中，Shulex 认为 Claude 的 “幻觉” 回答（Hallucination，生成式 AI 的错误回答）几率较低，很好地满足了用户需求。而第三步也是最重要的一步，则是反过来对现有知识库中的内容进行基于相关度、召回准确率的 Ranking 排序，辅以匹配用户的强 / 弱需求，在后续回答时进一步提升命中率，实现对整个 RAG 框架的逐步强化。在 AnalysisBot 的应用中，Claude 已经证明它能够有效分析内容的相关性，给出商业应用级别的结论；将其用于 AI Bot 这样的非商业、面向最终用户的应用，它更是得心应手。

除此之外，Amazon Bedrock 也提供丰富的大语言模型和 embedding 模型（将文本数据转换为计算机可识别的特征向量，用于后续的向量相似度查询、搜索等场景）供客户选择，其中的 embeding 模型可支持 100 多种语言，涵盖了东南亚多国小语种，支持了客户的全球业务拓展。并且亚马逊云科技提供多种的向量数据存储方案，如 Amazon OpenSearch Serverless 的向量引擎，它提供一个简单 API，用于存储和查询数十亿个 embedding；Amazon Aurora PostgreSQL 兼容版关系数据库，带有 pgvector 开源向量相似度搜索扩展插件等。

目前，AI Bot 的持续优化正在有条不紊地进行。

借助 Agent 编排能力，扩展 Task Bot 服务范围

Agent 是大语言模型技术领域的重点发展方向，Shulex 也正在重点研发 Agent 产品 ——Task Bot。Shulex Task Bot 的设计初衷，是在 Shulex 智能客服的某些场景中协助用户完成自动化办理或查询等任务，如协助用户查询订单的物流进度、完成订单退货等。其中，基于 NLP 通用规则分析用户的自然语言输入，准确判断出用户的需求，这是 Shulex Analysis Bot 既有的能力，Task Bot 已经完美实现。而以 Function call 方式调用外部 API 接口，完成单一任务请求，也依然在目前 Shulex 所使用大模型力所能及的范围之内。然而，当需要分解用户请求成为多个子任务，并且根据优先级进行工作流的处理和编排时，就需要 Agent 的协助了。

Amazon Bedrock Agent 功能，可以帮助客户轻松创建和部署完全托管式的 Agent，通过调用 Agent API 来执行复杂的业务任务，如 Action 计划编排、业务 API 动态调用或知识库查询等一系列工作。如在自动订单退货场景中，Amazon Bedrock Agent 会在理解用户指令后，调用数据库查询订单状态，然后通过向量搜索查询知识库，确认是否符合退货政策，并综合以上信息给出用户退货答复及操作指引。目前，双方正在就此合作进行紧密接洽，Shulex 期待在不久的将来，通过调用 Amazon Bedrock Agent 的方式，进一步强化 Shulex 智能客服 Task Bot 的能力，更好地为用户服务。

除此之外，亚马逊云科技具有引领全球的安全合规理念与实践，Amazon Bedrock 可以为客户构建满足数据安全性和合规性标准（包括 GDPR 和 HIPAA）的生成式 AI 应用程序提供技术支持，并助力 Shulex 旗下的一系列出海产品满足安全合规方面的要求。由于 AI Bot、Task Bot 等智能客服会直接与用户对话，其中可能涉及用户个人身份信息 (PII)，如姓名、电话、家庭住址等。Amazon Bedrock 具有如 Guardrails 等一系列防护机制，允许检测用户输入的 PII 信息，并拒绝用户输入这些信息，同时还能提供带有可配置自定义阈值的内容筛除条件，屏蔽不良话题，且支持企业特定用例设定自定义防护策略。

业务成果 | 助力 Shulex 应用敏捷落地、效果卓著，前景可期

Amazon Bedrock 是使用基础模型构建和扩展生成式 AI 应用程序的简单方法。在亚马逊云科技相关服务和技术团队的协助下，Shulex 从开始评估大语言模型的能力，Prompt Engineering 优化，到 Analysis Bot 性能测试，业务并发能力提升，灰度上线测试再到全面线上更新，整个流程仅用时三周，大幅缩短了生成式 AI 应用程序的开发周期、大幅减低了开发难度。Shulex VoC Analysis Bot 上线后，带来了用户满意度整体 15.4% 的提升，用户留存率也因此提高了 12.1%，这样的成绩令人瞩目并极大地增强了双方后续的合作信心。

Shulex 算法合伙人潘胜一指出，Shulex 也正在加速投入自研大语言模型的开发，“通过使用 Amazon SageMaker，Shulex 算法工程师可以更方便地进行数据清洗、训练和部署自研大语言模型，整体模型迭代时间比使用传统 IDC 训练的方式缩短了 30%。而通过应用 Amazon Bedrock 这一强大的生成式 AI 应用开发平台，我们以 Shulex VOC Analysis Bot 为首的一系列 Bot 的能力得到了强化，用户满意度整体因此有了 15.4% 的提升，用户留存率也提高了 12.1%。我们认为，亚马逊云科技具有非常全面的生成式 AI 开发技术栈，无论是企业自研大语言模型还是快速使用商业模型，都是我们正确的选择。”

如今，Shulex VOC 数字化工具和 Shulex 智能客服，正在为广大出海客户，以及许多海外本土客户服务。未来，Shulex 还希望进一步就 Amazon Bedrock 与亚马逊云科技展开合作，继续深化 Shulex 智能客服 Task Bot 的 Agent 能力，同时基于 Amazon Connect，就语音方面的客户服务做链路切入或集成，更好地贯彻 “以 AI 赋能 SaaS 服务，助力客户数字化转型” 的愿景，服务好众多海内外客户。

关于 Shulex

Shulex (Voc.ai) 是一家面向全球 VOC 市场的 AI SaaS 公司。借助业界领先的生成式 AI 基础模型构建针对行业场景的 AI 应用，提高 产品经理和市场运营的洞察力，帮助品牌客户优化产品和品牌。 公司 2021 年 8 月成立，目前 50 人，目前注册用户超过 15 万。

【原创申明】为了更好保护支持原创内容和对忠实读者负责，本网站跨境阿米SHOW（网站地址：www.amishow.com）及公众号跨境阿米SHOW（微信号：amishow321）刊载的包括文字、图片、音频、视频等所有内容，除签署正式付费转载协议伙伴外，禁止任何形式的复制、转载、修改或者以其他方式使用本网站或本公众号的内容。本网站或本公众号部分引用资料只代表原作者意见，不代表本网站www.amishow.com或者本公众号『跨境阿米SHOW』任何立场，如发现本站文字存在版权疑问，请联系我们「微信号:amishow01」「邮箱copyright@amishow.com」处理。