基于 LLM 技术优化产品流程
在本文中，我们会结合简单的示例，一起研究和学习基于大型语言模型 (LLM) 的产品开发流程，了解基于 LLM 的产品实现的所有必要阶段，包括规划、执行和监控。
自 ChatGPT、Midjourney、Runway 等产品推出以来，围绕生成式人工智能 GenAI 的讨论非常热烈。它所拥有的潜力令人兴奋，有望彻底改变行业并重新定义用户体验。然而，生成式人工智能的成功实施需要战略方法、对流程的理解以及清晰的路线图来应对所涉及的复杂性。
对于初次尝试结合 LLM 对产品进行重构或优化的新手 AI 产品经理，关键在于理解如何将这些工具集成到现有的产品管理流程中。让我们把这个过程分解为几个基本阶段，这些阶段需要周密的计划、精确的执行和警惕的监控。
首先，识别你的产品中可以通过 LLM 提升的部分，例如客户支持、内容生成或数据分析。其次，确定你的业务目标和用户需求，这将帮助你选择合适的 LLM 平台和模型。接着，通过小规模实验来测试 LLM 的效果，并根据反馈进行迭代优化。最后，不断监控 LLM 的表现，并确保它符合业务的长期战略和合规要求。
01 准备：规划基于 LLM 的产品项目
与任何成功的项目一样，LLM 开发项目需要经过彻底的思考和周密的规划。准备阶段致力于制定项目的总体目标并概述战略计划的细节。
阶段目标
此阶段可以由想要构建产品的公司/团队独立进行，也可以与其决定合作的 LLM 提供商（例如 Azure AI、百度千帆、华为盘古、智谱 AI……）合作进行。
在这一阶段，收集必要的资源非常重要，包括将用作上下文输入或用作 LLM 训练过程的数据集的相关数据。第三方供应商（例如 LLM 提供商）可能无法访问某些数据。因此，在现阶段就考虑如何克服这些障碍是必须的。
假设我们是一家名为 Nice 的自营电子商务公司的产品经理，公司（的运营部门）期望我们能提供一个工具（让我们把它命名为'商品描述生成器'），可以根据产品功能的简短列表为其网站生成产品描述。
在此阶段，我们应该收集数据，例如内容风格指南、每个产品的特征列表以及现有的产品描述，这些数据将在训练过程中用作 LLM 的上下文输入和输出。例如，如果公司无法与第三方供应商共享部分信息，可能是因为我们正在推出一款新产品，其详细信息仍然保密，那么就应该在现阶段考虑这个问题，并寻求合理的解决方案。
识别利益相关者（项目干系人）
利益相关者包括首席执行官、首席技术官和产品经理等战略决策者。产品经理通常是这个战略阶段的关键人物，因为我们对技术和业务都有所了解，是能够衔接和转换需求的人。
此外，最终实施该解决方案的人员也必须参与其中，以贡献他们的技术和实践专业知识。其中包括数据科学家、数据工程师、软件工程师、开发人员和设计师。
此外，除了业务分析师和领域专家协助做出最明智的战略决策外，法律和合规团队还应参与解决隐私问题。
当然，在小公司/团队中，可能并不具备这样'完整'的人员配置。
02 构建产品
一旦准备阶段完成，并制定了所需的结果，就可以构建模型了。
阶段目标
在这个阶段，我们的目标是落实准备阶段制定的所有计划，达到预期的结果；即 LLM 模型接受特定的输入并检索和生成适当的输出。
本阶段要完成的任务包括：
- 选择语言模型：这将在 LLM 提供者的帮助下完成。根据具体用例，需要考虑许多不同的因素。这些因素包括成本、性能和模型处理用例复杂性的能力。
- 定义用户流程和线框图（产品原型）：此阶段需要概述正在构建的工具的用户界面，同时确定预期的用户输入数据、其格式和所需的输出。如果正确完成此步骤，将在开发和构建产品时节省大量时间。
- 数据管理：这涉及为特定用例管理和准备必要的数据。这可以包括 LLM 各个组成部分将提供的不同类型输入的示例，以及所需输出的示例。该数据将用于在模型评估阶段测试模型的输出。如果数据安全问题尚未解决，那么现在是时候确定哪些数据可以共享，并找到任何数据隐私问题的解决方案。
- 模型训练/提示词工程：这是一项至关重要的任务，公司需要定制大语言模型以满足其特定需求。
这可以使用两种方法之一或两者的组合来完成。
- 第一个是通过向语言模型提供输入和预期输出的示例来进一步训练语言模型。这使我们能够学习特定语言模式的复杂性。
- 二是提示词工程。这涉及为语言模型精心定义输入查询、指令或上下文，以提供准确且相关的响应，优化特定任务或应用程序的预期输出。
- 模型（参数）调整：根据我们的具体需求调整参数（例如 Temperature、TopP、TopK）以优化响应质量。此步骤完善了模型理解和生成类人响应的能力，与产品目标保持一致。
- 模型评估：根据不同的场景和基准评估模型的性能。该评估提供了对其优势、劣势和需要改进的领域的见解，最终指导我们打造出想要的最终产品。
- 预处理和后处理：预处理涉及清理和构建模型的输入数据，而后处理则完善模型的输出，确保其连贯、语法正确并符合我们的品牌调性/业务需求。
使用结构化的 LLM 提示词，构建可扩展的商品描述
回顾关于自营电商平台商品描述生成器的示例，在这个阶段，我们必须确定要使用哪种语言模型。在这种特殊情况下，基础模型是最合适的。
当目标是自动化、高质量的产品描述时，提示词的结构化至关重要。通过精心设计的 prompts，企业可以生成无数的描述，这些描述不仅对每种产品都是独一无二的，而且始终坚持品牌的基调、风格和指导方针。
以下是可供参考的结构化提示词输入（由 3 部分构成）：
（1）品牌指南（常量）
这部分构成了每个产品描述的支柱。通过将品牌指南嵌入到 prompt 中，可以确保生成的每个描述都忠实于品牌的风格、语气和价值观。例如，指南可能指示 LLM 保持某种语气（例如，技术性、精确性）、强调特定细节或遵循特定格式。
Nice 品牌指南
品牌声音
Nice 的品牌声音被定义为技术型、精确和赋能。在编写产品描述或任何其他内容时，至关重要的是提供展示我们技术能力、强调精确细节的信息，确保我们的受众因对产品的理解而感到被赋能。
声音调性示例：'配备 Wi-Fi 和一个机载麦克风系统，[产品] 可以连接到您家的无线网络，并允许您直观地播放音乐…'，'将您的游戏和电影带到 [产品名称] 的大屏幕上'，'这款由 [技术] 支持的智能电视连接到您的家庭网络…'，'使用智能中心来找到和流式传输节目和电影…'，'…它使用 [技术] 以确保游戏和快节奏动作平稳无模糊。'
准确性的重要性
Nice 品牌的核心植根于精确性。在编写产品描述时，始终直接引用产品特性列表。每个提到的特性都必须在描述中准确呈现。例如，如果某个特性说明是"1080p 全高清网络摄像头"，确保它正如此被精确写下，而不是"720p 全高清网络摄像头"或任何其他变体。
描述结构
在我们的产品描述中保持一致性，不仅有助于可读性，而且确保我们的客户在所有产品中享受统一的体验。为此，单段落规则：所有产品描述应该构建为一个单独的、连贯的段落。避免将内容分解成多个短段落或使用换行符。
（2）产品详细信息（变量）
这是提示的动态部分，为每个产品量身定制。通过替换诸如 {产品名称} 和/或 {功能列表} 之类的占位符，企业可以自动生成大量产品的描述。
产品：
产品名称：Nice CU7000 晶体 UHD 65 寸 4K HDR 智能 LED 电视
功能列表：
UHD 4K 3840 x 2160 QLED 面板
PurColor 带 HDR
由 Nice 提供动力的智能电视
Nice 游戏中心
带有 Motion Xcelerator 的改进清晰度
晶体处理器 4K 上行转换
Wi-Fi 5, 蓝牙 5.2 和以太网
3 x HDMI 2.1 输入，1 x USB 端口
内置小度的语音控制
包含 SolarCell 遥控器在内
（3）Instruction 即指令（常量）
一致的指令向 LLM 告知确切的任务，例如创建一段产品描述。这可确保输出符合所需的格式并每次都遵守品牌指南。
基于其功能列表，为上述产品编写一个详细的单段落产品描述。产品描述必须遵循 Nice 品牌指南。
这种模块化的提示词结构的优点是它的可扩展性。一旦组织建立了品牌指南和说明部分，它就可以轻松地插入不同的产品详细信息以批量生成描述。恒定部分（1 和 3）确保品牌一致性，而可变部分（2）确保产品特异性。这种系统方法提供了简化的解决方案，确保产品描述生成的效率和质量。
以下是我们期望从产品描述中获得的内容的示例（基于 ChatGPT 生成）：
Nice CU7000 Crystal UHD 65 寸 4K HDR 智能 LED 电视机，是一款集先进技术与优雅设计于一体的视听产品。这款电视配备了 UHD 4K 3840 x 2160 分辨率的 QLED 面板，结合 PurColor 技术与 HDR，为用户带来了丰富而真实的色彩体验。Nice 独创的智能电视平台，内置 Nice 游戏中心，满足了不同用户的娱乐需求。借助 Motion Xcelerator 技术，画面动态更加流畅清晰，而 Crystal Processor 4K 的上行转换功能则进一步提升了图像质量。电视支持 Wi-Fi 5、Bluetooth 5.2 和以太网连接，具备 3 个 HDMI 2.1 输入口和 1 个 USB 端口，易于连接多种设备。配备内置的百度小度语音控制功能，操作更加便捷，而 SolarCell 遥控器的加入，则让使用体验更加智能环保。
温馨提示：虽然许多公司希望创建一个完全自动化的系统，但由人工监控系统以确保输出质量非常重要。
03 模型部署
一旦对模型在产生预期结果方面所表现出的熟练程度和有效性感到满意，下一步就涉及将模型战略部署到所选平台上。
阶段目标
工作推进到这一步，意味着从理论概念到现实世界实用性的转变，从而能够将模型的功能集成到预期环境中。总体目标是让模型在所需的平台上运行，以便最终用户可以使用它。
回顾我们的商品描述生成器示例，在这个阶段，可以将把商品描述生成器集成到内部系统中（如管理后台 - 商品管理模块）。这将使负责创建产品描述的人员能够访问和使用它。
本阶段要完成的任务
将 LLM 部署到所需的平台涉及一个简化的过程，可以通过多种不同的方法来完成：通过 API 直接连接模型、利用 SDK 或利用云服务器。例如 Microsoft Azure AI、Google Cloud Platform、百度千帆大模型平台等获取。这使得使用这些 AI 基础设施的任何公司都可以轻松访问这些模型。
通过与 LLM 提供商的 API 集成，您可以在平台和模型之间建立直接的通信渠道。这使得输入查询的无缝传输和模型生成的响应的检索成为可能。此外，利用云服务器（例如主要云提供商提供的服务器），您可以托管 LLM 并通过互联网进行访问。这种基于云的部署可确保可扩展性，使您的平台能够有效处理不同的工作负载。
温馨提示：确保最终产品在发布前经过完整的质量保证 (QA) 和测试流程。
04 监测结果
流程的最后阶段是监控已发布的产品并分析其性能。
阶段目标
主要目的是密切关注产品的技术性能及其对业务的影响。了解用户的反应、他们对产品的参与程度，并接收和分析他们的反馈。这也是改进、扩展或发展产品的时候。如果结果不符合预期，那么就该检查哪些措施有效、哪些措施无效，并采取相应行动。
在这个阶段，正如我们的示例中所讨论的，公司应该开始使用商品描述生成器来创建商品描述。与此同时我们还应该监控结果，包括观察用户对更新的产品描述的反应，以及对应的销售额是否增加、减少或没有变化。
进一步优化和改进
为了确保产品的最佳性能，与 LLM 提供方（如智谱 AI、百度千帆）保持沟通渠道势在必行。这确保了产品发布后任何新模型和功能的无缝集成。此外，定期进行测试至关重要，以便及时解决任何问题。如果出现任何问题，尽早与 LLM 提供方沟通至关重要。这有助于及时诊断问题的根本原因并制定可行的解决方案。与 LLM 提供方的这种积极互动和参与，符合持续改进的理念，并确保产品始终满足其预期标准。
05 总结
在现代商业的动态格局中，基于 LLM 的解决方案的重要性日益凸显。然而，打造 LLM 驱动的产品需要细致入微的理解和细致的规划。这一过程包括精心准备、精确模型构建、战略部署和警惕监控。
同时，大模型领域的快速发展（说是日新月异亦不为过）要求产品经理不断学习最新的技术动态。通过参与在线课程、研讨会和行业会议，可以确保我们的知识保持更新。同时，实践是理解和掌握 LLM 的最佳途径。不要害怕开始小规模实验——这些都是学习过程中宝贵的步骤。
延伸思考
对于淘宝、京东、亚马逊、Shopify、有赞这样的大型 B2C 电商平台或 SAAS 供应商而言，由于涉及到不同的品牌商户，那么其结构化提示词又该如何设计更合适呢？
（毕竟如果都用统一的风格，全站的类似商品描述可能会很接近，那就有点尴尬了）
思考
为大型 B2C 电商平台或电商 SAAS 供应商设计结构化提示词时，需要考虑的关键点包括品牌差异性、商品多样性、以及个性化需求。每个品牌商户都会有其独特的品牌语言和市场定位，因此，生成的商品描述不应该是一成不变的，而是要具备高度的定制性和多样性。这意味着结构化提示词的设计需要灵活，能够捕捉和反映不同品牌的独特性，同时还要能够应对各种商品的特殊性。
可能的应对策略有：
- 品牌个性化：结构化提示词应该包含品牌风格和语言的元素，可以是品牌的口号、特定的形容词或是品牌故事中的关键词。
- 商品分类：根据商品类别设计不同的提示词模板，比如服装、电子产品、家居用品等，每个类别都应该有其独特的描述方式。
- 客户定制：提供一个界面或工具，让品牌商户可以输入或选择特定的词汇或语句，这样可以生成更加个性化的商品描述。
- 标签系统：建立一个标签系统，标签可以是关于产品特性、用户感受、用途场景等，商户可以根据需要选择合适的标签来生成描述。
- AI 辅助：利用 AI 技术来分析每个品牌商户的历史商品描述，学习其语言模式，从而生成更加贴近商户风格的描述。
结合上述策略，以下是一些可能的结构化提示词设计示例：
- 品牌特定提示词：
- 描述品牌故事的关键词：例如'创新精神'，'手工艺术'，'可持续发展'等。
- 品牌特有的形容词或短语：例如'青春活力'，'极简主义'，'奢华感'等。
- 商品类别特定提示词：
- 服装：风格（休闲、正式、运动）、材质（纯棉、羊毛、合成纤维）、设计特点（无袖、防水、可逆穿）等。
- 电子产品：功能（智能互联、节能模式、一键操作）、技术规格（高清屏幕、长续航、快充技术）等。
- 场景化描述提示词：
- 使用场景：例如'户外探险'，'商务会议'，'家庭聚会'等。
- 用户体验：例如'舒适度极高'，'操作便捷'，'格调提升'等。
- 个性化定制提示词：
- 商户可选择性短语：提供一系列短语供商户挑选，如'只属于你的'，'打造专属体验'，'量身定制'等。
- 特殊标签：根据季节（春季新品、限量版）、节日（圣诞特惠、双 11 爆款）等设置标签。
通过以上提示词的设计，商户可以创建出多样化且具有个性特色的商品描述，避免全站商品描述风格过于单一或相似。
例如在设计针对品牌运动服饰商户的结构化提示词时，我们需要考虑几个关键点：品牌独有的风格、目标消费群体的特点、产品的独特卖点（USPs）、市场定位和差异化策略。结构化提示词应当帮助品牌塑造其独特的品牌形象，同时突出其产品的优势和特色。对于不同的电商平台，如淘宝、京东、亚马逊、Shopify、有赞等，我们还需要考虑平台规则、SEO 优化和用户行为特征。此外，要确保品牌之间的商品描述有足够的区分度，避免千篇一律。
以上，就是基于 LLM 的产品实现的所有必要阶段。
