麦肯锡为员工推出自家专属生成式 AI 工具 Lilli：回答提供完整来源信息

麦肯锡公司成立近一个世纪，是世界上最大的咨询机构之一。今年早些时候，该公司迅速采用了生成式 AI 工具，据称截至 6 月，其员工中有将近一半使用了这项技术。

在麦肯锡最近的2023 年人工智能发展状况报中描述了几十年来技术如何赋予人们「超能力」，即超越人类极限的能力。现在，该公司推出了自己的新型生成式 AI 工具：Lilli，一款由麦肯锡的「ClienTech」团队在首席技术官 Jacky Wright 的带领下为员工设计的新的聊天应用程序。该工具基于超过 10 万份文档和访谈记录，提供信息、洞察、数据、计划，甚至推荐最适合咨询项目的内部专家。

Lilli 的推出标志着麦肯锡数字化转型的一个重要里程碑。随着管理咨询行业竞争的加剧，利用人工智能更智能、更快速地工作已成为必然。

麦肯锡高级合伙人 Erik Roth 在接受采访时说：「如果你能向麦肯锡的全部知识提问，并且（一个 AI 程序）能做出回答，那对公司有什么影响？这正是 Lilli 能做到的。」作为该产品的开发负责人，Erik Roth 与他在麦肯锡的合作伙伴表示，Lilli 自 2023 年 6 月以来一直处于测试阶段，将在今年秋季在麦肯锡全面推出。

Erik Roth 表示，Lilli 已经在测试阶段由约 7000 名员工使用作为「最小可行产品」，已经将研究和规划工作所需的时间从几周减少到几小时，甚至有时从几小时减少到几分钟。

Erik Roth 说：「在过去两周里，Lilli 已经回答了 5 万个问题。」「66% 的用户每周会多次返回使用该网站。」

Lilli AI 是界面对于那些使用其他公开的基于文本生成 AI 工具（如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 2）的人来说已经很熟悉了。Lilli 的主窗口底部有一个文本输入框供用户输入问题、搜索和提示，而在其上面生成回答，以对话的形式呈现用户的提示和 Lilli 的回答。

然而，有几个功能立即引人注目：Lilli 还包含一个可展开的左侧边栏，其中保存了提示，用户可以复制、粘贴并根据自己的喜好进行修改。Erik Roth 说，这些提示的分类很快就会添加到该平台上。

生成式 AI 聊天和客户能力功能界面包括两个可切换的标签页，一个是「GenAI Chat」，从更广泛的大型语言模型（LLM）后端获取数据，另一个是「Client Capabilities」，从麦肯锡的 10 万多份文档、记录和演示文稿中获取回答。

Erik Roth 表示：「我们有意创建了这两种体验，以了解并比较我们内部拥有的和公开可用的工具。」

另一个区别在于信息来源：尽管许多 LLM 在回答时没有在其响应中明确引用或链接到来源（微软 Bing Chat 由 OpenAI 提供的是一个值得注意的例外），但Lilli 在每个回答下方提供了一个完整的「来源」部分，包括链接甚至页码，指示模型从哪些页面获取其回答。

Erik Roth 说：「我们做出了全面的归因。」「我与客户的交谈中，他们对此非常兴奋。」

他设想麦肯锡的顾问们几乎可以在与客户合作的每个阶段使用 Lilli，从收集关于客户所在行业、竞争对手或类似公司的初始研究，到起草客户如何实施具体项目的计划。

Lilli 的演示展示了其灵活性：Lilli 能够提供一份列出内部麦肯锡专家资格的清单，这些专家有资格谈论一家大型电子商务零售商，以及未来十年美国清洁能源的前景，还有一个在 10 周内建造新能源工厂的计划。在此过程中，AI 清楚地透露了其信息的来源。

虽然响应时间有时比领先的商业 LLM 慢几秒钟，但 Erik Roth 表示，麦肯锡不断更新响应速度，并且优先考虑信息的质量。

此外，Erik Roth 表示，该公司正在尝试启用一个功能，用于将客户信息和文档上传到麦肯锡的服务器进行安全、私密的分析，但该功能还在开发阶段，直到完全完善后才会部署使用。

Erik Roth 解释道：「Lilli 可以以非常安全和可靠的方式上传客户数据。」「我们可以考虑未来将我们的数据与客户的数据结合起来，或者仅在同一个平台上使用我们客户的数据进行更大范围的综合与探索……任何我们加载到 Lilli 中的东西都要经过全面的合规风险评估，包括我们自己的数据。」

底层技术 Lilli 利用目前可用的 LLM，包括麦肯锡合作伙伴 Cohere 开发的 LLM 以及微软 Azure 平台上的 OpenAI，来支持其 GenAI Chat 和自然语言处理（NLP）能力。然而，该应用程序由麦肯锡构建，并充当用户和底层数据之间的安全层。

Erik Roth 强调，麦肯锡与底层的「LLM 无关」，并且不断探索提供最大效用的新 LLM 和 AI 模型，包括仍在维护的旧版本。

虽然该公司希望将其使用扩展到所有员工，但 Erik Roth 还表示，麦肯锡并不排除将 Lilli 贴上白标并将其变成麦肯锡客户或其他公司使用的外部产品。

Erik Roth 说：「目前，所有的讨论都在进行中。」「我个人认为，每个组织都需要一种 Lilli 的版本。」