eLLMo 项目

利用最先进的LLM通过自然语言理解用户的工作偏好和资质。

Project eLLMo - woman exploring careers on phone

摘要

在这个案例研究中,我们探索了eLLMo的开发,这是一个创新的AI辅助聊天对话UI,旨在改善ZipRecruiter用户的求职体验。

作为产品设计VP,我领导了这个项目的战略和产品设计。两位设计师Yutong Feng和Jihye Woo帮助创建了设计。

eLLMo已上线,快来试试: ZipRecruiter.com

问题领域

ZipRecruiter面临一个挑战:超过一半的访客没有特定的职位头衔就到达了网站。这些'空白搜索者'在一个为基于职位头衔搜索和活动驱动匹配系统设计的网站上挣扎。结果往往是不相关的推荐。

用户

我们的目标受众是18-65岁的美国求职者,主要是25-40岁的专业人士,包括早期职业人士和熟练及非熟练岗位的职业转换者,他们拥有多样的技能和偏好,但对特定职位头衔不确定。

流程

eLLMo design process

跨职能协作

我共同领导了一个由50多名创新者组成的充满活力的跨职能团队,汇集了产品营销人员、用户研究员、数据科学家、工程师、产品经理和两位首席产品设计师,共同应对这一变革性挑战。

梦之队

Blake Crosley

产品设计VP

Yutong Feng

产品设计师

Jihye Woo

高级产品设计师

这个项目的产品设计师是Jihye和Yutong。Jihye是日常入职体验的首席设计师,多次迭代流程。

我的角色是与匹配产品总监Nishok Chetty共同领导项目。

用户研究与洞察

我们收集洞察的方法是全面和多方面的。我们从产品营销团队的定量调查开始,对ZipRecruiter用户和美国求职者进行了广泛概述。

最后,我们分析了当前的网站体验和用户行为,清晰地了解了人们实际如何与我们的平台互动。

体验原则

  • 基于用户输入的自适应提问
  • 与现有偏好数据集成
  • 低置信度结果的系统确认
  • 处理不同数据质量的灵活性
  • 来自LLM的结构化问答
  • 职位推荐的置信度评分
  • 推荐的可解释性
  • 对用户反馈的响应性

原则方法论

我在项目早期阶段进行提示工程时创建了这些原则。下面是我在当时的GPT 4.0中探索技术边界的OpenAI Playground截图。

我的基础提示长度为1,397个token,经过一周的实验开发而成。想象LLM如何实现独特且有用的用户体验对项目的成功至关重要。

OpenAI Playground experimentation
OpenAI Playground实验截图

迭代设计

我们的设计流程既系统又充满活力。我们从既定原则开始,但很快适应。数据科学家和产品经理提供了重要的输入,重塑了我们的初始概念。

为了测试我们的想法,我们构建了一个沙盒版本。真实用户与之互动,提供了宝贵的反馈。这导致了在沙盒中进行多轮用户深度访谈和进一步改进。

eLLMo iterative design process

我们的迭代设计流程带来了几项关键改进。我们改用选择题,并将问题数量限制在5个,减少了用户的工作量。添加了新的'介绍一下自己'提示来个性化体验。

实施与测试

设计最终确定后,我们与开发团队紧密合作,确保精确实施。每个细节都被仔细地从设计转换为代码。新版本准备就绪后,我们启动了A/B测试与原版进行比较。

A/B testing implementation

解决方案:eLLMo

eLLMo是一个创新的匹配系统,使用先进的语言模型将用户与工作机会联系起来。

在其核心,eLLMo利用人工智能分析用户输入并与合适的工作前景进行匹配。

eLLMo的主要功能包括:

  1. 一个自然直观的AI驱动聊天界面
  2. 根据用户回复调整的自适应提问,确保高效收集相关信息
  3. 与现有结构化偏好数据的无缝集成,提高匹配准确性
  4. 职位推荐的置信度评分系统,以及解释为什么推荐某些职位,提供AI决策过程的透明度
eLLMo solution interface

结果与影响

eLLMo的推出带来了显著变化。用户满意度飙升,96%对职位推荐感到满意,82%赞扬了创新方法。

参与度激增。首次职位点击翻了一番多,注册完成率从82%上升到89%。

尽管增加了步骤,用户报告称摩擦减少、个性化改善、导航更容易。

96% 用户对推荐的满意度
82% 赞赏创新方法
2倍 首次职位点击
89% 注册完成率(从82%上升)

坚持终有回报

将LLM技术整合到我们的产品中最初遇到了领导层的阻力。为了克服这一点,我采取了三管齐下的方法。首先,我使用OpenAI的Playground实时演示技术能力。然后,我提出了潜在用户利益的清晰愿景。

eLLMo mascot illustration
展示我们如何在产品中利用LLM技术的Playground示例截图

以身作则

总之,作为Project eLLMo的联合负责人,我领导了我们首次进入基于LLM的AI产品设计领域的探索。我说服领导层采用这项技术,并向CEO和350多人的跨职能团队展示了我们的进展。

我们创造了一个独特而实用的用户体验,显著改善了ZipRecruiter的平台。eLLMo的成功提高了用户满意度,并为Zip开启了更多AI驱动创新的大门。

Research and Design team celebrating eLLMo's success
研究与设计团队庆祝eLLMo的成功