eLLMo 项目
利用最先进的LLM通过自然语言理解用户的工作偏好和资质。
摘要
在这个案例研究中,我们探索了eLLMo的开发,这是一个创新的AI辅助聊天对话UI,旨在改善ZipRecruiter用户的求职体验。
作为产品设计VP,我领导了这个项目的战略和产品设计。两位设计师Yutong Feng和Jihye Woo帮助创建了设计。
eLLMo已上线,快来试试: ZipRecruiter.com
问题领域
ZipRecruiter面临一个挑战:超过一半的访客没有特定的职位头衔就到达了网站。这些'空白搜索者'在一个为基于职位头衔搜索和活动驱动匹配系统设计的网站上挣扎。结果往往是不相关的推荐。
用户
我们的目标受众是18-65岁的美国求职者,主要是25-40岁的专业人士,包括早期职业人士和熟练及非熟练岗位的职业转换者,他们拥有多样的技能和偏好,但对特定职位头衔不确定。
流程
跨职能协作
我共同领导了一个由50多名创新者组成的充满活力的跨职能团队,汇集了产品营销人员、用户研究员、数据科学家、工程师、产品经理和两位首席产品设计师,共同应对这一变革性挑战。
梦之队
Blake Crosley
产品设计VP
Yutong Feng
产品设计师
Jihye Woo
高级产品设计师
这个项目的产品设计师是Jihye和Yutong。Jihye是日常入职体验的首席设计师,多次迭代流程。
我的角色是与匹配产品总监Nishok Chetty共同领导项目。
用户研究与洞察
我们收集洞察的方法是全面和多方面的。我们从产品营销团队的定量调查开始,对ZipRecruiter用户和美国求职者进行了广泛概述。
最后,我们分析了当前的网站体验和用户行为,清晰地了解了人们实际如何与我们的平台互动。
体验原则
- 基于用户输入的自适应提问
- 与现有偏好数据集成
- 低置信度结果的系统确认
- 处理不同数据质量的灵活性
- 来自LLM的结构化问答
- 职位推荐的置信度评分
- 推荐的可解释性
- 对用户反馈的响应性
原则方法论
我在项目早期阶段进行提示工程时创建了这些原则。下面是我在当时的GPT 4.0中探索技术边界的OpenAI Playground截图。
我的基础提示长度为1,397个token,经过一周的实验开发而成。想象LLM如何实现独特且有用的用户体验对项目的成功至关重要。
迭代设计
我们的设计流程既系统又充满活力。我们从既定原则开始,但很快适应。数据科学家和产品经理提供了重要的输入,重塑了我们的初始概念。
为了测试我们的想法,我们构建了一个沙盒版本。真实用户与之互动,提供了宝贵的反馈。这导致了在沙盒中进行多轮用户深度访谈和进一步改进。
我们的迭代设计流程带来了几项关键改进。我们改用选择题,并将问题数量限制在5个,减少了用户的工作量。添加了新的'介绍一下自己'提示来个性化体验。
实施与测试
设计最终确定后,我们与开发团队紧密合作,确保精确实施。每个细节都被仔细地从设计转换为代码。新版本准备就绪后,我们启动了A/B测试与原版进行比较。
解决方案:eLLMo
eLLMo是一个创新的匹配系统,使用先进的语言模型将用户与工作机会联系起来。
在其核心,eLLMo利用人工智能分析用户输入并与合适的工作前景进行匹配。
eLLMo的主要功能包括:
- 一个自然直观的AI驱动聊天界面
- 根据用户回复调整的自适应提问,确保高效收集相关信息
- 与现有结构化偏好数据的无缝集成,提高匹配准确性
- 职位推荐的置信度评分系统,以及解释为什么推荐某些职位,提供AI决策过程的透明度
结果与影响
eLLMo的推出带来了显著变化。用户满意度飙升,96%对职位推荐感到满意,82%赞扬了创新方法。
参与度激增。首次职位点击翻了一番多,注册完成率从82%上升到89%。
尽管增加了步骤,用户报告称摩擦减少、个性化改善、导航更容易。
坚持终有回报
将LLM技术整合到我们的产品中最初遇到了领导层的阻力。为了克服这一点,我采取了三管齐下的方法。首先,我使用OpenAI的Playground实时演示技术能力。然后,我提出了潜在用户利益的清晰愿景。
以身作则
总之,作为Project eLLMo的联合负责人,我领导了我们首次进入基于LLM的AI产品设计领域的探索。我说服领导层采用这项技术,并向CEO和350多人的跨职能团队展示了我们的进展。
我们创造了一个独特而实用的用户体验,显著改善了ZipRecruiter的平台。eLLMo的成功提高了用户满意度,并为Zip开启了更多AI驱动创新的大门。