eLLMo 專案

利用最先進的LLM通過自然語言理解用戶的工作偏好和資質。

Project eLLMo - woman exploring careers on phone

摘要

在這個案例研究中,我們探索了eLLMo的開發。

作為產品設計VP,我領導了這個項目的戰略和產品設計。

eLLMo已上線,快來試試: ZipRecruiter.com

問題領域

ZipRecruiter面臨一個挑戰:超過一半的訪客沒有特定的職位頭銜就到達了網站。這些「空白搜索者」在一個為基於職位頭銜搜索和活動驅動匹配系統設計的網站上掙扎。

用戶

我們的目標受眾是18-65歲的美國求職者。

流程

eLLMo design process

跨職能協作

我共同領導了一個由50多名創新者組成的充滿活力的跨職能團隊,彙集了產品營銷人員、用戶研究員、數據科學家、工程師、產品經理和兩位首席產品設計師,共同應對這一變革性挑戰。

夢之隊

Blake Crosley

產品設計VP

Yutong Feng

產品設計師

Jihye Woo

資深產品設計師

這個項目的產品設計師是Jihye和Yutong。

我的角色是與匹配產品總監Nishok Chetty共同領導項目。

用戶研究與洞察

我們收集洞察的方法是全面和多方面的。我們從產品營銷團隊的定量調查開始。

最後,我們分析了當前的網站體驗和用戶行為,清晰地了解了人們實際如何與我們的平台互動。

體驗原則

  • 基於用戶輸入的自適應提問
  • 與現有偏好數據集成
  • 低置信度結果的系統確認
  • 處理不同數據質量的靈活性
  • 來自LLM的結構化問答
  • 職位推薦的置信度評分
  • 推薦的可解釋性
  • 對用戶反饋的響應性

原則方法論

我在項目早期階段進行提示工程時創建了這些原則。下面是我在當時的GPT 4.0中探索技術邊界的OpenAI Playground截圖。

我的基礎提示長度為1,397個token,經過一週的實驗開發而成。想像LLM如何實現獨特且有用的用戶體驗對項目的成功至關重要。

OpenAI Playground experimentation
OpenAI Playground實驗截圖

迭代設計

我們的設計流程既系統又充滿活力。我們從既定原則開始,但很快適應。數據科學家和產品經理提供了重要的輸入,重塑了我們的初始概念。

為了測試我們的想法,我們構建了一個沙盒版本。真實用戶與之互動,提供了寶貴的反饋。這導致了在沙盒中進行多輪用戶深度訪談和進一步改進。

eLLMo iterative design process

我們的迭代設計流程帶來了幾項關鍵改進。我們改用選擇題,並將問題數量限制在5個,減少了用戶的工作量。添加了新的「介紹一下自己」提示來個性化體驗。

實施與測試

設計最終確定後,我們與開發團隊緊密合作,確保精確實施。每個細節都被仔細地從設計轉換為代碼。新版本準備就緒後,我們啟動了A/B測試與原版進行比較。

A/B testing implementation

解決方案:eLLMo

eLLMo是一個創新的匹配系統,使用先進的語言模型將用戶與工作機會聯繫起來。

在其核心,eLLMo利用人工智能分析用戶輸入並與合適的工作前景進行匹配。

eLLMo的主要功能包括:

  1. 一個自然直觀的AI驅動聊天界面
  2. 根據用戶回覆調整的自適應提問
  3. 與現有結構化偏好數據的無縫集成
  4. 職位推薦的置信度評分系統
eLLMo solution interface

結果與影響

eLLMo的推出帶來了顯著變化。用戶滿意度飆升,96%對職位推薦感到滿意,82%讚揚了創新方法。

參與度激增。首次職位點擊翻了一番多,註冊完成率從82%上升到89%。

儘管增加了步驟,用戶報告稱摩擦減少、個性化改善、導航更容易。

96% 用戶對推薦的滿意度
82% 讚賞創新方法
2倍 首次職位點擊
89% 註冊完成率(從82%上升)

堅持終有回報

將LLM技術整合到我們的產品中最初遇到了領導層的阻力。為了克服這一點,我採取了三管齊下的方法。

eLLMo mascot illustration
展示我們如何在產品中利用LLM技術的Playground示例截圖

以身作則

總之,作為Project eLLMo的聯合負責人,我領導了我們首次進入基於LLM的AI產品設計領域的探索。我說服領導層採用這項技術,並向CEO和350多人的跨職能團隊展示了我們的進展。

我們創造了一個獨特而實用的用戶體驗,顯著改善了ZipRecruiter的平台。eLLMo的成功提高了用戶滿意度,並為Zip開啟了更多AI驅動創新的大門。

Research and Design team celebrating eLLMo's success
研究與設計團隊慶祝eLLMo的成功