eLLMo 專案
利用最先進的LLM通過自然語言理解用戶的工作偏好和資質。
摘要
問題領域
ZipRecruiter面臨一個挑戰:超過一半的訪客沒有特定的職位頭銜就到達了網站。這些「空白搜索者」在一個為基於職位頭銜搜索和活動驅動匹配系統設計的網站上掙扎。
用戶
我們的目標受眾是18-65歲的美國求職者。
流程
跨職能協作
我共同領導了一個由50多名創新者組成的充滿活力的跨職能團隊,彙集了產品營銷人員、用戶研究員、數據科學家、工程師、產品經理和兩位首席產品設計師,共同應對這一變革性挑戰。
夢之隊
Blake Crosley
產品設計VP
Yutong Feng
產品設計師
Jihye Woo
資深產品設計師
這個項目的產品設計師是Jihye和Yutong。
我的角色是與匹配產品總監Nishok Chetty共同領導項目。
用戶研究與洞察
我們收集洞察的方法是全面和多方面的。我們從產品營銷團隊的定量調查開始。
最後,我們分析了當前的網站體驗和用戶行為,清晰地了解了人們實際如何與我們的平台互動。
體驗原則
- 基於用戶輸入的自適應提問
- 與現有偏好數據集成
- 低置信度結果的系統確認
- 處理不同數據質量的靈活性
- 來自LLM的結構化問答
- 職位推薦的置信度評分
- 推薦的可解釋性
- 對用戶反饋的響應性
原則方法論
我在項目早期階段進行提示工程時創建了這些原則。下面是我在當時的GPT 4.0中探索技術邊界的OpenAI Playground截圖。
我的基礎提示長度為1,397個token,經過一週的實驗開發而成。想像LLM如何實現獨特且有用的用戶體驗對項目的成功至關重要。
迭代設計
我們的設計流程既系統又充滿活力。我們從既定原則開始,但很快適應。數據科學家和產品經理提供了重要的輸入,重塑了我們的初始概念。
為了測試我們的想法,我們構建了一個沙盒版本。真實用戶與之互動,提供了寶貴的反饋。這導致了在沙盒中進行多輪用戶深度訪談和進一步改進。
我們的迭代設計流程帶來了幾項關鍵改進。我們改用選擇題,並將問題數量限制在5個,減少了用戶的工作量。添加了新的「介紹一下自己」提示來個性化體驗。
實施與測試
設計最終確定後,我們與開發團隊緊密合作,確保精確實施。每個細節都被仔細地從設計轉換為代碼。新版本準備就緒後,我們啟動了A/B測試與原版進行比較。
解決方案:eLLMo
eLLMo是一個創新的匹配系統,使用先進的語言模型將用戶與工作機會聯繫起來。
在其核心,eLLMo利用人工智能分析用戶輸入並與合適的工作前景進行匹配。
eLLMo的主要功能包括:
- 一個自然直觀的AI驅動聊天界面
- 根據用戶回覆調整的自適應提問
- 與現有結構化偏好數據的無縫集成
- 職位推薦的置信度評分系統
結果與影響
eLLMo的推出帶來了顯著變化。用戶滿意度飆升,96%對職位推薦感到滿意,82%讚揚了創新方法。
參與度激增。首次職位點擊翻了一番多,註冊完成率從82%上升到89%。
儘管增加了步驟,用戶報告稱摩擦減少、個性化改善、導航更容易。
堅持終有回報
將LLM技術整合到我們的產品中最初遇到了領導層的阻力。為了克服這一點,我採取了三管齊下的方法。
以身作則
總之,作為Project eLLMo的聯合負責人,我領導了我們首次進入基於LLM的AI產品設計領域的探索。我說服領導層採用這項技術,並向CEO和350多人的跨職能團隊展示了我們的進展。
我們創造了一個獨特而實用的用戶體驗,顯著改善了ZipRecruiter的平台。eLLMo的成功提高了用戶滿意度,並為Zip開啟了更多AI驅動創新的大門。