← 모든 글

엔지니어링 철학: 페이페이 리, 데이터가 곧 토대다

ImageNet의 창시자이자 인간 중심 AI의 선구자 페이페이 리

핵심 요점

  • 돌파구는 모델이 아니라 데이터셋이었습니다. 십 년 동안 이 분야는 더 나은 모델이 병목이라고 가정한 채 알고리즘만 손질했습니다. 페이페이 리는 정반대에 승부를 걸었습니다. 빠져 있던 재료는 대규모 데이터라는 것이었습니다. 그녀는 ImageNet을 구상하고 이끌었습니다. WordNet 계층 구조를 바탕으로 2만 개가 넘는 범주에 걸쳐 약 1,400만 장의 이미지를 손으로 일일이 라벨링한 데이터셋으로, 수만 명의 Amazon Mechanical Turk 작업자가 주석을 달았습니다.34
  • AlexNet은 그녀의 데이터 위에서 승리했습니다. 심층 합성곱 신경망이 2012년 ImageNet 챌린지를 압도했을 때 — top-5 오류율 15.3%로 2위를 10포인트 넘게 앞섰습니다 — 데이터 중심 가설이 입증되었습니다. 알고리즘은 이미 수년 전부터 존재했고, 달라진 것은 마침내 학습할 만큼 충분하고 적절한 데이터가 생겼다는 점이었습니다.45
  • AI는 인간 중심이어야 합니다. 리의 두 번째 원칙은 AI에 “인공적인 것은 없다”는 것입니다. AI는 인간이 만들고, 인간을 향해 작동하며, 인간의 삶에 영향을 미칩니다. 그녀는 이 신념을 제도로 만들기 위해 Stanford HAI(2019)와 AI4ALL(2017)을 공동 설립했습니다.678
  • 이민자에서 창업자로. 1976년 베이징에서 태어나 열여섯 살에 뉴저지에 도착했고, Princeton에 다니는 내내 가족의 세탁소를 운영했으며, 물리학 학사와 Caltech 박사 학위를 받았습니다. 지금은 3차원 세계를 이해하는 모델을 만드는 공간 지능 스타트업 World Labs를 이끌고 있습니다.1210

그 원칙

“AI에 대한 우리의 가설은 데이터 주도적이어야 하며, 데이터 중심이 옳은 가설이었습니다.” – 페이페이 리, ImageNet에 건 승부에 관하여9

2000년대 대부분의 기간 동안 머신러닝의 지배적 본능은 모델을 개선하는 것이었습니다. 더 영리한 아키텍처, 더 나은 옵티마이저, 더 날카로운 특징 추출기. 데이터는 알고리즘들이 경쟁하는 고정되고 소박한 배경쯤으로 취급되었습니다. 페이페이 리의 핵심적인 한 수는 그 위계를 뒤집은 것이었습니다. 그녀는 진짜 병목은 알고리즘이 아니라 데이터라고 주장했습니다. 기계의 지각 능력을 끌어올리는 길은 수천 개의 예시 위에서 모델을 계속 다듬는 것이 아니라, 적절한 예시를 몇 자릿수나 더 많이 주고 아이가 세상을 배우듯이 — 충분히 많이 마주치면서 — 학습하게 하는 것이었습니다.9

이 비유는 장식이 아니라 논증 그 자체였습니다. 아이에게 규칙을 일일이 열거해서 보는 법을 가르치는 사람은 없습니다. 아이는 시각적 경험의 홍수 속에 잠겨 — 사물, 장면, 얼굴을 수백만 번 흘끗 보면서 — 시각 세계의 구조가 자리 잡을 때까지 배웁니다. 리의 승부수는 학습 알고리즘에도 똑같은 것이 필요하다는 것이었습니다. 더 나은 교사가 아니라, 훨씬 더 크고 풍부한 예시의 흐름 말입니다. 그래서 그녀는 이 분야가 피해 왔던, 화려할 것 없고 거대한 일을 해냈습니다. 그 흐름을 직접 만들어낸 것입니다.3

한 줄로 요약하면 그 원칙은 이렇습니다. 데이터가 곧 토대이며, AI는 인간 중심이어야 한다. 앞부분은 엔지니어링적 주장입니다. 지능은 충분하고 적절한 데이터 위에서의 학습으로부터 출현하며, 그 데이터를 공급하는 사람이 이 분야가 무엇을 할 수 있는지를 결정합니다. 뒷부분은 목적에 관한 주장입니다. 리는 AI가 어떤 외계의 힘이 아니라 인간이 만든 산물이며, 그 유일한 정당성은 사람들에게 이로움을 준다는 데 있다고 강조합니다. “AI에 인공적인 것은 없습니다”라고 그녀는 학생들에게 즐겨 말합니다. “그것은 인간이 만들고, 인간을 위해 작동하도록 의도되었으며, 인간의 삶과 인간 사회에 영향을 미칩니다.”6 그녀는 모델이 아니라 데이터셋을 만듦으로써 이 분야에 눈을 선사했고, 그 후 십 년을 그 눈이 인간의 선을 향하도록 붙드는 데 바쳤습니다.

배경

페이페이 리는 1976년 베이징에서 태어났습니다.1 그녀가 열두 살 때 아버지가 뉴저지 파시패니로 이주했고, 열여섯 살에 어머니와 함께 영어를 거의 못 하는 채로 그를 따라갔습니다.12 가족이 미국에서 발 디딘 터전은 세탁소였고, 리는 거기서 일했습니다. 고등학교 시절 주말마다, 그리고 대학에서 집에 오는 대부분의 주말마다 공부하면서 사업 운영을 돕고 장부를 관리했습니다.12 새겨둘 만한 대목입니다. 훗날 컴퓨팅 역사상 가장 큰 규모의 라벨링 작업 중 하나를 지휘하게 될 사람이, 남의 빨래를 처리하는 계산대에서 운영 규율을 배운 것입니다.

그녀는 장학금을 받고 Princeton에 진학해 1999년 물리학 학사 학위를 받았는데, 그 기간 일부는 가족 사업을 원격으로 운영하면서였습니다.12 컴퓨터 과학이 아니라 물리학 — 어수선한 현상 아래에 깔린 단순한 법칙을 찾는 훈련이었고, 이는 그녀가 훗날 시각에 적용하게 될 바로 그 본능이었습니다. 그녀는 대학원을 위해 Caltech로 옮겨 2001년 전기공학 석사, 2005년 박사 학위를 받으며 신경과학과 컴퓨터 비전이 교차하는 지점에서 연구했습니다.1

Princeton 교수진에 합류하고 이어 Stanford로 옮길 무렵(2009), 그녀는 자기 분야의 흐름을 거스르는 확신을 품게 되었습니다. 앞으로 나아갈 길은 작은 데이터셋 위의 더 나은 모델이 아니라, 아무도 만들려 하지 않았던 근본적으로 더 큰 데이터셋이라는 것이었습니다.14 그 뒤에 이어지는 모든 것 — ImageNet, 챌린지, 인간 중심으로의 전환, 스타트업 — 은 그 하나의 비주류적 승부수를 풀어낸 과정입니다.

업적

ImageNet: 이 분야에 눈을 선사하다 (2009)

리의 승부를 가장 명료하게 체감하는 방법은, 모델을 고정한 채 학습 데이터를 늘려갈 때 무슨 일이 벌어지는지 지켜보는 것입니다. 분류기가 더 영리해지는 것이 아니라 — 알고리즘은 그대로입니다 — 라벨링된 예시를 하나씩 먹일 때마다 세계에 대한 그 그림이 또렷해집니다. 아래 위젯이 이를 손에 잡히게 보여줍니다. 한 줌의 점으로 시작하면 같은 모델이 거칠고 틀린 경계를 추측하지만, 라벨링된 데이터를 점점 더 더해가면 참된 형태를 그려내고 정확도가 천장을 향해 올라갑니다. 이것이 ImageNet 가설을 축소판으로 보여주는 것입니다.

그 역사는 구체적이며, 누구의 공로인지가 중요합니다. 리는 이 프로젝트를 구상하고 2006-2007년 무렵 Princeton에 있을 때 작업에 착수했으며, WordNet 공동 창시자 크리스티안 펠바움과 협력해 WordNet의 개념 계층 구조를 데이터셋을 조직하는 근간으로 삼았습니다.4 ImageNet은 분명히 그녀가 이끈 의 결과물이었습니다. CVPR 2009에서 발표된 기념비적 논문 “ImageNet: A Large-Scale Hierarchical Image Database”는 지아 덩, 웨이 둥, 리처드 소처, 리지아 리, 카이 리, 그리고 (선임 저자로서 마지막에 이름을 올린) 리가 함께 저술했습니다.3 이 분야를 재편한 버전의 데이터셋은 2만 개가 넘는 범주에 걸쳐 손으로 주석을 단 약 1,400만 장의 이미지로 성장했습니다. 전체 ImageNet-21K 릴리스는 21,841개 클래스에 14,197,122장의 이미지로 구성됩니다.4

엔지니어링 문제는 모델이 아니라 라벨링이었습니다. 1,400만 장의 이미지에 손으로 주석을 다는 일은 어떤 연구 그룹의 역량도 넘어섰기에, 리의 팀은 Amazon Mechanical Turk로 눈을 돌렸습니다. 2008년 7월부터 2010년 4월 사이에 167개국 약 49,000명의 작업자에게 일을 분배해 1억 6천만 장이 넘는 후보 이미지를 걸러내고, 품질을 위해 채택된 이미지마다 여러 번씩 라벨을 달았습니다.4 그 물류적 위업 — 지각을 행성 규모로 크라우드소싱한 일 — 이 바로 기여 그 자체였습니다. “데이터를 더 쓰자”는 제안은 누구나 할 수 있었습니다. 리는 그것을 현실로 만든 장치를 구축했습니다.

강연 중인 페이페이 리

ILSVRC와 2012년 AlexNet의 입증

데이터셋만으로는 아무것도 증명하지 못합니다. 이 분야가 그것을 사용하게 만들어야 합니다. 그래서 2010년부터 2017년까지 리의 그룹은 ImageNet Large Scale Visual Recognition Challenge(ILSVRC) 를 운영했습니다. 약 128만 장의 학습 이미지, 5만 장의 검증 이미지, 10만 장의 테스트 이미지로 이루어진 표준화된 1,000개 범주 부분집합 위에서 매년 열린 대회였습니다.4 이 챌린지는 ImageNet을 공통의 벤치마크이자 리더보드로 바꾸어 놓았고, 십 년 가까이 컴퓨터 비전 연구의 중력 중심이 되었습니다.

그 입증은 2012년 9월 30일에 도착했습니다. 토론토의 제프리 힌턴 연구실에서 나온 심층 합성곱 신경망 AlexNet이 top-5 오류율 15.3%로 챌린지에서 우승했는데, 2위를 10.8퍼센트포인트 넘게 앞섰습니다.45 그 격차가 현대 AI 시대의 경첩입니다. 그러나 자주 놓치는 핵심은 그것이 가능했는가입니다. 합성곱 아키텍처는 새로운 것이 아니었고, 기울기 기반 학습도 새로운 것이 아니었습니다. 새로웠던 것은, 심층 신경망이 단순히 암기하지 않고도 학습할 만큼 크고 풍부한 데이터셋이 처음으로 존재했다는 점이었습니다. 리가 빠져 있던 재료를 공급한 것입니다. 훗날 그녀의 제자가 직접 수치화했듯이, ImageNet에서는 인간의 정확도조차 어렵게 얻어집니다. 리 밑에서 박사 과정을 밟고 챌린지의 인간 벤치마크 실험을 운영한 안드레이 카르파시는 집중적으로 노력해야만 top-5 인간 오류율이 약 5.1%에 이른다고 추정했습니다.5 이제 기계는 사람조차 버거운 기준에 바짝 다가서고 있었습니다.

이것이 이 시리즈 전체에서 데이터 중심 가설을 가장 명료하게 보여주는 사례입니다. 우승한 알고리즘은 제프리 힌턴의 계보에 속하고, 그 합성곱 아키텍처는 얀 르쿤의 LeNet에서 내려온 것입니다. 그러나 둘 중 어느 것도 리의 데이터 없이는 2012년에 우승하지 못했을 것입니다. 모델과 데이터는 하나의 돌파구를 이루는 두 반쪽이며 — 십 년 동안 이 분야는 엉뚱한 반쪽을 고정해 두고 있었습니다.

인간 중심 AI와 Stanford HAI

이 분야에 더 강력한 눈을 쥐여준 뒤, 리는 자기 경력의 다음 국면을 그 눈이 어디를 향하는지 고민하는 데 보냈습니다. 그녀의 틀은 짐짓 단순합니다. AI는 인류에게 닥치는 외부의 힘이 아니라, 그 목적이 인간의 이로움인 인간의 창조물입니다. “저는 학생들에게 ‘인공지능’이라는 이름에 현혹되지 말라고 자주 말합니다. 거기에 인공적인 것은 없습니다”라고 그녀는 썼습니다. “AI는 인간이 만들고, 인간이 작동하도록 의도하며, 궁극적으로 인간의 삶과 인간 사회에 영향을 미칩니다.”6

2019년 3월, 그녀는 그 신념을 제도로 만들었습니다. 철학자이자 전 Stanford 교무처장인 존 에처멘디와 함께 Stanford 인간 중심 인공지능 연구소(HAI) 를 공동 설립하고 창립 공동 소장을 맡은 것입니다.7 AI 연구, 교육, 정책, 실천을 발전시켜 인간의 조건을 개선하겠다는 HAI의 사명은, 역량을 고립된 채로 최적화하기 일쑤인 분야에 대한 의도적인 균형추입니다. 이는 제가 취향을 기술적 시스템으로 — 막연한 감각이 아니라 — 다루게 하는 바로 그 본능과 같습니다. 그 작업이 무엇을 위한 것인가 하는 물음은 무른 것이 아니며, 엔지니어링 다음에 오는 것도 아닙니다. 그것은 엔지니어링의 일부입니다.

페이페이 리

AI4ALL, Google Cloud, 『내가 보는 세계들』, 그리고 World Labs

리의 경력은 그 위상의 연구자치고는 유난히 폭넓으며, 각 장은 동일한 두 원칙을 표현합니다. 2017년 그녀는 AI 분야의 다양성을 높이기 위한 비영리 단체 AI4ALL을 공동 설립했습니다. 누가 시스템을 만드는가 하는 물음에 “인간 중심”을 직접 적용한 것입니다.8 2017년 1월부터 2018년 가을까지 Stanford에서 안식년을 보내는 동안에는 Google Cloud의 AI/ML 수석 과학자이자 부사장으로 일하며, 연구를 제품으로 옮기는 일을 산업 현장으로 가져갔습니다.1

2023년 그녀는 회고록 『내가 보는 세계들(The Worlds I See)』 을 출간했는데, 버락 오바마가 자신의 독서 목록에 올렸고 파이낸셜 타임스는 올해의 책 중 하나로 꼽았습니다. “절반은 회고록, 절반은 과학”으로, 이민자 과학자와 데이터 중심 승부수의 이야기를 한 권에 담았습니다.9 그리고 2024년 9월, 그녀는 저스틴 존슨, 크리스토프 라스너, 벤 밀덴홀과 함께 공간 지능 스타트업 World Labs를 공동 설립했습니다. 3차원 세계를 지각하고, 생성하고, 추론하는 기반 “월드 모델”을 구축하는 회사로, 약 10억 달러의 자금을 유치했습니다.10 그 일관된 줄기는 정확합니다. ImageNet은 기계에게 정적인 시각을 주었고, World Labs는 기계에게 공간적 이해 — 다음의, 더 어려운 종류의 봄 — 를 주려는 그녀의 승부입니다.

방법론

리의 방법론은 세탁소 계산대에서 공간 지능 연구실에 이르기까지 한결같습니다. 모두가 무시하는 제약을 찾아내고, 그것을 없앨 화려할 것 없는 무언가를 만들며, 그 작업이 사람을 향하도록 계속 붙드는 것입니다.

모델만이 아니라 데이터를 공략하라. 한 분야가 막혔을 때, 진짜 병목이 알고리즘인지 아니면 알고리즘이 학습해야 할 데이터인지 물어야 합니다. 리의 결정적 한 수는 데이터를 의심한 것이었고, 그다음 엄청난 물류적 비용을 들여 그것을 입증할 데이터셋을 구축한 것이었습니다.34

이미 그 문제를 풀어낸 영역에서 구조를 빌려라. ImageNet은 자기만의 분류 체계를 발명하지 않았습니다. 인간 개념을 담은 WordNet의 계층 구조 위에 섰습니다. 알려진 구조가 문제에 들어맞을 때는 다시 발명하지 말고 그것을 부호화하면 됩니다. 르쿤이 평행이동 불변성을 합성곱에 녹여 넣은 것과 같은 본능입니다.34

이 분야가 당신의 작업을 사용하게 만들어라. 서랍 속의 데이터셋은 아무것도 바꾸지 못합니다. ILSVRC 챌린지는 ImageNet을 리더보드가 딸린 공통 벤치마크로 바꾸었고, 그것이야말로 연구 공동체를 실제로 움직인 것이었습니다.4

문제가 요구하는 규모로 크라우드소싱하라. 1,400만 장의 이미지를 라벨링하는 일은 한 연구실에는 불가능했기에, 리는 수만 명의 작업자에 걸친 주석 파이프라인을 구축했습니다. 그 운영적 해법이 바로 과학적 기여였습니다.4

무엇을 위한 것인지 계속 물어라. 인간적 목적이 없는 역량은, 리의 관점에서는 불완전한 엔지니어링입니다. HAI와 AI4ALL은 연구에 덧붙인 자선이 아니라, 방법론을 확장한 것입니다. 그 작업이 존재할 자격이 있는가를 묻는 Steve 테스트를 한 분야 전체에 적용한 셈입니다.678

영향의 사슬

그녀를 빚은 사람들

크리스티안 펠바움과 WordNet. ImageNet의 조직 근간은 WordNet의 개념 계층 구조이며, 리는 WordNet 공동 창시자 크리스티안 펠바움과 직접 협력해 데이터셋을 구축했습니다. 인간 언어의 분류 체계가 기계 시각의 골격이 된 것입니다. (직접적 영향)

학습에 대한 인지과학적 관점. 리의 핵심 비유 — 모델이 아이가 그러하듯 세계를 충분히 마주하며 시각을 배워야 한다는 것 — 는 Caltech에서 신경과학과 컴퓨터 비전의 이음매에서 받은 훈련에서 나왔습니다. 규칙보다 데이터에 건 승부는, 생물학적 지각이 실제로 어떻게 발달하는지에 건 승부입니다. (형성적 영향)

물리학자의 본능. 그녀의 학부 훈련은 CS가 아니라 물리학이었습니다. 어수선한 현상 아래에 깔린 단순한 구조를 찾아내는 학문이지요. “적절한 데이터를 더 많이” 주는 것이 무차별 대입식 꼼수가 아니라 이 분야의 법칙이라고 믿으려는 의지는, 물리학자다운 종류의 확신입니다. (형성적 영향)

그녀가 빚은 것들

현대 컴퓨터 비전. ImageNet 위에서 학습하거나 사전 학습된 모든 비전 시스템 — 십 년 동안 사실상 그 전부였습니다 — 은 리의 데이터를 물려받습니다. 그녀는 이 분야에 단지 기여한 것이 아니라, 이 분야가 그 위에서 학습한 토대를 공급했습니다.

딥러닝 시대 그 자체. 현대 AI 붐의 시작으로 가장 흔히 거론되는 사건인 2012년 AlexNet의 우승은, 그녀의 데이터 위에서 그녀의 챌린지 안에서 이루어졌습니다. 그 돌파구의 데이터 중심 반쪽은 그녀의 것입니다.

한 세대의 연구자들. 그녀는 Stanford 연구실을 통해 안드레이 카르파시를 비롯해 훗날 각자 중심 인물이 된 학생들을 지도했고, AI4ALL을 통해 애초에 누가 이 분야를 만드는 데 참여할 수 있는지의 폭을 넓히고자 애썼습니다.

관통하는 줄기

리는 이 시리즈 딥러닝 가지의 데이터 뿌리이며, 이웃들과의 연결은 유난히 직접적입니다. 제프리 힌턴의 연구실은 2012년 ImageNet에서 우승한 알고리즘을 만들었고, 얀 르쿤은 그 알고리즘이 내려온 합성곱 아키텍처를 설계했습니다. 그러나 AlexNet은 리의 데이터 위에서 돌아갔습니다. 모델과 데이터셋은 하나의 사건을 이루는 두 반쪽이며, 여러 해 동안 이 분야는 모델을 다듬는 사이 정작 아직 존재하지 않았던 것은 데이터셋이었습니다. 앞으로 향하는 선은 그녀의 박사 제자 안드레이 카르파시로 이어집니다. 그는 ILSVRC 인간 정확도 벤치마크를 운영했고 훗날 “Software 2.0” — 신경망을 데이터로부터 컴파일된 프로그램으로 보는 발상 — 을 만들어냈는데, 이는 지능이 코드가 아니라 데이터에서 나온다는 리의 승부수를 자연스럽게 일반화한 것입니다. 르쿤은 세계를 배우라고 말하고, 힌턴은 학습하는 기계가 작동한다고 말하며, 리는 이렇게 말합니다. 여기 배울 세계가 있으니, 이제 가서 배워라. (시리즈 교량)

내가 여기서 얻는 것

리에게서 제가 간직하는 교훈은, 화려할 것 없는 토대가 종종 진짜 돌파구라는 것입니다. 이 분야는 십 년을 모델로 경쟁하는 데 보냈습니다. 모델이야말로 영리함이 깃든 듯 느껴지는 곳이기 때문이지요. 그런데 이 분야를 가장 멀리 밀고 나아간 사람은 데이터셋을 만듦으로써 그렇게 했습니다. 알고리즘적 통찰이라기보다는 운영적 인내의 행위였습니다. 이것이 제 본능을 재배치합니다. 무언가가 막혔을 때 저는 이제 먼저 묻습니다. 병목이 내가 손대고 싶은 영리한 부분인가, 아니면 내가 피하고 있는 지루한 부분 — 데이터, 라벨링, 아무도 만들고 싶어 하지 않는 토대 — 인가. 이는 증거의 관문과 같은 규율입니다. “무엇이 최적화하기에 가장 흥미로운가”가 아니라 “무엇이 실제로 제약인가”를 묻는 것이지요.

두 번째 교훈은 더 어렵고 더 조용합니다. 리는 이 분야에 진정으로 더 강력한 역량을 선사한 뒤, 그다음 십 년을 그것이 사람들에게 책임 있게 남도록 강조하는 데 보냈습니다. HAI를 세우고, AI4ALL을 세우고, 인간이 인간을 위해 만든 것에 인공적인 것은 없다고 거듭 말하면서요. 그것은 엔지니어링에 붙은 후기가 아닙니다. 그것은 엔지니어링이 존재하는 이유이며, 바로 그래서 저는 품질이 유일한 변수라고 붙들고, 이것이 존재할 자격이 있는가를 묻는 Steve 테스트는 다듬음만이 아니라 역량 그 자체에 던지는 물음이라고 여깁니다. 리는 눈을 만들었고, 그 눈이 인간의 선을 향하도록 지켜냈습니다. 토대, 그리고 그 토대가 무엇을 위한 것인가.

자주 묻는 질문

페이페이 리의 엔지니어링 철학은 무엇인가요?

데이터가 곧 토대이며, AI는 인간 중심이어야 한다는 것입니다. 리의 결정적 승부수는 기계 지각의 병목이 모델이 아니라 데이터라는 것이었습니다. 지능은 충분하고 적절한 예시 위에서의 학습으로부터 출현하며, 그것은 아이가 경험을 통해 보는 법을 배우는 방식과 같다는 것입니다. 그녀는 약 1,400만 장의 라벨링된 이미지로 이루어진 데이터셋 ImageNet을 구상하고 이끎으로써 이를 실행에 옮겼습니다.34 그녀의 두 번째 원칙은 AI가 인간의 이로움을 위한 인간의 산물이라는 것이며 — “거기에 인공적인 것은 없다” — 그녀는 이를 Stanford HAI와 AI4ALL을 통해 제도화했습니다.678

ImageNet은 무엇이며, 페이페이 리가 혼자 만들었나요?

ImageNet은 현대 컴퓨터 비전의 토대가 된 학습 데이터셋이 된 대규모 라벨링 이미지 데이터베이스입니다. 2만 개가 넘는 범주에 걸쳐 손으로 주석을 단 약 1,400만 장의 이미지로, WordNet 개념 계층 구조를 바탕으로 조직되고 Amazon Mechanical Turk를 통해 라벨링되었습니다.4 리는 이 프로젝트를 구상하고 이끌었지만, 이는 팀의 노력이었습니다. 2009년 CVPR 논문 “ImageNet: A Large-Scale Hierarchical Image Database”는 지아 덩, 웨이 둥, 리처드 소처, 리지아 리, 카이 리, 그리고 (선임 저자로서) 페이페이 리가 함께 저술했으며, WordNet 근간은 WordNet 공동 창시자 크리스티안 펠바움과의 협력에서 나왔습니다.34

ImageNet은 어떻게 딥러닝 붐으로 이어졌나요?

2010년부터 2017년까지 리의 그룹은 1,000개 범주 부분집합 위에서 매년 열린 대회인 ImageNet Large Scale Visual Recognition Challenge(ILSVRC)를 운영했습니다.4 2012년 9월 30일, 심층 합성곱 신경망 AlexNet이 top-5 오류율 15.3%로 — 2위를 10.8포인트 넘게 앞서며 — 우승했고, 이 사건은 현대 AI 시대의 시작으로 널리 받아들여집니다.45 결정적인 점은 합성곱 알고리즘이 이미 존재했다는 것입니다. 새로웠던 것은 그것이 학습할 만큼 충분히 큰 데이터셋이었습니다. 모델이 아니라 데이터가 빠져 있던 재료였습니다.4

페이페이 리는 지금 무엇을 하고 있나요?

Stanford HAI(2019)와 AI4ALL(2017)을 공동 설립하고, Google Cloud에서 AI/ML 수석 과학자(2017-2018)로 일했으며, 2023년 회고록 『내가 보는 세계들』을 출간한 뒤, 리는 2024년 9월 World Labs를 공동 설립했습니다.1789 World Labs는 3차원 세계를 지각하고, 생성하고, 추론하는 기반 “월드 모델”을 구축하는 공간 지능 스타트업으로, 약 10억 달러의 자금을 등에 업은 기계 지각의 다음 개척지에 건 그녀의 승부입니다.10


출처


  1. “Fei-Fei Li,” Wikipedia. 1976년 7월 3일 중국 베이징 출생. 그녀가 12세일 때 아버지가 뉴저지 파시패니로 이민했고 16세에 합류; 가족이 세탁업을 운영; Princeton 물리학 학사(1999); Caltech 전기공학 석사(2001) 및 박사(2005); 2009년부터 Stanford 교수; Stanford AI Lab 소장(2013-2018); 2017년 1월부터 2018년 가을까지 안식년 중 Google Cloud의 AI/ML 수석 과학자 겸 부사장; Stanford HAI 창립 공동 소장; AI4ALL 공동 설립(2017); World Labs 설립(2024). 

  2. Jane Thier, “She ran her parents’ dry-cleaning business at 18. Today, the ‘godmother of AI’ is advising world leaders and running a billion-dollar startup,” Fortune, 2025년 11월 24일. 리의 뉴저지 이민, 고등학교와 대학 시절 내내 이어진 가족 세탁소 일, 그리고 Princeton에서 World Labs로 이어지는 궤적을 상술합니다. 

  3. Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li, and Li Fei-Fei, “ImageNet: A Large-Scale Hierarchical Image Database,” 2009 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Miami, June 20-25, 2009, doi:10.1109/CVPR.2009.5206848. WordNet 계층 구조 위에 구축하고 Amazon Mechanical Turk를 사용해 채운, ImageNet을 소개한 논문; 페이페이 리가 선임(마지막) 저자. 저자 목록과 출판 세부 사항은 Scientific Research Publishing에도 기록되어 있습니다. 

  4. “ImageNet,” Wikipedia. ImageNet은 2만 개가 넘는 범주에 걸쳐 손으로 주석을 단 1,400만 장이 넘는 이미지를 담고 있으며; 전체 ImageNet-21K 릴리스는 21,841개 클래스에 14,197,122장의 이미지로 구성됩니다. 페이페이 리는 2006년에 그 발상을 시작했고 2007년 WordNet 공동 창시자 크리스티안 펠바움과 협력했습니다. 라벨링은 2008년 7월부터 2010년 4월까지 Amazon Mechanical Turk를 통해 진행되었으며, 167개국 약 49,000명의 작업자가 1억 6천만 장이 넘는 후보 이미지를 걸러냈습니다. ILSVRC는 1,000개 범주 부분집합(학습 1,281,167장, 검증 50,000장, 테스트 100,000장) 위에서 2010-2017년 매년 열렸습니다. 2012년 9월 30일, AlexNet이 top-5 오류율 15.3%로 2위를 10.8포인트 넘게 앞서며 우승했습니다. 

  5. “AlexNet,” Wikipedia, AlexNet의 2012년 ILSVRC 우승과 대규모 라벨링 데이터, GPU 컴퓨팅, 개선된 학습 방법의 수렴에 관하여. 인간 벤치마크에 관해서는, 페이페이 리 밑의 Stanford 박사 과정 학생으로서 ILSVRC 인간 정확도 실험을 운영한 안드레이 카르파시의 역할(집중적인 노력으로 top-5 인간 오류율 ~5.1%로 추정)을 참조하십시오. “Andrej Karpathy,” AI Wiki, 그리고 그의 Stanford 페이지 cs.stanford.edu/people/karpathy에 기록되어 있습니다. 

  6. Fei-Fei Li, post on X, 2018년 2월: “저는 학생들에게 ‘인공지능’이라는 이름에 현혹되지 말라고 자주 말합니다. 거기에 인공적인 것은 없습니다. AI는 인간이 만들고, 인간이 작동하도록 의도하며, 궁극적으로 인간의 삶과 인간 사회에 영향을 미칩니다.” (X는 자동 검색에 인증을 요구합니다; 이 인용문은 그녀의 인간 중심 AI 옹호를 다룬 보도를 포함해 널리 재인용되고 있습니다. 또한 Axios AI+ Summit에서의 그녀의 발언도 참조하십시오. “AI pioneer Fei-Fei Li: Give scientists more access to advanced AI models,” Axios, 2023년 11월 9일, AI에 “인공적인 것은 없다”는 발언.) 

  7. “Stanford University launches the Institute for Human-Centered Artificial Intelligence,” Stanford Report, 2019년 3월 18일. Stanford HAI는 2019년 3월에 출범했으며, 페이페이 리(컴퓨터 과학 교수, 전 Stanford AI Lab 소장)와 존 에처멘디(철학자이자 전 교무처장)가 공동 소장을 맡았고, AI 연구·교육·정책·실천을 발전시켜 인간의 조건을 개선하겠다는 사명을 내걸었습니다. 

  8. AI4ALL에 관하여: “Fei-Fei Li,” Wikipedia. 2017년 리는 인공지능 분야의 다양성과 포용성을 높이기 위한 비영리 단체 AI4ALL을 공동 설립했습니다. 

  9. Fei-Fei Li, The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI (Flatiron Books, 2023). 데이터 중심 가설에 관해서는 다음도 참조하십시오. “‘Godmother of A.I.’ Fei-Fei Li on technology development,” CBS News, 그리고 NPR 보도 “Fei-Fei Li’s memoir ponders artificial intelligence ethics,” NPR, 2023년 11월 10일. 리의 표현: “AI에 대한 우리의 가설은 데이터 주도적이어야 하며, 데이터 중심이 옳은 가설이었습니다.” 이 책은 버락 오바마의 독서 목록과 파이낸셜 타임스의 2023년 올해의 책에 올랐습니다. 

  10. “About,” World Labs. World Labs는 2024년 페이페이 리가 저스틴 존슨, 크리스토프 라스너, 벤 밀덴홀과 함께 설립한 공간 지능 회사로, 3차원 세계를 지각하고, 생성하고, 추론하고, 상호작용하는 기반 월드 모델을 구축합니다. 약 10억 달러의 자금 유치에 관해서는 다음을 참조하십시오. “Fei-Fei Li’s World Labs raises \$1bn to advance spatial intelligence,” Silicon Republic. 

관련 게시물

엔지니어링 철학: 얀 르쿤, 세상을 배우다, 공개적으로

얀 르쿤은 합성곱 위에 딥 비전을 세웠고, 이후 진짜 지능은 더 큰 LLM이 아니라 세상을 비지도 방식으로 학습하고 그것을 공개적으로 발표하는 데서 나온다는 데 베팅했습니다.

13 분 소요

엔지니어링 철학: Roberto Ierusalimschy

Roberto Ierusalimschy는 단 하나의 원칙을 중심으로 Lua를 설계했습니다 -- 규칙이 아니라 메커니즘을 제공한다는 원칙. 정해진 규칙 대신 직접 다룰 수 있는 지렛대를 손에 쥐여 주는, 작고 빠르며 …

16 분 소요

The Shader Gallery That Lied: Debugging 216 WebGL Presets

A user said the shader playground looked broken. Pixel-readback testing found 30 dead presets, 11 that never compiled, a…

11 분 소요