제미나이 만든 사람은 무슨 생각 할까 (제프 딘)

URL: https://www.youtube.com/watch?v=n_C5vsjWBnE 날짜: 2026-08-26 채널: B_ZCF

---

메타데이터

• 원문 제목: 제미나이 만든 사람은 무슨 생각 할까 (제프 딘)
• 영상 ID: n_C5vsjWBnE
• 주제: 제프 딘의 AI 발전 회고, Gemini 설계, 재귀적 자기 개선(Recursive Self-Improvement), Discovery Loop
• 분류: AI·LLM·에이전트
• 자막: 한국어 자동 자막 우선, 영어 자동 자막으로 고유명사와 기술 용어 대조

---

📌 핵심 질문 / 이 영상이 다루는 핵심 논점

==AI의 다음 경쟁력은 모델 자체의 크기보다 과학·공학적 실험 루프를 얼마나 빠르고 높은 품질로 자동화하느냐에 달려 있다.== 제프 딘(Jeff Dean)은 딥러닝의 확장, TensorFlow와 Gemini의 설계 경험, 신경망 아키텍처 검색(Neural Architecture Search)을 하나의 원리로 연결한다. 큰 문제를 하위 문제로 나누고, 접근법을 구현하고, 결과를 평가하고, 피드백으로 다음 실험을 정하는 과정을 AI 에이전트와 도구가 반복하게 만들면 연구의 속도와 질을 동시에 높일 수 있다는 구상이다.

• 모델은 모든 지식을 큰 용량에 담되, 각 토큰에 필요한 전문가(Expert)만 활성화하는 방식으로 효율을 얻을 수 있다.
• 2011~2012년경부터 시작된 대규모 딥러닝 확장은 이미지·음성·언어를 하나의 학습 패러다임으로 묶었고, 단순한 모델을 키우는 것만으로 기존 수십 년의 개선 폭에 가까운 성과를 냈다.
• Gemini는 여러 Google 연구 조직이 따로 추진하던 확장·멀티모달 연구를 한데 모아 처음부터 텍스트·코드·이미지·영상·오디오를 다루는 모델로 설계했다.
• 재귀적 자기 개선은 아키텍처뿐 아니라 데이터 선택, 평가 방법, 학습 절차까지 각각 자동화된 개선 루프에 넣고 전체 모델의 품질로 결합하는 문제다.
• Discovery Loop는 공익 법인(Public Benefit Corporation)으로서 과학·공학의 실험을 하루나 일주일 단위에서 1분이나 1시간 단위로 줄이고, 수천~수만 개 실험을 병렬 실행하는 것을 목표로 삼는다.

과도하게 단기적인 문제와 완전히 불가능해 보이는 문제 사이에서, 이미 윤곽이 잡힌 다섯 부분과 새 기술이 필요한 두 부분을 함께 가진 약 5년짜리 문제를 선택하는 태도가 장기 연구에 적합하다. 작은 팀과 클라우드 컴퓨팅을 결합하면 대기업의 인프라를 직접 소유하지 않고도 한 가지 사명에 집중할 수 있으며, 반대로 보안처럼 AI의 능력이 방어와 공격에 동시에 쓰이는 영역은 기술적 통제와 법·규제·사회적 규범을 함께 설계해야 한다.

1. 과학적 발견을 빠르게 만드는 문제 구조

현대 과학과 공학의 어려운 문제는 대부분 하위 문제 분해와 반복 실험의 형태로 환원된다.

1.1. 과학적 방법과 공학 설계의 공통 루프

1. 큰 문제를 하위 문제로 분해한다

   1. 해결해야 할 큰 목표를 여러 하위 문제로 나누고, 각 하위 문제가 전체 목표에 어떤 역할을 하는지 파악한다.
   2. 하위 문제마다 가능한 해결 접근법을 세운다. 문제를 한 번에 해결하려 하기보다 실험 가능한 단위로 바꾸는 단계다.

2. 구현·평가·피드백을 반복한다

   1. 선택한 접근법을 실제로 구현하고 시도한다.
   2. 결과가 얼마나 효과적이었는지 평가한 뒤, 그 평가를 다음 실험의 설계에 피드백한다.
   3. 과학에서는 이것이 기본적인 과학적 방법이고, 공학에서는 설계를 반복하면서 여러 속성을 비교하는 기본 방식이다.

1.2. Discovery Loop의 출발점

1. 공익 법인으로서의 목표

   1. Jeff Dean, Sanjay Ghemawat, Quoc Le, Oriol Vinyals가 함께 세운 Discovery Loop는 머신러닝 과학과 공학을 자동화해 여러 분야의 발견 속도를 높이려 한다.
   2. 사업의 최종 목적을 회사의 재무적 이익에 한정하지 않고, 과학적 발견을 가능한 많은 사람에게 널리 퍼뜨리는 사회적 이익으로 둔다.
   3. 공익에 더 부합한다면 회사의 재정적 이해관계와 다른 결정을 내릴 수 있다는 원칙을 명시한다.

2. 좁게 시작해 넓게 확장한다

   1. 초기에는 초점을 잃지 않도록 비교적 좁은 과학·공학 영역에서 시작한다.
   2. 분야가 달라도 재사용할 수 있는 인프라와 공통 기법이 많다고 보고, 여러 과학·공학 영역을 이해하는 모델로 적용 범위를 넓힌다.
   3. 한 사람이 20개 분야에서 박사 학위를 가질 수는 없지만, 하나의 모델이 여러 영역에서 박사 수준의 전문성을 갖추면 문제의 중요한 하위 문제를 찾아낼 수 있다고 본다.

3. 에이전트로 하위 문제를 나누고 다시 결합한다

   1. 모델이 큰 문제에서 중요한 하위 문제를 식별한다.
   2. 에이전트(Agent)와 다중 에이전트 시스템(Multi-agent System)을 배치해 각 하위 문제를 병렬로 해결한다.
   3. 서로 다른 하위 문제의 결과를 다시 조합해 상위 문제의 해법으로 만들고, 다음 실험을 통해 루프를 계속 돌린다.

1.3. 실험 속도와 실험 품질의 동시 향상

1. 반복 시간을 압축한다

   1. 실험을 구현하거나 평가하는 도구를 잘 만들면 하루나 일주일 걸리던 한 번의 반복을 1분이나 1시간에 수행할 수 있다.
   2. 단순히 같은 실험을 빨리 실행하는 데서 끝나지 않고, 매 반복에서 얻는 피드백이 다음에 할 실험의 선택을 더 정교하게 만든다.

2. 대규모 병렬 실험을 운영한다

   1. 수천 개, 수만 개의 실험을 병렬로 실행해 넓은 탐색 공간을 한 번에 조사한다.
   2. 각 실험의 예상 가치(Expected Value)와 컴퓨팅 자원 등 비용을 비교해 다음 실행 목록을 관리한다.
   3. 속도만 빠른 저품질 실험이 아니라, 더 좋은 피드백을 산출하는 실험을 선택하게 되므로 실험 속도와 품질이 함께 높아진다.

2. 제프 딘의 경력과 대화의 배경

Jeff Dean이 Google에서 쌓은 시스템·AI 경험과 Dawn Song이 가진 보안·스타트업 경험이 대기업과 집중형 소규모 조직의 대비를 만든다.

2.1. Jeff Dean이 만든 기반

1. Google에서의 27년

   1. 1999년에 Google에 합류해 약 27년간 근무했다. 자막에는 29년이라는 표현도 함께 나오지만, 대화의 후반부에서는 27년을 반복해서 언급한다.
   2. MapReduce, Bigtable, TensorFlow, TPU, Google Brain, Gemini 등 현대 컴퓨팅과 AI의 기반을 만든 작업에 참여했다.
   3. 미국 국립공학한림원(National Academy of Engineering) 회원으로 선출됐고, IEEE John von Neumann Medal과 ACM Prize in Computing을 받았다.

2. 새로운 장의 시작

   1. Stanford에서 새로운 장을 시작하는 첫날에 이 대화에 참여했다는 소개가 나온다.
   2. 자정에 잠깐 실업 상태였다가 Discovery Loop를 시작했다는 농담으로 전환기의 시간을 표현한다. 대화 시점에는 창업자로 지낸 시간이 12시간 반이었다.

2.2. Dawn Song과 대화의 대비

1. 오랜 인연과 ICLR 일화

   1. Dawn Song과 Jeff Dean은 10년 넘게 알고 지냈다.
   2. 2017년 무렵 ICLR(International Conference on Learning Representations)은 지금의 수만 명 규모보다 훨씬 작은 수백 명 규모였고, Song의 연구 그룹은 신경 프로그램 합성(Neural Program Synthesis)의 일반화(Generalization)에 관한 논문으로 최우수 논문상을 받았다.
   3. 당시 논문은 지금의 언어 모델 기반 코드 생성보다 훨씬 이전의 연구였다. Jeff Dean이 축하하러 와서 ICLR 최우수 논문상이 세 개라며 Song 그룹의 상 하나와 Google의 상 두 개라고 말한 농담이 두 사람의 기억에 남았다.

2. 서로 반대 방향으로 이동한 두 연구자

   1. Dawn Song은 AI 보안·신뢰·컴퓨팅의 교차점에서 연구했고, MacArthur Fellow와 American Academy of Arts and Sciences 회원으로 소개됐다.
   2. 네 개의 스타트업을 창업했고 그중 하나는 매출 1억 달러를 넘겼다. 연구를 논문에 머무르게 하지 않고 실제 영향력으로 바꾸는 능력이 강점으로 제시된다.
   3. Song은 Berkeley에서 Meta라는 대형 AI 플랫폼으로 이동했고, Jeff Dean은 거대한 Google을 떠나 집중형 스타트업을 만들었다.

3. 조직 규모보다 탐험할 바다

   1. 사회자는 Microsoft에서 30년 일한 뒤 Zoom에 합류한 자신의 경험을 덧붙이며, AI 기업의 최적 규모에 대한 두 사람의 선택이 다르다고 농담한다.
   2. 핵심 교훈은 배의 크기가 아니라 탐험할 가치가 있는 새롭고 흥미로운 블루오션(Blue Ocean)이 있는지 여부라는 말로 정리된다.
   3. 지난 10년이 AI의 능력을 높이는 시기였다면, 다음 장의 질문은 그 지능으로 실제로 무엇을 성취할 수 있는가다. 암 치료와 사회 개선 가능성이 대표적인 질문으로 제시된다.

3. 희소 전문가 모델과 딥러닝 확장의 통찰

3.1. Mixture-of-Experts가 제시한 효율성

1. 대규모 용량과 선택적 활성화

   1. 논문 제목은 「Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer」이며, 희소 게이트 혼합 전문가(Sparsely-Gated Mixture-of-Experts, MoE) 구조를 다룬다.
   2. 모델 전체에는 많은 정보를 기억할 수 있는 매우 큰 용량을 두되, 특정 요청이나 토큰을 처리할 때는 가장 유용한 전문가(Expert) 부분만 호출한다.
   3. 여러 전문가가 서로 다른 영역에 능숙하도록 모듈식 아키텍처(Modular Architecture)를 구성하고, 게이트가 입력에 맞는 전문가를 선택한다.

2. 뇌와 쓰레기 트럭의 비유

   1. 사람의 뇌에는 셰익스피어 소네트를 생각하는 회로와 차를 운전하다가 뒤에서 쓰레기 트럭이 후진할 때 반응하는 회로가 함께 있다.
   2. 두 기능이 항상 동시에 작동하지 않으므로, 모든 회로를 계속 켜두기보다 필요한 부분만 활성화하는 편이 에너지와 계산량 면에서 합리적이다.
   3. MoE는 이 원리를 모델에 적용해 전체 용량은 크게 유지하면서 토큰마다 필요한 부분만 사용한다.

3. 초기 성과가 준 확신

   1. 당시 주류였던 밀집 모델(Dense Model)과 비교해 학습 컴퓨팅 대비 품질(Training Compute-to-Quality Ratio)이 약 10배 좋아질 가능성이 보였다.
   2. 10배 개선은 단순한 유행이 아니라 기본적인 방향을 바꿀 만한 아이디어라는 신호로 받아들여졌다.
   3. 이 구조의 계보는 현재 거의 모든 프론티어 AI 모델과 아키텍처에 이어졌다.

3.2. 2011~2012년의 스케일링 전환

1. 50배 큰 신경망과 성능 변화

   1. Google은 2011~2012년경 딥러닝 모델의 스케일을 키우는 연구를 시작했다.
   2. 이전에 훈련된 모델보다 약 50배 큰 신경망을 학습하면서 이미지 분류 오류율이 크게 낮아졌다.
   3. 비교적 단순한 심층 음향 모델(Deep Acoustic Model)을 키우는 것만으로도 음성 인식 오류율을 낮추는 폭이 지난 20년의 음성 연구에 맞먹었다.

2. 분리돼 있던 분야를 하나의 학습 렌즈로 묶다

   1. 컴퓨터 비전(Computer Vision), 언어 처리(Language Processing), 음성 인식(Speech Recognition)은 과거 각자의 특수한 기법을 발전시켰다.
   2. 딥러닝은 매우 가공되지 않은 원시 데이터에서 학습하는 공통 패러다임을 제공해 이 분야들을 하나의 시각으로 바라보게 했다.
   3. 지난 15년 동안 의학, 과학, 소비자 제품, 챗봇 등 여러 분야가 데이터 모델링·예측·분류에 이 접근법을 적용했다.

3. 컴퓨팅 투자가 보여주는 기대

   1. AI 하드웨어와 컴퓨팅에 투입되는 자본 규모가 매우 커졌다는 사실은 기술이 이미 바꾼 것보다 더 많은 변화를 만들 수 있다고 사람들이 믿는 신호다.
   2. 모델의 발전은 알고리즘만의 문제가 아니라 데이터를 처리하고 학습·추론을 수행할 하드웨어와 시스템 투자의 문제이기도 하다.

4. TensorFlow가 남긴 추상화와 오픈소스의 교훈

4.1. DistBelief에서 TensorFlow로 이어진 설계 원칙

1. 하드웨어 배치를 사용자에게서 추상화한다

   1. Google 내부에서 TensorFlow보다 먼저 비공개 시스템 DistBelief를 만들었고, 다양한 신경망 연산을 표현해 CPU와 GPU 등 여러 하드웨어에 매핑했다.
   2. 사용자는 100대의 컴퓨터와 1,600개 코어를 쓸지, 500개의 GPU를 쓸지 일일이 분산 시스템을 구현하지 않고 선언할 수 있었다.
   3. 하위 프레임워크가 연산의 배치와 분산을 처리하므로, 연구자는 “머릿속의 좋은 머신러닝 모델을 원하는 방식으로 구현하되 아주 빠르게 실행해 달라”고 요구할 수 있었다.

2. 계산 그래프(Computational Graph) 추상화

   1. 행렬 곱셈(Matrix Multiplication), 벡터 연산(Vector Operation) 등 머신러닝 연산을 조합한 계산 그래프로 모델을 표현했다.
   2. 모델의 논리와 실제 하드웨어 실행을 분리하면 연구자와 개발자는 하드웨어 세부사항보다 문제와 모델에 집중할 수 있다.
   3. 컴파일러 관점에서도 계산 그래프는 최적화와 실행 계획을 다루기 좋은 우아한 추상화다.

4.2. 오픈소스와 재현 가능한 연구

1. 공통 프레임워크의 확산

   1. TensorFlow를 오픈소스로 공개해 전 세계 연구자와 개발자가 동일한 방식으로 머신러닝 아이디어를 표현하고 실행할 수 있게 했다.
   2. 수백만 명이 현대 딥러닝을 접하고 자신이 중요하다고 생각한 문제에 머신러닝을 적용하는 데 도움을 받았다.

2. 논문과 구현의 결합

   1. 연구 논문에 아이디어의 구현을 함께 제공하면, 모호한 설명만 보고 세부사항을 추측해 재현하는 수고를 줄일 수 있다.
   2. 논문 설명에는 늘 많은 구현 세부사항이 빠지므로, 공통 프레임워크와 실제 코드는 지식의 전달과 재현성을 크게 높인다.

3. 에이전트형 AI 프레임워크에 적용할 원리

   1. 규모가 커질수록 각 팀이 매번 분산 시스템을 새로 만드는 것은 낭비이므로, 안정적인 공통 추상화가 필요하다.
   2. 에이전트형 AI에서도 목표·추론·도구 호출·실행·평가·재시도를 표현하는 상위 수준의 추상화가 하드웨어와 배포 세부사항을 감싸야 한다.
   3. 핵심은 연구자가 에이전트의 아이디어와 작업 흐름을 표현하면 실행 인프라가 계산 배치와 확장을 담당하도록 만드는 것이다.

5. Gemini를 만든 협업과 멀티모달 설계

5.1. 분리된 연구 프로젝트를 하나로 합치다

1. 수렴하던 방향을 인식하다

   1. Google DeepMind, Google Brain, Google Research의 여러 초기 프로젝트가 모델 규모를 키우는 방향으로 수렴하고 있었다.
   2. 언어 모델이 이미지 등을 이해하도록 만드는 멀티모달(Multimodal) 연구도 서로 독립적이고 병렬적으로 진행됐다.

2. 한 페이지 메모에서 공동 프로젝트로

   1. Jeff Dean은 각 조직이 비슷한 목적을 따로 추구하는 것이 비효율적이라는 취지의 한 페이지 메모를 썼다.
   2. 인력·아이디어·컴퓨팅 자원을 결합해 여러 연구 조직의 최고 인재가 처음부터 하나의 멀티모달 모델을 훈련해야 한다고 제안했다.
   3. Google Brain에서 함께 일했던 Oriol Vinyals가 개인 사정으로 런던으로 옮긴 뒤 DeepMind로 이동했지만, 두 사람은 계속 연락했고 Gemini에서 다시 긴밀히 협력했다.

5.2. 처음부터 멀티모달이어야 하는 이유

1. 모든 양식을 이해하는 하나의 기반 모델

   1. 하나의 모델이 텍스트(Text), 자연어(Language), 코드(Code), 이미지(Image), 영상(Video), 오디오(Audio)와 다른 양식들을 모두 이해해야 다양한 용도에 쓸 수 있다.
   2. 나중에 특정 양식을 덧붙이는 것보다 처음부터 멀티모달로 학습하는 편이 모델의 공통 표현과 확장성을 만들기 좋다.
   3. 훈련 데이터에 “LAR 데이터”를 조금 포함해 해당 데이터가 존재한다는 사실을 먼저 알게 하고, 이후 Gemini 모델을 추가 학습할 때 중요한 사용 사례로 연결하려는 설명도 나왔다. 자막의 LAR 약어는 원어가 명확히 식별되지 않지만, 핵심은 특정 추가 학습용 데이터 양식을 초기 단계부터 모델의 세계에 포함하는 전략이다.

2. 코딩 능력과 일반 추론의 연결

   1. 여러 능력을 두루 잘하게 만드는 과정에서 Gemini의 코딩 능력에 대한 집중이 다소 늦었다는 자기평가가 있었다.
   2. 코딩 역량을 높이면 복잡한 목표를 하위 문제로 나누고, 여러 단계를 실행하고, 결과를 확인하며, 실패를 수정하는 능력도 함께 좋아진다.
   3. 따라서 코딩 능력 향상은 코드 작성에만 유용한 것이 아니라 비코딩 문제의 추론과 문제 분해에도 자연스럽게 전이된다.

6. 기초 기술과 유행을 가르는 연구·공학 감각

6.1. 넓게 훑고 연결되지 않은 아이디어를 연결한다

1. 읽기의 폭을 넓힌다

   1. 논문 한 편을 아주 자세히 읽는 것보다 논문 열 편을 훑어보는 편이 가능한 아이디어의 지형을 파악하는 데 낫다.
   2. 더 빠른 탐색이 필요하면 초록 100개를 훑어보는 방식도 유효하다.
   3. 목표는 각 연구를 완전히 습득하는 것이 아니라, 아직 서로 연결되지 않은 중요한 아이디어를 이어 붙일 재료를 확보하는 것이다.

2. 문제의 난이도를 구성 요소로 본다

   1. 일곱 가지가 모두 해결 불가능한 문제처럼 보여도, 다섯 가지에는 이미 유망한 연구가 시작됐고 두 가지에는 새 기술이 필요하다고 볼 수 있다.
   2. 이처럼 문제의 일부는 윤곽이 보이고 일부는 깊은 사고가 필요한 구조가 약 5년짜리 장기 연구에 적합하다.
   3. 20년이 걸릴 것 같고 어디서 시작할지도 모르는 문제는 지나치게 위험하며, 2년 안에 해야 할 일이 명확한 문제는 분야를 획기적으로 전진시키기보다 실용적 엔지니어링에 가깝다.

6.2. 1원리 사고와 봉투 뒷면 계산

1. 가능성의 시간 규모를 계산한다

   1. 원하는 양의 데이터를 처리하는 데 얼마나 걸리는지, 네트워크로 모두 전송하면 얼마나 걸리는지를 대략 계산한다.
   2. 결과가 100년이면 현재 방식으로는 불가능에 가깝지만, 10초라면 전혀 다른 종류의 문제로 바뀐다.
   3. 이런 봉투 뒷면 계산(Back-of-the-envelope Calculation)은 아이디어를 실험할 가치가 있는지 빠르게 판별하게 한다.

2. 해법의 모양을 머릿속에서 비교한다

   1. 같은 문제에 여러 접근법을 상상하고, 각 방식의 처리량·비용·병목을 추정한다.
   2. 경험 법칙(Rule of Thumb)으로 한 접근이 다른 것보다 10배 낫다고 판단되면, 그 차이를 실험 우선순위에 반영한다.
   3. 이 감각은 반복과 연습, 다른 사람이 문제를 푸는 방식의 관찰에서 생기며 비밀스러운 마법의 공식이 아니다.

3. 실패할 가능성이 있는 일도 시도한다

   1. Jeff Dean은 자신도 잘되지 않은 일을 많이 해봤다고 말한다.
   2. 실패할 것 같은 일을 여러 개 시도하면 일부는 실제로 성공하며, 실패 자체가 다음 탐색의 정보가 된다.

6.3. 에이전트 시대의 새로운 추상화

1. 모델에서 자율적 시스템으로 이동한다

   1. 앞으로의 AI는 단순히 입력을 받아 출력을 내는 모델에서 더 자율적인 에이전트로 발전한다.
   2. 새로운 추상화는 모델 자체뿐 아니라 목표를 하위 작업으로 나누는 과정, 도구를 선택하는 과정, 실행 결과를 검증하는 과정, 실패에서 회복하는 과정을 다뤄야 한다.

2. 기초 원리와 시간 범위를 함께 본다

   1. 분야 전체의 흐름을 넓게 파악하되, 당장 만들 수 있는 것과 20년 뒤에나 가능할 것을 같은 위험 수준으로 취급하지 않는다.
   2. 현재 가능한 연구 다섯 부분과 아직 새 기술이 필요한 두 부분을 결합하고, 1원리 계산으로 실행 가능성을 확인하는 것이 장기적인 혁신의 균형점이다.

7. Frontier AI의 긍정적 잠재력과 이중 용도 위험

7.1. 다수의 활용은 인류에 긍정적이다

1. 의료·교육에서의 확장

   1. 의료와 교육에 AI를 적용하면 개인이 혼자 해결하기 어려운 문제를 풀 수 있어 더 많은 일을 수행하게 된다.
   2. 모델이 사람의 능력을 대체하는 데만 쓰이는 것이 아니라, 사람이 새로운 문제를 시도할 수 있는 지적·실행적 역량을 확장하는 도구가 될 수 있다.

2. AI가 바꿔야 할 다음 질문

   1. 지난 10년의 평가 기준이 모델의 능력 향상이었다면, 다음 단계는 그 능력으로 암을 치료하거나 사회를 개선하는 실제 성과다.
   2. 모델의 성능 수치만 높이는 것보다, 사람과 사회가 해결하지 못하던 문제를 해결하는 방향으로 시스템을 배치해야 한다.

7.2. 사이버 보안의 양날

1. 동일한 능력이 방어와 공격에 쓰인다

   1. 모델은 보안 취약점을 찾아 패치하는 데 활용될 수 있다.
   2. 악의적인 사용자는 같은 능력으로 취약점을 악용할 수 있다.
   3. 고도화된 인간 공격자가 할 수 있는 일을 모델이 수행하거나 넘어설 가능성이 있고, 동시에 인간 방어 엔지니어가 찾지 못하던 취약점도 발견할 수 있다.

2. 기술 외부의 대응이 필요하다

   1. 컴퓨터 시스템 침입을 엄격히 불법화하는 법·책임 체계를 강화하는 방법이 기술적 모델 통제의 보완책이 될 수 있다.
   2. 어떤 행위를 모델이 하지 않도록 할지, 어떤 행위를 장려할지 규제와 사회적 규범으로 정해야 한다.
   3. Jeff Dean은 사이버 보안 전문가가 아니라고 전제하면서도, 공격자와 방어자 양쪽이 훨씬 정교한 도구를 갖게 된 상황은 분명 우려할 만하다고 평가한다.

7.3. 재귀적 자기 개선의 현실적인 출발점

1. Neural Architecture Search

   1. 머신러닝으로 머신러닝을 개선하는 발상은 새로운 것이 아니며, Quoc Le와 동료들이 신경망 아키텍처 검색의 초기 연구를 이끌었다.
   2. 모델을 생성하는 모델이 새로운 머신러닝 아키텍처를 만들고, 학습 속도·훈련 컴퓨팅 비용·실제 데이터에서의 품질로 그 결과를 평가한다.
   3. 강화학습(Reinforcement Learning) 기반 반복 과정에서 생성기는 어떤 아키텍처 결정이 좋았고 나빴는지 피드백을 받아 점점 더 빠르게 학습하고 높은 품질을 내는 구조를 만든다.

2. 작은 평가와 큰 검증

   1. 초기 실험은 아키텍처의 효율성을 비교하기 위해 아주 작은 모델을 사용했다.
   2. 작은 모델에서 유망한 구조를 찾은 뒤, 확장된 버전으로 실제로 효과가 유지되는지 검증했다.
   3. 논문이 약 100만 달러짜리 연구였다는 농담이 나왔지만, 실제 내부 비용은 정가보다 훨씬 낮았고 작은 모델을 활용해 탐색 비용을 줄였다.

3. Evolved Transformer

   1. Quoc Le와 연구진은 Transformer의 기본 구성 요소를 진화 알고리즘(Evolutionary Algorithm)으로 조합하고 변형했다.
   2. 그 결과 일반적인 기본 Transformer보다 약 30% 효율적인 구조를 만들었다.
   3. 이는 아키텍처 설계 자체를 자동화된 탐색 루프에 넣을 수 있음을 보여주는 구체적 사례다.

4. 아키텍처를 넘어 전체 R&D 루프로

   1. 재귀적 자기 개선은 모델 아키텍처 하나만 바꾸는 것이 아니라 데이터 선택, 평가(Evaluation), 학습 알고리즘 등 모델에 필요한 모든 요소를 자동으로 개선하는 방향이다.
   2. 여러 팀이 따로 수행하던 데이터 품질 평가, 평가 방법 설계, 아키텍처 설계를 각각 자동화된 루프로 만들 수 있다.
   3. 각각의 개선 결과를 결합해 전체 모델의 품질, 데이터 조합, 학습 방식을 다시 개선하면 AI가 AI 연구개발 파이프라인의 일부가 된다.

8. Discovery Loop의 구체적 운영 구상

8.1. 과학적 방법을 실행 가능한 시스템으로 바꾼다

1. 제안에서 반복까지 자동화한다

   1. 큰 문제를 하위 문제로 분해하고 가능한 접근법을 제안한다.
   2. 에이전트가 접근법을 구현하고 실험을 실행한다.
   3. 평가 시스템이 결과를 측정하고, 다음 실험의 방향을 정하도록 피드백을 돌려준다.

2. 실험 오케스트레이션을 인프라로 만든다

   1. 다음에 실행할 수 있는 전체 실험 집합을 관리한다.
   2. 각 실험의 예상 가치와 컴퓨팅 자원·기타 실행 비용을 비교한다.
   3. 높은 기대 가치와 합리적 비용을 가진 실험에 자원을 배분하고, 결과에 따라 탐색 공간을 다시 갱신한다.

8.2. 창업팀과 협업의 역사

1. 네 명이 쌓은 14~30년의 협업

   1. Jeff Dean, Sanjay Ghemawat, Oriol Vinyals, Quoc Le는 서로 다른 조합으로 14년에서 30년 동안 협업해 왔다.
   2. MapReduce, Bigtable, Spanner, TensorFlow, 모델 증류(Model Distillation), 신경망 아키텍처 등 여러 작업에서 공통의 경험을 쌓았다.
   3. 오랜 신뢰와 시스템 구축 경험을 가진 네 명이 함께 과학적 발견을 발전시키는 회사를 만드는 것이 새로운 협업의 즐거움으로 제시된다.

2. 공익 목적의 배포

   1. Discovery Loop가 만든 과학적 발견을 널리 퍼뜨려 가능한 많은 사람이 혜택을 받게 하는 것이 목표다.
   2. 더 빠른 실험과 높은 품질의 결과를 독점적 제품 가치로만 남기지 않고, 사회 전체의 발견 능력을 높이는 방향으로 배포한다.

9. 질의응답: 대기업을 떠난 이유와 작은 팀의 가능성

9.1. Google의 시가총액과 스타트업의 집중력

1. 주가 변동을 개인의 사건으로 단정하지 않는다

   1. 한 청중은 Jeff Dean의 퇴사 당일 Google 시가총액이 2,000억 달러 줄었다고 언급하며, Google에서 할 수 없는 일을 스타트업에서 무엇을 할 수 있는지 물었다.
   2. Jeff Dean은 주식 시장 변동을 특정 사건 하나의 원인으로 귀속하기는 늘 어렵다고 답했고, “Jeff, 당신 때문이었다”라는 농담이 이어졌다.

2. Google에 대한 존중과 새로운 사명

   1. Google에서 보낸 27년과 훌륭한 동료들을 매우 좋게 기억하며, Google의 Gemini 계획도 잘 진행될 것이라고 말했다.
   2. Discovery Loop는 모두가 정확히 하나의 목표에 집중하는 작은 회사라는 점이 매력이며, 그 집중력이 새로운 일을 재미있고 강력하게 만들 것이라고 설명했다.
   3. Google에서 비슷한 일을 할 수도 있었지만, 약 10명의 팀이 Palo Alto 어딘가의 사무실에서 한 영역에만 집중하면 대기업의 산만함을 줄일 수 있다.

9.2. Dawn Song이 Meta를 선택한 이유

1. 스타트업 경험과 어려운 결정

   1. 여러 프론티어 AI 기업과 Google이 Song에게 연락했지만, 당시에는 대형 기술 기업에 합류할 준비가 되지 않았다.
   2. 과거 네 개의 스타트업을 창업했고 최근 스타트업은 인수됐으며, Fortune 500 고객을 가진 사업이 잘되고 있었기 때문에 Meta 합류는 쉽지 않은 결정이었다.

2. 유통 규모가 만드는 보안 영향력

   1. Meta는 수십억 명의 사용자와 수억 개의 기업이 사용하는 거대한 유통 플랫폼이다.
   2. 그 플랫폼에 보안 기술을 적용하면 연구가 실제 시스템과 사용자에게 큰 영향력을 미칠 수 있다는 점이 선택의 이유였다.
   3. 합류한 지 몇 주밖에 되지 않았지만, 대규모 플랫폼에서 도움을 줄 수 있다는 기대가 컸다.

9.3. 클라우드가 바꾼 대기업과 스타트업의 경계

1. 기존의 대기업 우위 논리

   1. 한 엔지니어는 데이터가 거대한 해자(Moat)이고, 분산 시스템과 최첨단 연구에는 큰 자본이 필요하므로 대기업이 AI를 지배할 것이라는 통념을 제시했다.
   2. 뛰어난 엔지니어가 대기업에서 큰 영향력을 낼 수 있다는 사실과, 그럼에도 AI 인재와 최첨단 연구가 스타트업으로 향하는 현상을 함께 질문했다.

2. 클라우드 컴퓨팅의 외부화

   1. 대규모 머신러닝 컴퓨팅이 여러 클라우드 플랫폼에 배포되면서 소수의 사람이 데이터센터와 거대한 인프라를 직접 구축하지 않아도 됐다.
   2. 자본을 조달한 작은 팀은 Google이나 다른 클라우드 제공업체가 구축한 하드웨어·분산 시스템을 구매해 자신의 비전과 실험에 집중할 수 있다.
   3. 인프라가 공통 플랫폼으로 외부화되면서 작은 조직의 핵심 경쟁력은 규모가 아니라 사명에 대한 집중력과 탐색 방향이 됐다.

3. 대기업의 가치와 이탈의 긴장

   1. Jeff Dean은 Google 같은 대기업이 훌륭한 동료, 우정, 자원, 안정성을 제공했다는 사실을 부정하지 않는다.
   2. 그런 지원 없이 나가는 일은 불안하지만, 동시에 작은 팀이 한 방향으로 움직이는 일은 매우 흥미롭다.
   3. 대기업이 인프라를 맡고 작은 팀이 집중된 미션을 맡는 구조가 AI 스타트업의 가능성을 넓힌다.

주요 발언 모음

“배의 크기가 중요한 게 아닙니다. 탐험할 가치가 있는 새롭고 흥미로운 블루오션이 있는지가 중요합니다.”

“10배 개선이 보이면, 정말 중요한 아이디어일 가능성이 높다고 생각합니다.”

“논문 한 편을 자세히 읽는 것보다 논문 열 편을 훑어보는 편이 낫습니다. 아직 연결되지 않은 중요한 아이디어를 연결해야 하기 때문입니다.”

“10초가 걸린다면 100년이 걸리는 경우와는 완전히 다른 문제입니다.”

“실패할 것 같은 일도 많이 시도해 보세요. 그중 일부는 성공할 겁니다.”

“코딩을 개선하면 코딩이 아닌 문제에서도 추론과 문제 분해 능력이 좋아지는 경향이 있습니다.”

“실험을 하루나 일주일이 아니라 1분이나 1시간 안에 반복하고, 수천 개의 실험을 병렬로 돌리면 속도와 품질을 모두 높일 수 있습니다.”

“대기업에서 할 수도 있지만, 열 명이 하나의 사명에만 집중하는 작은 회사는 많은 방해 요소를 잘라낼 수 있습니다.”

핵심 데이터 & 수치

• 1999년: Jeff Dean이 Google에 합류한 해다.
• 약 27년: Google에서 근무한 기간으로 반복해서 언급된다.
• 2011~2012년: Google이 대규모 딥러닝 확장 연구를 본격적으로 시작한 시기다.
• 약 50배: 이전보다 크게 확장해 훈련한 신경망의 규모다.
• 약 10배: 초기 희소 전문가 모델이 밀집 모델 대비 보여준 학습 컴퓨팅 대비 품질 개선 기대치다.
• 1,600개 코어·100대 컴퓨터 또는 500개 GPU: DistBelief가 사용자에게 제공한 하드웨어 추상화의 예시다.
• 약 15년: 딥러닝이 여러 분야로 확산되며 데이터 모델링·예측·분류의 공통 패러다임이 된 기간이다.
• 20년: 단순한 심층 음향 모델 확장으로 음성 인식 오류율을 낮춘 성과가 비교된 기존 연구 기간이다.
• 약 30%: Evolved Transformer가 일반적인 Transformer보다 효율적이었던 개선 폭이다.
• 약 5년: 이미 윤곽이 잡힌 영역과 새 기술이 필요한 영역을 함께 가진 이상적인 장기 문제의 시간 범위다.
• 1분~1시간: Discovery Loop가 하루~일주일의 실험 반복을 줄이고자 하는 목표 시간이다.
• 수천~수만 개: 병렬로 실행해 피드백을 얻고자 하는 실험 규모다.
• 14~30년: Discovery Loop 네 창업자가 서로 협업해 온 기간의 범위다.
• 약 10명: Palo Alto에서 하나의 사명에 집중할 것으로 상상한 초기 소규모 팀의 규모다.
• 2,000억 달러: 청중이 Jeff Dean의 퇴사 당일 Google 시가총액 감소로 언급한 수치다.
• 수십억 명의 사용자·수억 개 기업: Dawn Song이 Meta 플랫폼의 유통 규모를 설명한 수치다.

결론 및 시사점

1. AI 연구의 핵심 병목은 모델을 한 번 더 크게 만드는 일이 아니라, 가설·구현·실험·평가·피드백의 전체 루프를 얼마나 빠르게 돌리느냐로 이동한다.
2. MoE처럼 전체 용량과 실제 계산량을 분리하는 설계는 대규모 AI의 효율성을 높이는 기본 원리가 될 수 있다.
3. TensorFlow의 계산 그래프와 하드웨어 추상화는 에이전트형 시스템에도 목표·도구·실행·평가를 분리하는 공통 프레임워크가 필요하다는 교훈을 준다.
4. Gemini의 초기 멀티모달 설계는 나중에 기능을 덧붙이는 것보다 처음부터 여러 데이터 양식을 공통 표현으로 학습하는 편이 강력할 수 있음을 보여준다.
5. 코딩 능력은 프로그램 작성 기술을 넘어 문제 분해·다단계 실행·검증·반복을 훈련하는 일반 추론 능력으로 작동한다.
6. 기초 기술과 유행을 구분하려면 넓게 읽고, 연결되지 않은 아이디어를 조합하고, 1원리 계산으로 실현 가능성을 확인해야 한다.
7. 장기 연구는 완전히 불가능한 문제와 뻔한 단기 문제 사이에서, 일부는 보이고 일부는 새로 풀어야 하는 균형 잡힌 위험을 선택해야 한다.
8. 재귀적 자기 개선은 아키텍처 검색에서 시작해 데이터·평가·학습 절차 전체를 자동화하는 R&D 루프로 확장될 수 있다.
9. AI 보안 위험은 모델 안의 기술적 차단만으로 끝나지 않으며, 법률·책임·규제·사회적 규범이 함께 작동해야 한다.
10. 클라우드가 대규모 컴퓨팅을 외부화하면서 작은 팀도 대기업의 인프라를 활용해 집중된 사명을 실행할 수 있게 됐다.
11. Discovery Loop의 공익 법인 구조는 AI가 만들어낸 과학적 발견을 넓게 배포해 사회 전체의 연구 능력을 높이려는 선택이다.

핵심 요약 (20줄)

현대 과학과 공학의 핵심은 큰 문제를 하위 문제로 나누고 실험과 평가를 반복하는 데 있다.

Discovery Loop는 이 과학적 방법을 머신러닝과 에이전트로 자동화해 발견 속도를 높이려 한다.

여러 과학 분야를 이해하는 모델은 한 사람이 가질 수 없는 다분야 박사 수준의 지식을 제공할 수 있다.

에이전트와 다중 에이전트 시스템은 하위 문제를 병렬로 해결하고 결과를 다시 큰 해법으로 결합한다.

실험 도구가 좋아지면 하루나 일주일 걸리던 반복을 1분이나 1시간 안에 실행할 수 있다.

수천에서 수만 개의 실험을 병렬로 실행하면 속도뿐 아니라 다음 실험의 품질도 높아진다.

Jeff Dean은 1999년 Google에 합류해 MapReduce, Bigtable, TensorFlow, TPU, Gemini의 기반을 만드는 데 기여했다.

희소 전문가 혼합 모델은 거대한 전체 용량을 유지하면서 각 토큰에 필요한 전문가만 활성화한다.

MoE는 당시 밀집 모델보다 학습 컴퓨팅 대비 품질이 약 10배 좋아질 가능성을 보여줬다.

2011~2012년의 딥러닝 확장은 이전보다 약 50배 큰 신경망으로 이미지와 음성 성능을 크게 개선했다.

딥러닝은 컴퓨터 비전, 언어 처리, 음성 인식을 원시 데이터에서 학습하는 하나의 패러다임으로 묶었다.

TensorFlow는 계산 그래프와 하드웨어 추상화로 연구자가 분산 시스템 세부사항에서 벗어나게 했다.

Gemini는 Google의 여러 조직을 결합해 처음부터 텍스트, 코드, 이미지, 영상, 오디오를 이해하도록 설계됐다.

코딩 능력의 향상은 복잡한 문제를 분해하고 실행하고 검증하는 일반 추론 능력도 강화한다.

기초 기술을 찾으려면 논문 열 편이나 초록 백 편을 훑으며 아직 연결되지 않은 아이디어를 찾아야 한다.

약 5년짜리 연구는 일부 윤곽이 보이고 일부는 새 기술이 필요한 균형 잡힌 위험을 가져야 한다.

봉투 뒷면 계산은 데이터 처리와 네트워크 전송이 10초인지 100년인지 가려내 연구 가능성을 판단하게 한다.

재귀적 자기 개선은 아키텍처뿐 아니라 데이터, 평가, 학습 과정 전체를 자동화된 루프에 넣는 일이다.

AI 보안은 취약점 방어와 공격에 동시에 쓰이는 이중 용도 문제이므로 법과 규제가 기술 통제를 보완해야 한다.

클라우드 컴퓨팅은 작은 팀이 대기업의 인프라를 빌려 하나의 사명에 집중할 수 있게 만들었다.