URL: https://www.youtube.com/watch?v=KpOW9Pk4BUs 날짜: 2026-08-22 채널: latentspacepod
오프닝 안내
채널 운영팀은 매일 스폰서 제안을 받지만, 구독자 덕분에 광고 없이 AI 엔지니어링·과학·엔터테인먼트 콘텐츠를 지속하고 있다고 말했다. 가장 강력하면서도 무료인 지원은 구독 버튼을 누르는 일이며, 구독자가 늘어날수록 팀은 프로그램을 더 좋게 만들기 위해 계속 일할 수 있다는 요청이 이어졌다.
📌 핵심 질문 / 이 대화가 관통하는 논점
==인간의 말을 흉내 내는 언어 모델을 넘어, 실제 인간 행동의 원인과 사회적 상호작용을 학습한 행동 기반 모델(behavior foundation model)을 만들고, 결과를 예언하는 대신 원하는 미래에 도달하는 행동 경로를 찾을 수 있는가==가 핵심 질문이다.
- 웹 텍스트만 학습한 범용 언어 모델은 사람들이 온라인에서 무엇을 말하는지는 잘 다루지만, 실제 생활에서 무엇을 하고 왜 그렇게 하는지는 충분히 알지 못한다.
- 행동 모델은 생애 인터뷰(qualitative interview), 관찰·거래 데이터(observational/transaction data), 무작위대조시험(RCT) 같은 인과 데이터(causal data)를 결합해야 한다.
- Simile AI의 검증 실험에서 디지털 트윈(digital twin)은 원래 사람의 태도와 행동을 자기 자신이 재현하는 수준의 85% 정확도를 보였다.
- 최종 목표는 수천 명의 합성 패널을 넘어 수십억 명의 다중 에이전트 사회를 만들고, 기후변화·민주주의 붕괴·통화제도의 기원처럼 단일 예측으로는 풀 수 없는 사회 문제의 해결 경로를 탐색하는 것이다.
예측(prediction)은 두 분기 뒤 매출이 급락한다고 알려줄 뿐이지만, 시뮬레이션(simulation)은 지금 어떤 조치를 취해야 그 미래를 피하거나 다른 미래로 이동할 수 있는지 단계별 경로를 보여준다. 인간의 비효율, 습관, 기억, 감정, 사회적 맥락까지 보존한 모델이어야 실제 의사결정에서 사람의 목소리를 지속적으로 대표할 수 있다.
1. Joon Sung Park의 배경과 문제의 출발점
1.1. 한국에서 보스턴으로, 예술에서 계산으로
-
어린 시절과 가족
- Joon Sung Park은 한국에서 태어나 약 11년을 살았고, 11살 때 가족과 함께 보스턴으로 이주했다.
- 부모는 의사였으며, 아버지는 외과 의사로 Boston Children’s Hospital에서 안식년 연구를 수행했다.
- 이후 뉴잉글랜드와 미국 동부에서 성장했고, 뉴햄프셔에서 여러 해를 보낸 뒤 펜실베이니아의 대학에 진학했다.
-
예술가가 되려던 시기
- 대학에 들어가기 전까지 기술과는 거리가 있었고 음악, 그림, 예술적인 활동을 좋아했다.
- 고등학교 때 시작한 회화는 취미가 아니라 실제 직업으로 삼으려던 전문적 추구였다.
- “최고의 예술가는 자기만의 매체를 만든다”는 생각을 하면서, 당시 이용 가능한 가장 강력한 새 매체가 계산(computation)이라고 판단했다.
- 예술을 버린 것이 아니라 계산을 새로운 창작 매체로 받아들이면서 기술과 연구로 이동했다.
1.2. 2020년 스탠퍼드 박사과정과 파운데이션 모델
-
새로운 모델에 대한 질문
- 2020년 스탠퍼드에서 박사과정을 시작할 때 GPT-2가 이미 있었고 GPT-3와 GPT-3.5가 등장하려던 시기였다.
- 당시 연구자들의 일반적인 반응은 특정 작업을 하도록 훈련되지 않은 모델이 실제로 쓸모가 있겠느냐는 의문이었다.
- Joon은 이 모델들이 특정 작업 하나가 아니라 “무엇이든 할 수 있다”는 전제를 가진다는 점에 주목했다.
- 생물학의 줄기세포(stem cell)에 비유하면, 여러 기능으로 분화할 수 있는 새로운 종류의 기반이었다.
-
「Opportunities and Risks of Foundation Models」
- Joon, Michael Bernstein, Percy Liang을 비롯한 스탠퍼드 연구자 그룹이 이 가능성과 위험을 정리하는 논문을 썼다.
- Percy Liang은 foundation model이라는 용어를 만든 인물로 언급됐다.
- 이 작업을 통해 “이 기술만이 가능하게 만드는 가장 중요한 킬러 애플리케이션(killer application)은 무엇인가”라는 질문이 깊어졌다.
- 단순 분류나 생성은 흥미롭지만 수십 년 동안 해오던 작업의 확장에 가깝고, 인간 행동을 현실적으로 드러내는 일이 훨씬 근본적인 응용이라고 판단했다.
-
Generative Agents와 Smallville
- 웹, 소셜미디어, 위키피디아에 축적된 데이터는 인간이 남긴 행동과 사회적 흔적이므로, 올바른 각도에서 모델을 자극하면 꽤 현실적인 인간 행동이 튀어나올 수 있다.
- Joon은 Michael Bernstein, Percy Liang 등과 “10년 뒤로 가서 지금을 돌아본다면 가장 흥미롭고 영감을 주는 응용은 무엇이었을까”를 상상하는 타임머신 게임(time machine game)을 했다.
- 가장 야심찬 답은 “우리가 사는 세계 자체를 다시 만들어보자”였고, 그 전 단계의 논문이 Social Simulacra였다.
- 이후 나온 Generative Agents 논문은 Smallville이라는 작은 마을에서 에이전트들이 기억하고 계획하고 서로 상호작용하게 만든 연구로 알려졌다.
- 발표 당시부터 기억(memory) 구성요소가 과소평가됐지만, Google Scholar 인용 수는 대화 시점에 약 72,000회로 제시됐다.
- “최근 읽은 최고의 논문”을 묻는 사람들에게 자주 Smallville 논문이 지목될 만큼 큰 반향을 일으켰다.
1.3. 개인 비서보다 시뮬레이션을 먼저 택한 이유
-
두 번째 후보는 개인화 에이전트였다
- 타임머신 게임에서 가까운 2순위는 사람을 깊이 이해하고 대신 일을 수행하는 개인 비서(personalized assistant)였다.
- 이 방향은 현재 자동화 도구와 개인 에이전트로 실제 진행되고 있으며, Joon도 여전히 매력을 느낀다고 했다.
- 그러나 뛰어난 개인 비서를 만들려면 먼저 사용자의 훌륭한 모델(motor가 아니라 model)이 필요하다는 것이 핵심 판단이었다.
-
피자와 파인애플 사례
- 에이전트에게 “늦은 저녁을 주문해줘”라고 하면 에이전트는 Joon이 좋아하는 피자를 주문할 수 있다.
- 하지만 Joon이 피자에 파인애플을 절대 넣지 않는다는 사실을 모르면 주문은 실패한다.
- 가족이나 가까운 친구가 우리를 잘 돕는 이유는 우리에 대한 깊은 정신적 모델(mental model)을 가지고 있기 때문이다.
- 따라서 시뮬레이션으로 정확한 사람의 표현을 먼저 만들고, 그 표현 위에 더 복잡한 자동화 에이전트를 쌓아야 한다는 것이 Simile의 베팅이다.
-
현재 개인 에이전트의 한계
- Joon은 OpenClaw나 Claude 같은 개인 에이전트가 점점 사용자를 알아가고 있지만, 아직 “진짜로 유용한 개인 비서”라는 야망을 충족하지 못했다고 평가했다.
- Markdown 파일이나 텍스트 파일에 기억을 넣는 방식은 언어 모델이 텍스트를 모델링하고 추론하는 능력을 활용한다는 점에서 Generative Agents의 초기 직관과 같다.
- 지식 그래프나 전용 모델을 처음부터 만들지 않고 텍스트 파일에 모든 것을 넣는 접근은 단순하고 강력하다.
- 다만 데이터가 커지면 무엇을 어떻게 검색하고 의미화할지에 많은 작업이 필요하며, 프롬프트만으로 바꿀 수 없는 모델의 파라미터 수준도 손봐야 한다.
- 모델이 이미 알고 있는 세계의 물리학(physics) 위에서 환경에 반응하는 것이라면 프롬프트로 행동을 꺼낼 수 있지만, 인류의 사회적 물리학(social physics) 자체를 새로 배워야 한다면 사후훈련(post-training)이나 파라미터 조정이 필요하다.
2. 행동 기반 파운데이션 모델(Behavior Foundation Model)
2.1. 웹의 자기표현 데이터와 인간의 ‘어두운 지식’
-
현재 모델이 잘 아는 것
- 대형 언어 모델은 인터넷에서 사람들이 쓴 텍스트를 대규모로 학습한다.
- 그 데이터에는 소셜미디어 글, 위키피디아, 공개 문서처럼 사람이 무엇을 말하고 어떻게 자신을 표현하는지에 관한 정보가 풍부하다.
- 그 결과 모델은 객관적 추론과 합리적 답변을 만드는 데 강해지고, 전문 프로그래머와 과학자 데이터를 통해 슈퍼 합리적(super-rational) 기계처럼 행동한다.
-
아직 부족한 것
- 온라인에서 “나는 이렇게 한다”고 말한 태도(attitude)와 실제 생활에서 한 행동(behavior)은 다를 수 있다.
- 인간의 실제 선택, 습관, 망설임, 비합리성, 사적 맥락은 웹에 충분히 노출되지 않는다.
- Joon은 이처럼 아직 포착되지 않은 실제 인간 행동의 층위를 인류의 “어두운 지식(dark knowledge)”이라고 불렀다.
- Simile이 만들려는 모델은 가장 똑똑한 사람이 되는 것이 아니라, Joon이 실수하면 똑같은 종류의 실수를 하는 모델이다.
- 이 목표는 Moravec의 역설(Moravec’s paradox)을 거꾸로 푸는 일처럼 어렵고, Joon도 바로 그렇다고 답했다.
2.2. 필요한 데이터 세 가지
-
생애 인터뷰 데이터(Interview / Qualitative Data)
- 사람에게 “삶의 이야기를 들려달라”고 요청하고, 어린 시절의 기억, 트라우마, 첫사랑, 중요한 결정의 배경까지 깊게 듣는다.
- 이 데이터는 직접적인 행동 기록은 아니지만 한 사람의 모델에 긴 꼬리(long tail)의 질감과 의미를 부여한다.
- Simile은 American Voices Project의 인터뷰 스크립트를 연구에 활용했다.
- 짧은 프로필보다 긴 생애 서사가 사람을 특정한 사람으로 만드는 맥락을 훨씬 많이 제공한다.
-
관찰·거래 데이터(Observational / Transaction Data)
- 실제 구매·거래 기록, 플랫폼에서의 행동, 웹을 수집한 자료는 사람들이 실제로 무엇을 했는지 보여준다.
- 이 자료는 인구집단의 기본 통계(base statistics)와 행동 분포를 얻는 데 유용하다.
- 소셜미디어 데이터도 행동에 가까운 면이 있지만, 직업적 자기표현이나 과장된 온라인 페르소나가 섞일 수 있다.
- 거래 데이터는 행동의 대가가 실제로 발생했다는 점에서 강한 신호가 된다.
-
인과 데이터(Causal Data)와 무작위대조시험(RCT)
- 시뮬레이션의 핵심 고객은 “두 분기 뒤 매출이 떨어질 것”이라는 예언보다 “지금 무엇을 바꾸면 그 미래를 피할 수 있는가”를 알고 싶어 한다.
- 이 질문에는 원인과 메커니즘을 설명하는 데이터가 필요하다.
- 동일한 조건에서 한 변수만 바꾸고 결과를 비교하는 무작위대조시험은 행동의 원인을 포착한다.
- 예를 들어 어떤 날 커피를 마셨는지 여부가 그날의 선택과 행동을 바꾸는지 비교하면, 단순 상관관계보다 원인에 가까운 정보를 얻는다.
- 현실 세계는 한 번만 발생하므로 모든 조건이 같고 변수 하나만 다른 사례가 거의 생기지 않는다.
- 그래서 RCT 데이터는 구하기 어렵지만, 미래를 형성하는 시뮬레이션에는 가장 중요한 데이터다.
2.3. 행동을 실제로 관찰하는 방법과 동의
-
참여자 커뮤니티
- Simile은 사람들이 자신의 데이터를 공유하고 여러 형태의 디지털 표현으로 자신을 대표하게 되는 커뮤니티의 구성원이 된다는 점을 명확히 알린다.
- 동의(consent) 절차를 중요하게 여기며, 참여자가 어떤 데이터가 수집되고 어떤 방식으로 모델링되는지 이해하도록 한다.
- 기업 고객에게서 받는 사용자 행동 데이터도 사람을 더 깊게 이해하는 자료로 활용된다.
-
가상 실험실과 현실적인 대가
- 참여자를 실제 실험실이나 가상 실험실로 초대해 현실적인 행동 결정을 내리게 한다.
- 태도에 관한 설문과 행동을 구분하는 가장 중요한 조건은 선택의 대가(stake)가 실제인지 여부다.
- 온라인 상점 실험에서 참여자가 고른 상품을 실제로 배송해주면, “그 상품을 좋아한다”고 말하는 것보다 행동에 가까운 선택이 된다.
- 심리학과 사회과학 연구에서 쓰던 실험 설계를 적용해 실제 선택과 결과를 연결한다.
- 기업과 협력하고 고객사의 플랫폼에서 실제 사용자가 어떤 행동을 하는지에 관한 단서도 얻는다.
2.4. 고객이 던지는 질문과 제품 구조
-
관심 인구집단을 모델링한다
- 첫 단계에서 고객과 함께 어떤 인구집단(population)을 모델링할지 정한다.
- 미국 전역에 판매하는 소비재(CPG) 기업은 미국 인구 전체를 모델링할 수 있다.
- 캘리포니아에 사는 20~30대처럼 특정 지역·연령·시장에 진입하려는 기업은 더 좁은 하위집단을 지정한다.
- Simile은 동의와 인센티브를 바탕으로 해당 집단의 참여자를 모집하고 데이터를 모아 사람들의 모델을 만든다.
-
질문과 환경을 조합한다
- 사용자는 “캘리포니아의 20~30대” 같은 인구 필터와 설문, 행동 실험, A/B 테스트 같은 환경(environment)을 입력한다.
- 모델은 특정 자극(stimulus)을 받은 사람들이 어떤 태도와 행동을 보일지 답한다.
- 초기 핵심 사용 사례는 제품·메시지·아이디어의 콘셉트 테스트(concept testing)다.
- 포커스 그룹을 대체하거나 보완할 수 있고, 공개 기업의 실적 발표(earnings call)를 사람들의 반응과 함께 모델링하는 재미있는 사례도 있다.
- 콘셉트 테스트는 서로 다른 제품, 메시지, 아이디어 중 무엇이 실제로 작동할지 알아보는 마케팅 연구다.
-
정치 영역의 가능성과 가드레일
- Simile은 Gallup과 전략적 파트너십을 맺고 있지만, 대화 시점에 정치 분야를 깊게 서비스하지는 않았다.
- 정치적 의사결정에는 수요가 분명해도 사회적 영향이 매우 크므로, 기술을 어떻게 운영할지에 관한 가드레일과 관점이 먼저 필요하다.
- The West Wing의 사례에서 대통령이 다발성 경화증(multiple sclerosis)을 어떻게 공개할지 결정하려고 가상의 주지사를 내세운 여론조사를 하는 장면이 소개됐다.
- 그 드라마의 결과는 “나쁠 것은 알지만 얼마나 나쁜지는 모른다”에서 “정말 나쁘다”로 확인됐고, 결국 정치적 필요 때문에 공개를 진행하는 식으로 흘렀다.
- 신뢰할 수 있다면 이런 반사실(counterfactual) 질문이 시뮬레이션에 잘 맞지만, 실제 정치에 적용하기 전에 조작과 영향력 남용을 막을 기준이 필요하다.
2.5. 예측과 시뮬레이션의 차이
-
부정적 결과의 크기와 급성
- 어떤 뉴스가 승인률을 50%에서 30%, 20%, 40%로 떨어뜨린다고 해도 “나쁜 일”이라는 방향만 알면 의사결정에 충분하지 않을 때가 있다.
- 하지만 실제 조직은 결과의 크기와 얼마나 급격한지에 따라 대응 비용과 우선순위를 바꾼다.
- 디자이너, 개발자, 정책 담당자, 마케터가 매일 만드는 산출물 가운데 사후적으로는 명백히 나빠 보이는 것도 많지만, 사전에 그 정도와 급성을 판단하기는 어렵다.
- 인터넷에서 큰 반발을 일으킨 게시물을 보고 “누가 봐도 바보 같은 말”이라고 말하기 쉽지만, 배포 전에 그런 실수를 피하는 일은 어렵다.
-
목표에서 거꾸로 경로를 찾는다
- 예측은 “이 질문에 사람들이 어떻게 답할까”를 묻는 데 그칠 수 있다.
- 시뮬레이션은 “원하는 목표가 있을 때 어떤 단계들을 차례로 밟아야 그 미래에 도달하는가”를 묻는다.
- Joon은 Isaac Asimov의 Foundation 시리즈와 그 안의 psychohistory를 비유로 들었다.
- 은하제국이 무너져 30,000년의 혼란이 닥친다는 예측 뒤에, 과학자들은 혼란을 1,000년으로 줄일 경로를 찾으려 한다.
- 첫 조치가 제국 붕괴를 경고한 과학자들을 아무도 모르는 변방 행성 Terminus로 추방하는 것이라는 점은 직관에 반한다.
- 그러나 목표와 단계별 결과를 함께 계산하면, 이상해 보이는 첫 조치가 전체 경로에 필요한 선택일 수 있다.
-
전기자동차와 Shopify 사례
- 자동차 회사가 전기자동차(EV)의 판매량을 올리고 주가를 높이려고 마케팅을 설계한다고 가정한다.
- EV에만 유리한 메시지를 내보내는 것이 오히려 비(非)EV 차량에 대한 인식을 바꾸어 전체 판매량을 떨어뜨릴 수 있다.
- EV 판매만 단기 최적화하면 전체 사업에 나쁜 결과를 만들지만, 여러 상호작용과 장기 경로를 시뮬레이션하면 이 부작용을 발견할 수 있다.
- Shopify의 ML Parin이 작업한 SimGym도 전환율을 바로 물어보기보다 쇼핑 궤적(shopping trajectory)에 개입하는 방법을 찾는다는 점에서 비슷한 접근으로 언급됐다.
- 핵심은 태도(attitudinal response)의 단일 답변이 아니라 여러 차례 상호작용을 거치는 행동(behavior)과 그 경로다.
3. 검증 가능한 디지털 트윈을 만드는 연구
3.1. 「Generative Simulations of 1,000 People」
-
실험 설계
- 미국을 대표하도록 표본을 뽑은 1,000명을 가상 실험실로 초대했다.
- 각 참여자에게 약 2시간 동안 폭넓은 인터뷰를 진행하고, American Voices Project에서 가져온 질문 스크립트를 활용했다.
- 인터뷰와 함께 가능한 범위의 행동 데이터도 수집했다.
- 참여자를 돌려보낸 뒤 약 2주 동안 수집한 정보로 각 사람의 디지털 트윈을 만들었다.
- 2주 후 동일한 인간 참여자를 다시 불러 여러 설문, 실험, 행동 연구에 참여시켰다.
-
디지털 트윈과 인간의 동일 과제 비교
- 행동경제학 게임(behavioral economics games)을 통해 실제 돈이나 선택의 대가가 있는 결정을 비교했다.
- Big Five 성격검사와 General Social Survey를 활용해 성격과 사회적 태도를 측정했다.
- PNAS에 게재된 무작위대조시험들을 포함해 이미 연구된 행동 실험도 재현했다.
- 디지털 트윈에게 원래 사람이 각 연구에서 어떻게 행동할지 예측하게 하고, 실제 참여자의 답과 대조했다.
- 디지털 트윈은 원래 사람이 자기 자신의 행동을 재현하는 정도의 85% 정확도를 보였다.
- 이 수치는 단순히 언어적으로 그럴듯한 답을 만든 것이 아니라, 개인을 실제로 모델링할 수 있다는 검증 결과로 제시됐다.
- 연구는 2024년 말에 공개됐고, AI 업계에서 1년 반이나 2년은 기술 세대가 바뀌는 긴 시간이라는 농담도 오갔다.
3.2. 범용 프런티어 모델과 인간다운 모델의 차이
-
두 가지 상반된 목표
- ChatGPT나 Claude 같은 생성형 AI는 전문 지식, 논리, 합리적 추론을 최대한 잘하는 방향으로 훈련된다.
- Simile이 원하는 모델은 가장 객관적이고 똑똑한 답을 내는 모델이 아니라 특정 사람이 실제로 낼 법한 답을 내는 모델이다.
- 사용자의 편향과 실수까지 포함해 “내가 틀리면 모델도 같은 식으로 틀리는” 수준이 목표다.
- 인간에게는 비효율적이지만 정체성을 만드는 행동이 있고, 그 행동을 제거하면 모델이 편리할지는 몰라도 인간을 대표하지 못한다.
-
성능 격차
- 범용 프런티어 모델을 인간 행동 예측에 그대로 사용하면 주제와 인구집단에 따라 성능이 크게 흔들린다.
- 틈새 인구집단이나 고객이 실제로 궁금해하는 주제에서는 20~30%까지 내려갈 수 있다.
- 일반 인구집단 수준에서도 약 50~60% 정도라면 중요한 결정을 맡기기에는 불안정하다.
- Simile의 85%는 이 차이를 줄였다는 점 때문에 고객과 연구자에게 의미가 있다.
3.3. RCT 사후훈련과 재현성 위기
-
Open Science Foundation의 데이터
- 후속 연구는 무작위대조시험을 모델에 더 많이 학습시키고 사후훈련하는 방법을 탐색했다.
- 사회과학에서는 최근 몇 년 동안 재현성 위기(replicability crisis)가 심각한 문제로 제기됐다.
- 같은 연구를 다시 실행했을 때 원래 논문과 같은 결과가 나오지 않는 경우가 많았다.
- 출판된 논문만 보면 결과가 잘 나온 연구만 살아남는 생존 편향(survival bias)이 생긴다.
-
p-value와 사전등록(preregistration)
- 많은 연구는 p-value 0.05 미만을 목표로 하며, 관측된 결과가 거짓 양성(false positive)일 확률이 5% 미만이라고 해석한다.
- 그러나 출판된 결과도 표본 우연으로 나타난 효과일 가능성을 완전히 제거하지 못한다.
- 연구자는 실험 전에 표본, 데이터, 가설을 플랫폼에 사전등록하고 나중에 가설을 소급해 바꾸지 않는 방식으로 통계적 신뢰도를 높인다.
- Open Science Foundation에는 이렇게 사전등록된 실제 실험과 가설이 수만 건 축적됐다.
- 전문적으로 설계된 행동 연구와 RCT가 포함되므로 사람을 모델링하는 데 특히 흥미로운 자료가 된다.
- 이 연구용 모델은 오픈 사이언스 데이터를 이용한 실험용이며 Simile의 상용 제품에 그대로 제공되는 모델은 아니다.
- 다만 양질의 RCT를 많이 모으면 인간 행동 예측 성능을 실질적으로 높일 수 있다는 점을 입증했다.
3.4. 인구집단 모델과 개인 모델
-
두 모델을 병행한다
- Simile은 인구집단 수준 모델(population-level model)과 개인 수준 모델(individual-level model)을 구분해 훈련한다.
- 두 모델 모두 관심 있는 하위집단이나 개인의 설명과 자극(stimulus)을 입력받는다.
- 개인 행동을 맞히는 일은 더 어려운 과제이므로 연구 결과는 개인 수준 성능에 더 초점을 두었다.
- 기업이 한 집단 전체의 평균 반응을 원하는지 특정 사용자의 맥락을 원하는지에 따라 모델 사용 방식이 달라진다.
-
사람만 아는 비효율
- 집에서 5분 거리지만 차로는 10분 걸리는 세차장에 걸어갈지 운전할지 묻는 간단한 상식 문제가 제시됐다.
- 모델이 “세차장까지 걸어가라”고 말하면 정작 차를 세차해야 한다는 조건을 놓친 답이 될 수 있다.
- Joon은 이런 정답 맞히기보다 인간이 만드는 이상하고 비효율적인 선택을 모델이 놓치는 일이 더 중요하다고 답했다.
- 스탠퍼드 시절 Palo Alto에서 캠퍼스까지 약 40분 걸어야 했지만, Joon은 효율을 위해 Uber나 버스를 타지 않고 일부러 걸어갔다.
- 30~40분 동안 아이디어와 연구를 생각하고 생각 속에서 길을 잃는 시간이 좋아서였다.
- 이 산책은 효율적이지도, 반드시 옳지도 않지만 Joon을 Joon답게 만드는 활동이다.
- 모델이 이런 개인적 의미를 알지 못하면 사람을 합리적 선택의 집합으로만 축소하게 된다.
3.5. 어떤 데이터가 더 필요한가
-
데이터 크기보다 신호의 성격
- LinkedIn, Twitter, Facebook 중 하나를 통째로 얻는다면 무엇이 가장 가치 있는지 묻자, Joon은 어떤 피드백도 사용자를 가르친다는 제품 원칙처럼 단순 순위를 매기기 어렵다고 답했다.
- Amazon의 쇼핑·거래 데이터는 실제 행동을 기록하므로 매우 흥미롭고, 구매라는 대가가 발생한다는 점에서 강한 신호다.
- 소셜미디어만 고르라면 Facebook을 택하겠다고 했다.
-
플랫폼별 자기표현
- LinkedIn은 전문적 환경이므로 사람들이 경계를 세우고 직업적 자아를 보여준다.
- Twitter는 사람마다 과장되거나 특이한 페르소나를 의도적으로 만들 수 있다.
- Joon 자신의 Twitter도 처음에는 연구를 공유하는 학자 페르소나였고, 이후 Simile 관련 내용이 중심이 됐다.
- Facebook은 친구와 연결되는 더 사적인 공간이어서 사람의 기본 상태(default version of a person)에 가까운 정보를 줄 가능성이 있다.
- 전문적·공개적 자아도 진짜 인간 행동의 일부이지만, 한 사람의 바탕 상태와는 다르다.
3.6. 조합으로 만든 거대 페르소나의 한계
-
대규모 조합 접근
- 대화에서는 직업, 배경, Big Five 성격 특성을 가능한 모든 조합으로 곱해 수십억 명의 페르소나를 만드는 연구가 언급됐다.
- 이 접근은 별도의 사람별 수집 없이 “세계 직업의 5%는 건설, 5%는 의료” 같은 통계를 조합해 거대한 가상 인구를 만든다.
- Joon은 규모와 사회 전체를 시뮬레이션하려는 방향 자체는 인상적이라고 평가했다.
- 모델이 올바른 통계를 이미 파라미터에 담고 있다고 믿는다면, 이런 방식은 저장된 지식을 검색해내는 합리적 방법이 된다.
-
통계만으로는 부족한 이유
- 실제 사람의 상세하고 틈새적인 지식이 모델 안에 모두 들어 있다는 가정은 현실과 다르다.
- 한 가지 사소해 보이는 생활 습관도 다른 맥락들과 결합하면 한 사람을 규정하는 풍부한 정보가 된다.
- 그래서 사람별로 맞춤형 데이터를 모으고, 일상의 세부를 세심하게 이해하며, 참여자의 삶을 존중해야 한다.
- 합성 인구의 크기만 늘려서는 인간의 본질을 보존할 수 없고, bespoke data collection이 필요한 이유가 여기에 있다.
4. 규모 확장과 사회 시뮬레이션의 야망
4.1. 시뮬레이션에서도 보이는 스케일링 법칙
-
데이터와 컴퓨트의 증가
- Simile은 사람에 관한 데이터와 컴퓨트를 더 많이 투입할수록 인간을 시뮬레이션하고 예측하는 성능이 예측 가능한 방식으로 상승하는 초기 스케일링 법칙(scaling law)을 보고 있다.
- 연구자가 “스케일링이 잘 되는 것을 찾는 순간은 아름답다”고 말할 만큼, 반복 가능한 성능 향상은 중요한 발견이다.
- 아직 모든 효율 곡선을 확정한 단계는 아니지만 데이터·알고리즘·컴퓨트의 추가 확장이 다음 몇 년의 핵심 진전으로 예상된다.
-
재사용 가능한 사람 모델
- 한 연구를 위해 수집한 참여자 모델은 특정 도메인에만 묶이지 않으므로 후속 연구에서도 재사용할 수 있다.
- 방문 횟수처럼 시간에 따라 달라지는 상태도 있지만, 위험 감수 성향(risk tolerance)처럼 오랫동안 안정적인 특성도 있다.
- 따라서 매번 새 패널을 모집하는 대신 사람의 사회적 물리학을 재사용하고, 필요한 환경과 자극만 바꿀 수 있다.
4.2. 수천 명에서 80억 명으로
-
다중 에이전트 사회
- 목표는 단순히 더 큰 모델 하나를 만드는 것이 아니라, 개인을 대표하는 에이전트를 훨씬 큰 생태계 속에 배치하는 것이다.
- 에이전트들이 서로 대화하고 영향을 주는 다중 에이전트(multi-agent) 시뮬레이션이 Smallville의 확장형으로 제시됐다.
- 다음 단계에서는 에이전트가 풍부한 환경 속에서 행동하며, 환경의 변화가 다시 사람들의 행동을 바꾸게 된다.
- 타임머신 게임의 5년 또는 10년 뒤 목표는 지구에 사는 80억 명을 시뮬레이션하는 것이다.
-
새로 답할 수 있는 사회적 질문
- 80억 명 수준에서 중요한 것은 개인 하나의 답이 아니라 사회와 대규모 집단에서 창발하는 행동(emergent behavior)이다.
- 기후변화는 서로 다른 이해관계와 인센티브를 가진 많은 행위자가 조정 결정을 내려야 하는 사악한 문제(wicked problem)다.
- 시뮬레이션이 기후변화를 해결하는 조정 경로를 찾아줄 수 있는지가 큰 질문이다.
- 민주주의가 붕괴하기 시작했다는 신호를 미리 알아낼 수 있는지도 사회 규모 시뮬레이션의 질문이다.
- 통화제도가 어떤 조건에서 생겨났는지 그 기원 이야기를 밝혀낼 수도 있다.
- 이런 문제는 단순한 시장조사 질문과 달리 사회 전체의 상호작용을 계산해야 한다.
- Joon은 제대로 작동한다면 이 분야에서 노벨경제학상이 나와도 이상하지 않다고 말했다.
4.3. Thomas Schelling의 분리 모델
-
초기 에이전트 기반 모델
- Joon이 깊이 영감을 받은 학자는 에이전트 기반 모델링(agent-based modeling)의 초기 개척자 Thomas Schelling이다.
- 1970~1980년대의 초기 시뮬레이션은 당시 사회가 중요하게 여긴 문제를 단순한 규칙으로 다뤘다.
- Schelling의 대표적인 모델은 인종 분리(segregation)를 격자 세계(grid world)로 표현했다.
- 빨간 점과 파란 점이 에이전트이고, 주변 이웃 중 다른 색의 비율이 임계치를 넘으면 무작위 장소로 이동한다.
-
작은 선호가 만든 큰 결과
- 사람들은 같은 색의 이웃을 약간 더 선호할 뿐이며, 노골적인 인종차별을 가정하지 않아도 된다.
- 그 미세한 선호가 반복적인 이동과 상호작용을 거치면 사회 전체가 완전히 분리될 수 있다.
- 사람들의 작은 선택이 집단 수준에서 전혀 예상하지 못한 결과로 증폭된다는 점이 당시 매우 반직관적이었다.
- 이 모델은 혼합소득 주택(mixed-income housing) 같은 주거 정책에 영감을 줬고, Schelling은 초기 시뮬레이션의 기반을 놓은 공로로 노벨경제학상을 받았다.
- 싱가포르는 인구의 약 80%가 공공주택에 살며 같은 문제를 막기 위해 공공주택에 인종별 쿼터를 강제한다.
- 빨간 점과 파란 점보다 풍부한 사람의 서사를 생성형 에이전트에 넣으면, 오래 잊힌 에이전트 기반 모델링을 현실적인 사회 의사결정 도구로 되살릴 수 있다.
4.4. 현재 규모, 비용, 상호작용
-
현재 운영 규모
- 수억 명을 바로 모델링하지 않아도 수천 명에서 수만 명의 모델만으로 고객에게 풍부하고 의미 있는 통찰을 제공할 수 있다.
- Simile은 매주 수만 명 규모의 데이터를 수집하고, 패널 파트너십을 통해 전 세계 수천만 명에 이르는 사람을 다룰 수 있는 기반을 구축하고 있다.
- 고객이 더 큰 표본을 원하는 이유는 단순히 통계적 신뢰구간을 좁히려는 것이 아니라, 관심 있는 세부 인구집단을 필터링하기 위해서다.
-
컴퓨트 비용에 대한 논쟁
- 수천 명이 서로 상호작용하면 가능한 대화 조합이 폭발할 것이라는 비용 우려가 제기됐다.
- Joon은 실제 인간 연구도 모집, 동의, 일정 조율, 보상 때문에 매우 비싸고 때로는 불가능하다고 답했다.
- 전체 의사결정이 1억 달러 규모라면 수백만 달러를 들여 더 나은 경로를 찾는 것이 충분히 합리적이다.
- 기술 도입의 좋은 방식은 기존 예산을 대체하거나 효율을 높이는 것이지만, 장기적으로는 시뮬레이션이 수억·수십억 달러의 잘못된 결정을 막았다는 상승효과를 계산해야 한다.
- 시뮬레이션 하나가 파운데이션 모델 훈련만큼 비싸지는 시점이 올 수 있지만, 기후변화 해결에 실질적으로 기여한다면 데이터센터 전체를 투입할 가치가 있다.
- Joon은 그런 시뮬레이션을 실행할 수 있다면 지금 당장 자금을 모으고 실행하겠다고 말했다.
-
상호작용 수준
- 다중 에이전트 시뮬레이션에서는 에이전트가 서로 대화하는 것이 Smallville의 핵심이다.
- 반면 한 사람이 쇼핑 상품을 보는 것처럼 상호작용이 필요 없는 전자상거래 실험도 있다.
- 실제 구매는 주변 사람의 소비와 대화에 영향을 받을 수 있으므로, 어느 수준에서 상호작용을 넣을지는 질문과 비용에 따라 달라진다.
- Simile은 대규모 쿼리를 처리하는 대기업용 기술을 운영하므로 추론 효율을 꾸준히 고민하지만, 너무 일찍 최적화하지 않으려 한다.
4.5. 고객 사례와 인간 패널의 확장
-
Wealthfront의 멀티모달 테스트
- Wealthfront는 사람에게 “어떻게 생각하느냐”고 묻는 제품조사를 넘어 행동 실험을 하고 싶어 한 초기 고객으로 소개됐다.
- 제품 테스트에는 이미지, Figma 목업, 실제 웹사이트가 포함되므로 모델은 텍스트뿐 아니라 멀티모달 입력을 처리해야 한다.
- 에이전트가 URL을 받아 웹사이트를 일정 시간 사용해보며 제품을 탐색하는 방식도 가능하다.
-
초기 고객군의 폭
- CVS, Gallup, Deloitte, Wealthfront 같은 이름이 고객·파트너 사례로 함께 언급됐다.
- CVS 같은 소비자 접점 기업은 반복적인 사용자 행동을, Gallup은 여론·정책 맥락을, Deloitte 같은 기업 고객은 조직의 의사결정 수요를 제공할 수 있다.
-
사람의 목소리를 의사결정실에 넣는다
- 수요의 상당 부분은 전통적으로 인간 패널을 사용하던 시장에서 나온다.
- 합성 인구가 인간 패널을 전면적으로 없애는 것이 아니라, 더 자주 더 많은 질문을 던질 수 있도록 보완하고 확장한다.
- 조직은 “사용자에게 물어봤다”고 말하고 싶지만, 실제로 사람을 모아 수천 개의 질문을 묻는 일은 비용과 시간이 너무 많이 든다.
- 한 공급업체가 천 개의 설문 문항에 답해달라고 요청해도 실제 사용자가 시간을 내기 어렵다.
- 사람의 디지털 표현을 배치하면 제품 출시와 정책 결정에 영향을 받을 사람들이 의사결정이 이뤄지는 방에 항상 대표될 수 있다.
- 매일 조직에서 내려지는 수많은 인간 관련 결정을 실제 사람의 다양성과 함께 점검할 수 있다는 점이 핵심 가치다.
-
시장 규모와 TAM
- 전통적인 시장조사 산업은 약 1,000억 달러 규모로 언급됐다.
- 그러나 시뮬레이션은 시장조사 도구가 아니라 인간을 위한 모든 인간 의사결정을 돕는 도구이므로, 시장조사 TAM을 그대로 시뮬레이션의 TAM으로 볼 수 없다.
- 사람에 관한 모든 결정에 정보를 제공한다면 전체 시장이 얼마나 되는지는 명확히 정의하기 어렵다.
- Joon은 과학자 출신이라 처음부터 TAM을 계산해 창업한 것이 아니라, 사회에 의미 있는 영향을 주는 기술이라면 가치가 클 수밖에 없다는 믿음에서 출발했다.
- 기업가로서 계약 규모와 비용 절감액을 계산해야 하지만, 궁극적인 동기는 기업가치보다 사회의 의사결정을 실제로 개선하는 영향이다.
5. 미래의 질문과 시뮬레이션의 철학
5.1. 현재 산업의 위치
- GPT-3.5와 GPT-4에 비유한 성숙도
- 시뮬레이션 산업은 AGI 논의에서 GPT-3.5와 GPT-4가 있던 시기와 비슷하다.
- 현재 기술은 담당 분야에 실제 피해를 만들 만큼 강력하지만, 아직 데이터와 알고리즘의 큰 돌파구가 남아 있다.
- 앞으로 몇 년 동안 데이터 수집, 모델 구조, 사후훈련, 컴퓨트 확장이 함께 진행될 것이다.
- 이미 강력한 실제 사용 사례가 있지만 사회 전체의 시뮬레이션은 아직 최종 상태가 아니다.
5.2. UBI와 반복 가능한 사회 실험
- 10년 뒤에 물을 질문
- Joon은 10년 뒤 가장 중요한 사회적 질문을 고르고 싶다고 했다.
- 보편적 기본소득(UBI)이 필요한지, 어떤 조건과 구현 방식에서 효과가 있는지가 한 가지 후보다.
- 이미 Sam Altman이 아프리카에서 UBI와 관련된 연구를 지원했고, 대화에서는 1,400만 달러가 투입됐으며 결과가 “아니오”였다는 언급이 나왔다.
- 구현 방식과 맥락이 결과를 좌우하므로 “UBI는 된다/안 된다”라는 한 번의 결론만으로는 부족하다.
- 5년과 4,000만 달러를 들여 한 연구에서 한 가지 결과를 얻는 대신 시뮬레이션으로 여러 조건을 즉시 반복할 수 있다는 반론이 농담처럼 나왔다.
- Joon은 실제 연구가 믿음을 검증하려는 가치가 있기 때문에 비싼 실험을 하기도 하지만, 동일한 질문을 여러 번 돌려볼 수 있는 것이 시뮬레이션의 핵심 가치라고 답했다.
5.3. 그림, 일상, 그리고 본질
-
시뮬레이션은 회화와 닮았다
- Joon은 처음 전문적으로 회화를 공부했고, 사실주의 스튜디오에서 인물화를 그렸다.
- 좋은 그림은 대상의 완벽한 복사본이 아니라, 그 대상을 이해하는 데 가장 중요한 본질(essence)을 표면으로 끌어낸다.
- 어떤 그림도 완벽하게 대상을 재현하지 않으며 작은 차이와 불일치가 남지만, 중요한 특징을 강조할 수 있다.
- 시뮬레이션도 사람을 전부 복제하는 일이 아니라, 실제 의사결정에 중요한 사회적·행동적 본질을 보존하는 일이다.
-
평범한 삶의 관찰
- Joon은 시골 마을 사람들을 특별한 사건 없이 그냥 일상을 살아가는 모습 그대로 사진으로 기록한 연구를 했다.
- 그는 평범한 일상이야말로 가장 흥미로운 주제라고 느꼈다.
- 세계를 프랙털(fractal) 구조로 보면 바깥으로 나가 전체 모양을 탐색할 수도 있고, 안쪽으로 들어가 작은 모양을 이해할 수도 있다.
- 인간의 사소한 일상을 깊이 관찰하면 한 사람과 사회 전체의 큰 구조를 동시에 배울 수 있다.
- 사람을 일주일 동안 따라다닌 뒤 사진 한 장을 찍는 다큐멘터리 작가와 전기작가의 방식, 1970년대의 심층 인터뷰 책 Working이 이 관점과 연결됐다.
- AGI가 인간 지능을 다시 생각하게 만든다면, 시뮬레이션은 인간 사회와 집단적 삶을 이해하게 만드는 훈련이다.
5.4. 시뮬레이션 속에 살고 있는가
- 마지막 철학적 질문
- “우리가 지금 시뮬레이션 속에 있을 확률은 얼마인가”라는 질문이 마지막에 던져졌다.
- Joon은 한때 “우리는 분명 시뮬레이션 안에 있다”고 답하곤 했지만, 실제인지 시뮬레이션인지와 무관하게 우리가 경험하는 삶은 우리에게 현실이라고 말했다.
- 죽은 뒤 상위 레벨에서 깨어난다면 흥미롭겠지만, 그 문제는 죽을 때 걱정하면 된다는 농담도 이어졌다.
- 가능한 시뮬레이션의 수가 비시뮬레이션보다 훨씬 많다는 수학적 직관과, 한 문명 전체를 시뮬레이션하는 계산 비용이 너무 크다는 단순한 반론이 함께 제시됐다.
- 핵심은 존재론적 답보다, 어떤 계산된 모델이라도 사람의 경험과 선택이 실제 결과를 만든다는 점이다.
6. Simile AI의 회사 구조와 채용
6.1. 연구소와 제품 기업의 결합
-
위치와 규모
- Simile은 샌프란시스코 Mission Rock에 본사를 두고 있으며, 뉴욕에 작은 사무실을 새로 열어 양안(bi-coastal) 조직으로 운영된다.
- 대화 시점에 회사 인원은 약 60명이다.
- 연구소와 AI 제품 회사의 중간 형태로, 아직 아무도 하지 않는 장기 연구와 지금 고객이 사용할 수 있는 제품을 동시에 추진한다.
-
공동창업자와 연구 DNA
- Joon, Michael Bernstein, Percy Liang을 포함한 연구자들과 비즈니스 공동창업자가 회사를 함께 세웠다.
- Michael Bernstein은 2013년 ImageNet을 계기로 한 AI 혁명을 다룬 연구와 인간 중심 AI에 기여한 연구자로 언급됐다.
- Percy Liang은 foundation model이라는 이름을 만든 연구자로 소개됐다.
- 비즈니스 공동창업자는 여러 빠르게 성장한 AI 네이티브 기업을 시드 단계부터 시리즈 A·B까지 지원한 경험을 가져왔다.
- Joon의 연구실 동료가 약 15~20%를 차지하고, 일부는 OpenAI와 Google Gemini 같은 조직으로 갔다가 다시 모여 장기 비전을 만들고 있다.
6.2. 어떤 사람을 채용하는가
-
연구와 엔지니어링
- 뛰어난 연구자는 계속 환영하며, 인간 행동 모델링과 시뮬레이션의 새로운 분야를 함께 개척할 사람을 찾는다.
- 제품 엔지니어와 인프라 엔지니어도 필요하다.
- 팀 구성원 일부는 Figma, Notion, Harvey 등 개인적으로 존경하는 회사에서 왔다.
- 연구·제품·디자인이 협력해 시뮬레이션의 가능성을 설명하고 실제 의사결정에 배치하는 구조다.
-
장기 비전과 현재 가치
- Simile은 아직 아무도 다루지 않는 영향력 있는 연구 문제를 장기적으로 풀면서도, 이미 대기업의 실제 질문을 처리하는 기술을 제공한다.
- 이론적인 사회 시뮬레이션과 콘셉트 테스트, UI 탐색, 제품 실험 같은 현재의 응용이 한 회사 안에 함께 있다.
- Joon에게 가장 중요한 성공 기준은 기업가치가 아니라 시뮬레이션이 사람과 사회의 결정을 실제로 더 낫게 만드는지 여부다.
- 그 영향이 증명되면 사업적 가치도 자연스럽게 따라온다는 관점이다.
주요 발언 모음
“예측은 미래가 어떻게 될지 알려주지만, 대부분의 의사결정자는 지금 무엇을 해야 그 미래를 바꿀 수 있는지 알고 싶어 한다.”
“모델이 내가 실수할 때 같은 종류의 실수를 해야 한다. 내가 얼마나 똑똑한지가 아니라 내가 어떤 사람인지 모델링해야 한다.”
“사람을 이해하려면 사람들이 온라인에서 무엇을 말하는지만으로는 부족하고, 실제 삶에서 무엇을 하는지와 왜 그렇게 하는지를 알아야 한다.”
“시뮬레이션의 가장 높은 형태는 질문에 대한 답을 주는 것이 아니라, 목표한 미래에 도달하기 위해 지금부터 밟아야 할 경로를 주는 것이다.”
“80억 명이 지구에 사는 모습을 시뮬레이션할 수 있다면, 사회의 창발적 행동에 관한 질문을 새롭게 풀 수 있다.”
“좋은 그림은 대상의 완벽한 복사본이 아니라, 그 대상에서 가장 중요한 본질을 드러낸다.”
“시뮬레이션인지 아닌지와 상관없이, 우리에게 경험은 현실이다.”
“AGI가 인간 지능을 이해하는 연습이라면, 시뮬레이션은 인간 사회와 우리의 집단적 삶을 이해하는 연습이다.”
핵심 데이터 & 수치
- 약 11년: Joon이 한국에서 살다가 11살에 보스턴으로 이주한 시점이다.
- 2020년: 스탠퍼드 박사과정을 시작하고 GPT-3 등장 직전의 파운데이션 모델 질문을 연구한 시기다.
- 약 72,000회: 대화 시점 Google Scholar에 표시된 Generative Agents/Smallville 논문의 인용 수다.
- 2시간: 1,000명 연구에서 참여자 한 명에게 폭넓은 인터뷰와 데이터 수집을 진행한 시간이다.
- 2주: 참여자가 실험실을 떠난 뒤 디지털 트윈을 만들고 다시 불러오기까지의 기간이다.
- 85%: 디지털 트윈이 원래 사람의 태도와 행동을 자기 자신이 재현하는 수준으로 맞힌 정확도다.
- 20~30%: 틈새 인구집단과 주제에서 범용 프런티어 모델의 인간 행동 예측 성능이 내려간 범위다.
- 50~60%: 일반 인구집단에서도 범용 모델을 그대로 사용할 때 관찰되는 대략적인 성능 범위다.
- 30,000년에서 1,000년: Foundation의 psychohistory가 은하제국 붕괴 이후 혼란을 줄이려는 목표로 사용한 비유적 기간이다.
- 80억 명: Simile이 장기적으로 만들고 싶은 지구 전체 사회 시뮬레이션의 규모다.
- 1970~1980년대: Thomas Schelling의 초기 에이전트 기반 분리 모델이 등장한 시기다.
- 80%: 싱가포르 인구가 공공주택에 거주한다는 진행자의 언급이다.
- 수천~수만 명: 현재 고객에게 풍부한 통찰을 제공할 수 있는 실용적인 시뮬레이션 인구 규모다.
- 수천만 명: Simile의 패널 파트너십으로 접근 가능한 전 세계 인구 규모다.
- 약 1,000억 달러: 전통적인 시장조사 산업의 대략적인 규모다.
- 약 60명: 대화 시점 Simile 조직의 인원이다.
- 15~20%: Joon의 연구실에서 합류한 인원이 회사 전체에서 차지하는 비중이다.
- 1,400만 달러와 5년·4,000만 달러: UBI 연구에 관한 대화에서 각각 언급된 연구비와 기간·비용 표현이다.
결론 및 시사점
- 인간 행동을 모델링하는 핵심 단위는 말의 그럴듯함이 아니라 실제 선택의 분포와 그 선택을 낳은 원인이다.
- 생애 서사는 사람의 정체성과 맥락을 제공하고, 거래 데이터는 행동의 기본 통계를 제공하며, RCT는 행동을 바꾸는 원인을 제공한다.
- 동의와 실제 대가가 있는 실험이 없으면 합성 인구는 온라인 자기표현을 그럴듯하게 재생산하는 수준에 머물 수 있다.
- 개인화 에이전트는 사용자의 깊은 정신적 모델을 필요로 하며, 시뮬레이션은 그 모델을 만드는 기반 기술이 될 수 있다.
- 사람을 대표하는 모델은 가장 합리적인 답을 내는 모델이 아니라 해당 사람이 실제로 할 법한 편향과 비효율까지 재현하는 모델이다.
- 85%의 디지털 트윈 재현 정확도는 인간 패널을 더 빠르고 반복 가능하게 확장할 수 있다는 실용적 근거다.
- 예측의 방향만 아는 것보다 목표에서 현재로 거슬러 올라가는 단계별 경로를 얻는 것이 정책·제품·마케팅 의사결정에 더 유용하다.
- 다중 에이전트 상호작용은 개별 응답이 놓치는 집단 창발을 드러내며, Schelling의 작은 선호와 큰 분리 결과가 이를 보여준다.
- 시뮬레이션의 비용은 높아질 수 있지만, 실제 실험과 잘못된 출시가 초래하는 비용과 비교하면 정당화될 수 있다.
- 수천 명의 정확한 하위집단이 수억 명의 부정확한 평균보다 특정 의사결정에 더 중요할 수 있다.
- 최종적으로 사회 시뮬레이션은 시장조사의 확장이 아니라 인간에 관한 모든 의사결정에 사람의 목소리를 넣는 인프라가 된다.
- 기후변화, 민주주의 안정성, 통화제도, UBI 같은 문제는 반복 가능한 반사실 실험과 장기 경로 탐색을 필요로 한다.
- 연구소와 제품 기업을 결합한 Simile의 구조는 장기적인 사회과학 연구와 즉시 활용 가능한 제품을 동시에 추진한다.
- 회화처럼 좋은 시뮬레이션은 현실을 완벽하게 복사하지 않고 중요한 본질을 보존해야 한다.
- 일상 산책처럼 비효율적으로 보이는 행동이 개인의 정체성을 구성하므로, 최적화만으로 인간을 표현할 수 없다.
- 프런티어 언어 모델의 합리성은 행동 시뮬레이션의 정답이 아니며, 목표와 데이터에 맞는 별도의 훈련이 필요하다.
- 사회 규모의 모델은 데이터 편향과 정치적 악용 가능성이 크므로 참여자 동의, 검증, 가드레일이 핵심 안전장치가 된다.
- Simile은 매주 수만 명의 데이터를 축적하면서 언젠가 지구의 80억 명을 표현할 수 있는 규모로 확장하려 한다.
- 계산된 세계에 살고 있는지 여부보다 그 모델이 실제 사람의 선택과 사회의 결과를 더 나은 방향으로 바꾸는지가 중요하다.
- 예측에서 시뮬레이션으로의 전환은 미래를 맞히는 AI에서 미래를 형성할 행동 경로를 찾는 AI로의 전환이다.
핵심 요약 (20줄)
인간 행동 모델은 온라인 자기표현보다 실제 선택과 선택의 원인을 함께 학습해야 한다.
Joon Sung Park은 한국과 미국 동부에서 성장한 예술가 지망생으로 계산을 새로운 창작 매체로 받아들였다.
스탠퍼드 연구진은 파운데이션 모델의 가장 야심찬 응용으로 현실 사회 전체를 재현하는 시뮬레이션을 선택했다.
Generative Agents와 Smallville은 기억과 상호작용을 가진 인공 인구가 가능하다는 초기 증거를 제시했다.
개인 비서가 피자에 파인애플을 넣지 않으려면 사용자의 취향과 삶을 깊이 이해하는 모델이 먼저 필요하다.
Simile은 사람의 사회적 물리학을 학습한 행동 기반 파운데이션 모델을 만들고 있다.
생애 인터뷰는 어린 시절과 트라우마처럼 통계에 드러나지 않는 개인의 맥락을 제공한다.
거래와 관찰 데이터는 사람들이 실제로 무엇을 했는지에 관한 행동의 기본 통계를 제공한다.
무작위대조시험은 특정 자극이 행동을 바꾸는 원인과 메커니즘을 드러낸다.
현실적인 대가가 있는 실험과 참여자 동의가 태도와 실제 행동을 구분한다.
1,000명 연구의 디지털 트윈은 원래 사람이 자신을 재현하는 수준의 85% 정확도를 기록했다.
범용 프런티어 모델은 틈새 집단에서 인간 행동을 20~30%만 맞힐 수 있어 그대로 사용하기 어렵다.
시뮬레이션은 매출 하락을 예언하는 대신 그 결과를 피할 단계별 행동 경로를 찾는다.
Foundation의 psychohistory와 EV 마케팅 사례는 최적화 목표가 장기 결과를 거스를 수 있음을 보여준다.
Thomas Schelling의 분리 모델은 작은 개인 선호가 사회 전체의 거대한 창발을 만들 수 있음을 입증했다.
Simile은 수천 명에서 수만 명의 패널과 전 세계 수천만 명 규모의 파트너십을 운영하고 있다.
장기 목표는 80억 명의 다중 에이전트 사회로 기후변화와 민주주의 같은 난제를 실험하는 것이다.
Wealthfront 사례는 디지털 트윈이 이미지와 웹사이트를 직접 사용하며 제품을 평가할 수 있음을 보여준다.
Joon은 좋은 시뮬레이션이 완벽한 복사본이 아니라 인간과 사회의 본질을 드러내는 그림과 같다고 본다.
오브시디언 원문은 /Users/flowkater/Obsidian/flowkater/flowkater/Study/YouTube다이제스트/2026-08-22-latentspacepod-예측에서시뮬레이션으로.md에 저장했다.
