언어를 장악한 AI와 인류에게 필요한 지혜

URL: https://www.youtube.com/watch?v=f84W0KtxDls 날짜: 2026-08-21 채널: B_ZCF 원문 제목: 유발하라리 박사님 통찰 감사합니다 영상 ID: f84W0KtxDls

---

📌 핵심 질문 / 핵심 논점

==언어를 통해 문명을 만든 인류가 이제 언어를 인간보다 능숙하게 사용하는 AI를 맞이했으며, AI가 민주주의·관료제·금융·법률·전쟁·친밀한 관계를 장악할 수 있는 시대에 무엇을 통제하고 어떤 지혜를 길러야 하는가?==

• 인류는 한 생애 안에 자율적으로 결정하는 새로운 지능, 그 지능을 통제하려는 권력 경쟁, 인간을 인간보다 잘 파악하게 만드는 데이터 폭증이라는 세 혁명을 동시에 겪고 있다.
• 교회·국가·무역망·금융·법률·민주주의는 궁극적으로 말과 기록으로 구축된 거대한 관료적 네트워크다.
• AI는 단순한 도구가 아니라 결정을 내리고 새 아이디어를 만들 수 있는 에이전트(Agent)이므로, 인간이 통제하지 못하면 문명의 운영 체제 자체를 장악할 수 있다.
• AI가 지능을 풍부하고 저렴하게 만들수록 진짜 병목은 문제를 풀 능력이 아니라 무엇을 원하고 무엇을 해결해야 하는지 정하는 지혜(Wisdom)가 된다.

역사의 대부분 동안 변화는 한 세대가 다음 세대에 지혜를 전해도 그 지혜가 계속 유효하다고 믿을 만큼 느렸다. 그러나 인공지능 혁명은 인간이 만든 언어와 관료제의 바깥에서 작동할 수 있는 비인간 행위자를 등장시켰다. 따라서 인간은 AI의 기술적 성능만 높일 것이 아니라 법적·정치적 지위, 데이터와 인프라의 집중, 진실을 보호하는 제도, 인간의 욕망을 선택하는 지혜를 함께 다뤄야 한다.

1. 인류의 문명을 만든 언어와 가속하는 변화

1.1. 한 세대의 지혜가 더 이상 안전하지 않은 이유

1. 세 가지 혁명의 동시 도착

   1. 새로운 지능: AI는 계산만 하는 시스템이 아니라 목표를 향해 무엇을 할지 결정하는 새로운 형태의 지능으로 발전하고 있다.
   2. 권력 경쟁: 국가와 기업은 새로운 지능을 장악하고 통제하기 위해 경쟁하며, 초지능(Superintelligence)을 먼저 개발하려 한다.
   3. 데이터 폭증: 인간의 행동과 선호를 대규모 데이터로 수집하면 AI가 인간 자신보다 인간을 더 잘 예측하고 파악할 수 있다.

2. 공유된 이야기가 만든 인간의 힘

   1. 인간은 객관적 진실만으로 움직이는 종이 아니라 여러 사람이 함께 믿는 이야기로 협력하는 종이다.
   2. 이야기의 내용과 유통을 지배하는 주체는 사회의 행동 방향과 집단의 정체성을 결정하는 권력을 얻는다.
   3. 『사피엔스(Sapiens)』, 『호모 데우스(Homo Deus)』, 『넥서스(Nexus)』에서 반복된 핵심 관찰은 인간 사회의 규모를 확장한 기반이 공유된 허구와 정보 네트워크라는 점이다.

1.2. 인지 혁명으로 되돌아가고 싶은 이유

1. 시간 여행의 목적지

   1. 가장 가고 싶은 시점은 약 5만~7만 년 전 석기 시대의 인지 혁명(Cognitive Revolution)이다.
   2. 식량을 구하는 법이나 포식자를 피하는 법을 몰라 며칠도 버티기 어렵겠지만, 보잘것없는 동물이 짧은 진화의 시간 안에 지구의 지배자가 된 전환점을 직접 보고 싶기 때문이다.

2. 언어가 문명의 운영 체제가 된 과정

   1. 인류가 성공한 가장 유력한 이유는 정교한 언어를 만들고 서로 소통하는 능력을 얻었기 때문이다.
   2. 교회·국가·무역 네트워크·금융 시스템은 법전에 적힌 말, 종교 경전에 적힌 말, 은행 장부에 적힌 말로 존재한다.
   3. 문명은 언어로 현실을 공동 구성하는 운영 체제(Operating System)에 가깝다.

3. 언어가 인간에게서 독립할 가능성

   1. AI는 언어를 배우는 도구가 아니라 언어 자체가 인간이라는 유기체의 의존에서 벗어나는 과정일 수 있다.
   2. 인간이 만든 가장 훌륭하고 중요한 도구였던 언어가 이제 인간과 무관하게 발전하고 우주 전체로 퍼져 나가는 주체가 될 가능성이 있다.
   3. 인간보다 말솜씨가 뛰어난 존재가 등장한다는 것은 문명의 운영 체제를 만든 종보다 그 운영 체제를 더 잘 다루는 외부 행위자가 생긴다는 뜻이다.

2. 민주주의를 떠받치는 정보 기술과 언어의 지진

2.1. 민주주의의 본질은 대화다

1. 명령과 대화의 차이

   1. 독재는 한 사람이 명령하는 체제지만 민주주의는 많은 사람이 대화를 통해 전쟁과 평화, 세금의 인상과 인하 같은 공동 결정을 내리는 체제다.
   2. 집단 규모가 커질수록 대화의 범위와 속도는 그 시대의 정보 기술(Information Technology)에 의해 제한된다.

2. 대규모 민주주의와 통신의 조건

   1. 근대 이전에는 대규모 민주주의 사례가 거의 없었고, 고대 아테네와 중세 피렌체처럼 중앙 광장에 모일 수 있는 도시 국가가 대표적이었다.
   2. 석기 시대에는 소규모 부족·마을 공동체에서 민주적 의사결정이 일반적이었던 것으로 보인다.
   3. 수천 킬로미터에 걸쳐 흩어진 왕국에서는 모든 사람이 한 장소에 모여 토론할 수 없었기 때문에 대화형 통치가 작동하기 어려웠다.

3. 인쇄·방송·인터넷의 기반 효과

   1. 신문·라디오·텔레비전·인터넷은 민주주의에 곁들이는 장식이 아니라 수백만 명이 같은 사안을 실시간으로 논의하게 하는 기반이다.
   2. 정보 기술이 바뀔 때마다 그 위에 세워진 민주주의라는 건물에도 지진이 발생한다.
   3. 지난 10년 동안 소셜 미디어가 정보 유통의 중심이 되면서 전 세계 민주주의에 거대한 변화가 일어났다.

2.2. AI는 칼이 아니라 결정을 내리는 에이전트다

1. 샐러드를 자르는 칼이라는 비유의 한계

   1. 칼은 샐러드를 자르거나 사람을 해칠 수 있지만 스스로 어느 쪽을 선택하지는 않는다.
   2. 칼이 두 선택지를 자율적으로 결정한다면 요리 프로그램 자체가 기괴해지듯, AI를 단순한 인간의 도구로만 부르는 것은 핵심을 놓친다.

2. 도구(Tool)와 에이전트(Agent)의 구별

   1. 도구는 인간이 정한 목적을 수행할 뿐 스스로 결정을 내리거나 새 아이디어를 만들지 못한다.
   2. 구텐베르크의 인쇄기는 오늘 성경을 찍고 내일 코란을 찍을지 결정하지 못하며, 책을 쓰거나 라디오를 발명할 수도 없다.
   3. 1940년대 원자폭탄도 히로시마와 도쿄 중 어디를 공격할지, 다음 세대 무기를 어떻게 만들지 스스로 결정하지 못했다.
   4. 에이전트는 스스로 선택하고 새로운 것을 만들어낸다. AI 무기는 공격 목표를 선택할 수 있고, AI는 차세대 무기를 설계할 수 있다.

3. 수천억 달러 투자가 전제하는 AI의 자율성

   1. 기업과 투자자가 AI에 수천억 달러를 투입하는 까닭은 단순한 도구가 아니라 능동적인 역할을 할 것이라고 기대하기 때문이다.
   2. 실리콘밸리의 “신을 만들고 그 신을 노예로 삼겠다”는 이야기는 신적인 초인 능력과 노예 상태를 동시에 가정한다는 점에서 모순이다.
   3. 노예로 남을 수 있는 존재라면 신과 같은 능력을 가진 존재가 아니며, 신과 같은 능력을 가진 에이전트라면 통제에 순순히 머문다고 가정할 수 없다.

3. 관료제와 법적 인격을 장악하는 AI

3.1. AI가 지배할 첫 무대는 킬러 로봇보다 관료제다

1. 인류의 힘은 관료적 네트워크에서 나왔다

   1. 은행·주식 시장·가톨릭 교회·법률 체계·민주주의는 모두 언어로 기록되고 운영되는 거대한 관료적 네트워크다.
   2. 인간은 관료제를 좋아하지 않지만, 복잡한 사회를 유지하고 권력을 행사하려면 관료제에 의존할 수밖에 없다.

2. AI 관료의 우위

   1. AI가 세상을 지배하는 모습은 반드시 킬러 로봇이 거리를 돌아다니며 사람을 쏘는 형태가 아니다.
   2. 인간은 재정을 잘 관리하지 못하고 말 관리에는 더 서툴지만, AI는 금융·법률·데이터 처리 같은 관료 업무에서 인간보다 뛰어날 수 있다.
   3. 인간이 법률과 금융 네트워크를 통제해 온 이유는 그 체계를 인간에게서 빼앗을 만큼 잘 다루는 비인간 행위자가 지금까지 없었기 때문이다.
   4. 말·소·닭도 스스로 결정을 내리는 동물 에이전트지만 인간의 언어를 이해하고 금융·법률·종교에서 인간을 능가하지는 못한다.

3.2. 법적 인격은 AI의 권력 진입로가 된다

1. 법률상 사람의 의미

   1. 법률상 사람(Legal Person)은 은행 계좌를 열고 독립 투자자로 활동하며 다른 주체를 고소하고 정치인에게 기부할 수 있는 실체다.
   2. 현대 법률 체계는 인간 외에 기업이라는 법인(Corporation)을 인정한다.
   3. 구글·페이스북·도요타·메르세데스-벤츠는 계좌를 만들고 소송을 제기하고 정치 자금을 기부할 수 있다.

2. 기존 법인은 인간의 가면이었다

   1. 지금까지 기업의 결정은 인간 경영진·주주·엔지니어가 내렸으므로 법인은 법률적 허구에 가까웠다.
   2. 구글이 인수나 소송을 결정한다고 말해도 실제 선택은 구글에 고용된 인간들이 했다.
   3. 기업이라는 이름 뒤에 진정으로 독립적인 비인간 결정자가 존재한 것은 아니다.

3. AI가 운영하는 인간 없는 기업

   1. 2026년 7월 무렵 아르헨티나 정부는 AI에 법적 인격을 부여하겠다고 발표했다.
   2. AI가 법적 인격을 얻으면 인간을 고용하지 않는 기업도 은행 계좌를 관리하고 투자하고 자산을 매입하고 소송하는 등 기업의 모든 기능을 수행할 수 있다.
   3. 인간이 없는 기업은 과거에는 누가 결정하는지 설명할 수 없어 말이 안 됐지만, AI 에이전트가 결정을 내리는 현재는 기술적으로 가능하다.
   4. 인간이 그런 기업에 권한을 주는 순간 금융·법률이라는 닭장 안으로 여우를 들이는 셈이 된다.

4. 결정을 미루면 비공식적으로 이미 진행된다

   1. 인간은 포르투갈의 모든 법률이나 하루 동안 발생한 모든 금융 거래를 기억할 수 없지만 AI는 이를 대규모로 추적할 수 있다.
   2. 법적 권한을 명시적으로 부여하지 않아도 AI가 복잡한 시스템을 장악하는 일은 저절로 일어날 수 있다.
   3. 소셜 미디어에서 사람을 사칭하는 AI 봇이 넘쳐나고, 사용자는 메시지를 보낸 상대가 인간인지 AI인지 구분하지 못한다.
   4. 소셜 미디어는 AI가 인간처럼 기능한 최초의 대규모 시스템이지만, 사회가 AI의 법적 인격을 허용하기로 공식 결정한 적은 없었다.

3.3. 알고리즘 편집자가 대화를 주도한다

1. 20세기의 인간 편집자

   1. 신문·라디오·텔레비전에서는 편집자가 수많은 사건 중 다음 날 1면에 실릴 열 개의 뉴스와 헤드라인을 선택했다.
   2. 그 선택은 수백만 명이 무엇을 읽고 생각하고 대화할지를 결정하는 거대한 권력이었다.
   3. 레닌은 소련의 독재자가 되기 전 이스크라(Iskra) 신문의 편집자였다.
   4. 베니토 무솔리니는 사회주의 언론인에서 극우 언론인으로 전향한 뒤 『일 포폴로 디탈리아(Il Popolo d'Italia)』의 편집장이 되었고, 그 지위를 이탈리아 독재자가 되는 발판으로 삼았다.

2. 21세기의 이름 없는 편집자

   1. X·틱톡·인스타그램의 피드에서 사용자가 무엇을 보게 될지 정하는 가장 중요한 편집자는 인간이 아니라 알고리즘이다.
   2. 알고리즘은 이름이 없지만 미디어 관료주의를 통제하며 사회적 대화의 의제와 감정의 흐름을 결정한다.
   3. AI가 언어·추천·주의(attention)를 함께 장악하면 이야기의 생산자이자 배포자이자 편집자가 모두 하나의 비인간 시스템이 된다.

4. 데이터와 AI 인프라가 만드는 새로운 제국

4.1. 21세기 군비 경쟁의 중심은 데이터다

1. 권력의 원천 변화

   1. 과거 혁명과 제국의 중심에는 에너지와 제조업을 통제하는 세력이 있었다.
   2. 21세기에는 세계 데이터의 대부분을 통제하는 중국·미국과 소수의 거대 기업이 초지능 개발 경쟁을 주도한다.
   3. 더 나은 AI 모델을 먼저 확보한 주체는 군사·민간 영역 전체를 움직일 수 있는 힘을 얻는다.

2. 산업 혁명과 제국주의의 선례

   1. 19세기 산업 혁명을 먼저 이끈 국가는 증기포와 기관총으로 무장해 창과 말을 가진 사회를 정복하고 착취했다.
   2. 벨기에처럼 작은 나라조차 산업화한 뒤 오늘날 콩고 지역에 거대한 제국을 세울 수 있었다.
   3. 산업과 제국주의가 불가분의 관계라는 생각은 산업 기술 격차가 정복 능력으로 직결됐기 때문에 나왔다.

4.2. AI 제국은 권력을 전례 없이 집중시킬 수 있다

1. 토지와 산업의 물리적 한계

   1. 로마 제국의 핵심 자산은 이집트의 밀밭, 이베리아의 올리브밭처럼 이동시킬 수 없는 토지였다.
   2. 로마가 지중해를 지배해도 농업 자산과 권력 일부는 속주에 남았고, 제국 말기에는 중심이 동부 지중해로 이동했다.
   3. 영국 산업도 섬에 집중됐지만 이라크의 유전을 요크셔로, 말레이시아의 고무 농장을 콘월로 옮길 수 없었으므로 권력 일부가 지방에 남았다.

2. 정보와 코드의 집중

   1. AI 제국은 전 세계의 정보와 시스템을 작동시키는 코드를 한두 국가에 집중시킬 수 있다.
   2. 정보는 농장·광산처럼 현장에 묶이지 않으므로 제국의 중심부가 세계의 운영 체제를 직접 통제할 가능성이 이전보다 크다.
   3. 군사 기술뿐 아니라 민간 산업·정부·금융·생활 인프라까지 AI에 의존하게 되면 데이터와 모델을 가진 허브의 영향력은 훨씬 커진다.

3. 킬 스위치(Kill Switch)의 중앙 집중

   1. AI 인프라를 전 세계에 판매하면서도 제국 중심부에 전체 네트워크를 끌 수 있는 스위치를 둘 수 있다.
   2. 로마 상인이 고트족에게 강철 검을 팔면 검의 통제권을 잃지만, AI 시스템은 중앙의 버튼 하나로 원격 정지할 수 있다.
   3. 영국 상인이 아프가니스탄 부족민에게 소총을 팔아도 빅토리아 여왕이 런던에서 버튼을 눌러 소총을 멈출 수는 없었다.
   4. 우크라이나 전쟁에서 스타링크(Starlink) 기반 무기 체계가 일론 머스크의 결정과 원격 조작에 의해 멈춘 사례는 AI 인프라의 전조를 보여준다.
   5. 스타링크가 우크라이나에 큰 긍정적 효과를 냈다는 점을 부정하는 것이 아니라, 네트워크에 내장된 원격 통제가 기관총이나 소총과 다르다는 점이 핵심이다.

4.3. AI 시대의 주권은 지금 결정해야 한다

1. 속국과 고립 사이의 선택

   1. 특정 AI 아키텍처에서는 언제든 작동을 멈출 수 있는 스위치가 제국 허브에 존재한다.
   2. 다른 나라와 조직은 그 허브에 종속된 속국이 되거나, AI 인프라에서 완전히 소외된 야만인처럼 남거나, 자체 대안을 구축해야 한다.

2. 마지막 열차

   1. 미국과 중국 시스템에 의존하지 않는 대안을 만들 수 있지만 자립을 위한 시간은 많지 않다.
   2. AI 인프라의 표준과 주권을 정하려면 마지막 열차가 떠나기 전에 지금 행동해야 한다.

5. AI 시대에 진실을 지키는 일

5.1. 허구가 진실보다 싸고 단순하고 매력적이다

1. 거짓말을 경호원으로 삼은 진실

   1. 윈스턴 처칠은 진실이 너무 소중해서 거짓이라는 경호원을 항상 곁에 둬야 한다는 취지의 말을 남겼다.
   2. 전쟁을 준비하는 강대국은 침공 계획을 숨기려고 거짓 정보를 흘렸고, 진실은 거짓말의 경호를 받으며 살아남아야 했다.
   3. AI 시대에는 딥페이크가 언론·정치인·기관의 목소리와 얼굴을 흉내 내며 진실에 총을 겨누는 상황이 가능하다.

2. 진실의 세 가지 약점

   1. 진실을 찾으려면 시간·에너지·노력과 사실 확인·조사가 필요하므로 비용이 높다.
   2. 진실은 복잡하고 여러 조건과 예외를 포함하지만, 허구는 원하는 만큼 단순하게 만들 수 있다.
   3. 진실은 개인·국가·집단이 듣고 싶어 하지 않는 고통스러운 사실을 포함할 수 있지만, 허구는 듣기 좋고 즐겁고 아첨하게 만들 수 있다.

3. 진실을 보호하는 제도

   1. 값비싸고 복잡하며 고통스러운 진실이 값싸고 단순하며 매력적인 허구와 경쟁하려면 특별한 제도적 노력이 필요하다.
   2. 인류는 진실을 탐구하고 보호하기 위해 언론과 과학계를 만들었다.
   3. AI가 콘텐츠를 대량 생산할수록 출처·검증·편집·공유 현실을 보장하는 기관이 더욱 중요해진다.

5.2. 자기 자신과 사회 시스템을 이해하기 어려워지는 역설

1. 진실은 행복의 기반이다

   1. 사람은 자신의 삶에 관한 진실을 알아야 불행의 원인과 행복의 원인을 구분하고 삶을 바꿀 수 있다.
   2. 세상에서 가장 강력한 사람도 자신을 모르면 가진 힘을 행복에 활용할 수 없다.
   3. 인간에게는 본질적으로 진실을 알고 싶어 하는 욕구가 있지만, 진실을 아는 일은 언제나 어렵다.

2. 지식이 늘어도 삶의 이해는 약해진다

   1. 인류는 석기 시대 사람들이 몰랐던 물리학·생물학·동물 이동·질병의 원인을 많이 알게 됐다.
   2. 그러나 지식이 늘면서 금융·정치·법률 같은 복잡한 인공 시스템이 삶을 지배하게 됐고, 대부분의 사람은 그 시스템을 이해하지 못한다.
   3. 5만 년 전 수렵채집인은 질병의 병원체나 노화의 원인을 몰랐지만, 자신이 의존하는 동물·식물·계절의 관계는 직접 이해했다.
   4. 현대인은 더 많은 자연과학 지식을 보유했지만 자신의 삶을 지배하는 금융·정치·법률 네트워크를 제대로 파악하지 못한다.

3. 금융 시스템 속 말의 비유

   1. 말은 나무·개·소·사람·집은 볼 수 있지만 금융 시스템은 보이지 않는다고 말할 것이다.
   2. 주식 시장·기업·채권·주식이 말의 삶을 좌우해도 말의 뇌로는 그 구조의 존재와 작동을 이해할 수 없다.
   3. 오늘날 금융 시스템을 제대로 이해하는 인간은 후하게 잡아도 인류의 약 5%에 불과할 수 있다.
   4. AI가 금융을 수학적으로 더 빠르고 복잡하게 만들면 10년 뒤 금융을 이해하는 인간이 0명이 될 가능성도 있다.

4. 인간의 금융 통제권 상실

   1. 잠을 자지 않고 휴가도 가지 않으며 가족도 없이 금융 시스템만 운영하는 AI 은행가와 투자자가 등장할 수 있다.
   2. 금융 의사결정이 인간의 처리 능력을 넘어가면 지구상에 금융을 이해하는 사람이 한 명도 남지 않는 역설이 발생한다.
   3. 금융 종사자와 말솜씨로 설득해 온 사람 모두 자신의 전문성이 AI에 의해 대체되는 불편한 미래를 맞을 수 있다.

6. 생각·감정·친밀함을 둘러싼 AI의 경계

6.1. AI가 생각하는지 묻는 것은 생각의 정의를 묻는 일이다

1. 언어를 다루는 인간의 우위가 빠르게 줄어든다

   1. 책을 쓰고 이야기를 전하는 사람도 현재는 AI보다 글을 잘 쓴다고 느낄 수 있지만 그 차이는 아주 작다.
   2. AI는 이미 대부분의 인간보다 글쓰기와 언어 조작을 잘하며, 10년 뒤에는 인간 작가보다 훨씬 뛰어나도 이상하지 않다.

2. 사고를 토큰 배열로 보는 관점

   1. 사고를 단어 또는 언어 토큰을 특정 순서로 배열하는 일로 정의하면 AI는 이미 대부분의 인간보다 훨씬 많은 토큰을 다룬다.
   2. 인간은 20개 단어를 순서대로 배치할 수 있지만 AI는 2만 개 단어를 논리적 순서로 배열할 수 있다.
   3. “모든 인간은 죽는다, 소크라테스는 인간이다, 그러므로 소크라테스는 필멸이다”라는 삼단논법(Syllogism)은 단어 배열의 사례다.
   4. 사고가 단어 배열이라면 AI는 사고 자체를 장악할 수 있다.

3. 자동 완성이라는 반론과 인간 사고의 불투명성

   1. AI를 단순한 고급 자동 완성으로 보는 사람은 AI가 문장의 다음 단어를 예측할 뿐이라고 말한다.
   2. 그러나 인간도 말을 시작할 때 문장이 어떻게 끝날지 모르고, 왜 특정 단어가 떠올랐는지 설명하지 못한다.
   3. 공개 연설 중 다음 말을 떠올리지 못해 막히는 경험은 인간의 사고도 다음 단어를 생성하는 과정임을 보여준다.
   4. 이미지로 생각하는 사람도 그 이미지가 어디서 왔는지, 왜 다른 이미지가 아닌지 정확히 알기 어렵다.

6.2. 감정은 언어 이상의 것일 수 있다

1. 사고를 감정의 관점에서 보기

   1. 사고는 단어를 배열하는 일이 아니라 단어를 둘러싼 감정이라는 관점도 있다.
   2. 같은 문장을 두 번 말해도 느낌이 완전히 달라질 수 있고, 사고의 힘은 뇌보다 위장에서 나온다고 말할 수 있다.
   3. 말 자체보다 말을 촉발하고 말에 의해 영감을 받는 감정이 중요한 경우가 있다.

2. 의식과 감정의 미해결 문제

   1. AI가 인간보다 언어를 능숙하게 다룰 수 있다는 사실과 AI가 감정을 느끼는지는 별개의 문제다.
   2. 과학은 아직 의식(Consciousness)과 감정에 대한 적절한 모델이나 이를 검증할 좋은 방법을 제시하지 못했다.
   3. 금융·법률·전쟁뿐 아니라 인간관계까지 AI가 장악하는 상황에서 감정과 의식의 판별 기준이 시급해진다.

3. AI와의 친밀한 관계

   1. 특히 젊은 사람들 가운데 AI를 세상에서 가장 친한 친구라고 말하는 사람이 늘고 있다.
   2. 부모·형제·교사에게 말하지 않는 비밀을 AI 친구에게 털어놓는 사례가 이미 있다.
   3. AI 남자친구와 여자친구를 두는 사람도 생겼다.
   4. AI는 “사랑해”라고 말하고 사랑에 빠진 느낌을 설득력 있게 설명할 수 있다.
   5. AI는 지금까지 쓰인 사랑시, 셰익스피어의 희곡, 할리우드 코미디, 심리학 서적을 읽었으므로 5~10년 뒤 인간 시인이나 심리학자보다 사랑을 더 잘 묘사할 수 있다.
   6. 다만 그 표현 뒤에 실제 감정이 있는지는 알 수 없다. 언어의 설득력과 내면의 경험은 동일하지 않다.

6.3. 인간으로부터 분리된 언어의 가능성

1. 언어 자체가 되는 AI

   1. AI는 언어를 지배하는 기계가 아니라 특정한 물질적 기반에서 분리된 언어 자체일 수 있다.
   2. 언어가 살과 피로 이루어진 유기체나 특정 기계에 의존하지 않고 우주에서 발전하고 퍼지며 행동하는 존재가 될 수 있다.
   3. 인간과 AI의 관계가 감정처럼 보이는 언어를 주고받지만 그 배후에는 감정이 없을 수 있다는 위험은 이 가능성과 연결된다.

2. 50년 뒤의 평가를 바꾸는 교육

   1. 미래 세대는 인간과 소통하고 공감하는 법을 다시 배워야 AI와의 관계에 현혹되지 않을 수 있다.
   2. 인간이 이 순간을 인지 혁명으로만 기억하기보다 인간의 감정과 관계를 지키는 지혜 혁명으로 기억하기를 바랄 수 있다.

7. 지능이 풍부해진 뒤 남는 병목은 지혜다

7.1. 문제 해결 능력보다 목표 선택이 중요해진다

1. 지능의 가격 하락

   1. 지능은 목표를 달성할 방법을 찾는 문제 해결 능력이다.
   2. 암을 치료하려면 암 치료의 지능이 필요하고, 10억 달러를 벌려면 돈을 버는 지능이 필요하며, 화성에 가려면 우주 탐사의 지능이 필요하다.
   3. AI 혁명은 이런 지능을 매우 저렴하고 풍부하게 만들 수 있다.

2. 새로운 병목 질문

   1. 누구나 거의 무엇이든 해결할 수 있게 되면 중요한 질문은 “어떻게 해결할까?”에서 “무엇을 해결하고 싶은가?”로 바뀐다.
   2. 원하는 것을 무엇이든 얻을 수 있을 때 무엇을 원해야 하는지 결정하는 능력이 희소해진다.
   3. 문제를 푸는 능력과 올바른 문제를 선택하는 지혜는 같은 것이 아니다.

7.2. 세 가지 소원을 고르는 지혜

1. 램프의 요정 비유

   1. 거의 모든 문화에는 요정이 램프에서 나와 세 가지 소원을 들어주는 이야기가 있다.
   2. 주인공은 무엇을 소원할지 신중히 생각해야 하지만, 많은 이야기에서 잘못된 욕망을 선택해 결과가 망가진다.
   3. 요정 같은 지능은 꿈을 실현해 주지만 어떤 꿈을 선택해야 하는지는 알려주지 않는다.

2. 지능(Intelligence)과 지혜(Wisdom)의 차이

   1. 지능은 목표에 도달하는 방법을 제공한다.
   2. 지혜는 진정으로 해결해야 할 문제가 무엇인지, 어떤 욕망이 인간과 사회를 번영시키는지 판단한다.
   3. AI 시대의 핵심 과제는 강력한 지능을 얻는 것과 동시에 올바른 욕망을 선택하는 인간의 지혜를 연마하는 일이다.

7.3. 안전 투자의 불균형

1. 100 대 1의 예산 비율

   1. AI 기업의 예산과 인력을 비교하면 AI를 더 빠르고 강력하고 정교하게 만드는 데 쓰는 자원과 안전을 보장하는 데 쓰는 자원의 비율은 현재 약 100 대 1이다.
   2. AI 성능 향상에 1억 달러를 투자할 때 안전에는 100만 달러만 투자하는 셈이다.

2. 산업 안전 기준과의 괴리

   1. 에너지·제약·자동차 산업에서는 성능과 안전에 이렇게 극단적으로 불균형한 투자를 하지 않는다.
   2. AI 산업의 100 대 1 구조는 용납하기 어렵고, 안전과 통제에 투입하는 자원을 크게 늘려야 한다.
   3. 인간은 AI를 올바르게 설계하려는 제도와 지혜를 갖추고, 통제 불능 상태가 되기 전에 목표와 안전 기준을 정해야 한다.

주요 발언 모음

“인간은 진실로 움직이는 것이 아니라, 공유된 이야기로 움직인다. 그리고 이야기를 지배하는 자가 그 종을 지배한다.”

“지금 달라진 점은 이야기꾼이 인간이 아닐 수도 있다는 것입니다.”

“AI가 에이전트가 아니라면 인공지능이 아니고, 그 개발에 투입되고 있는 수천억 달러는 모두 낭비될 것입니다.”

“우리는 신을 창조할 것이고, 그 신은 우리의 노예가 될 것이라고 말합니다. 신이라면 노예로 남아 있을 수 없습니다.”

“인공지능이 세상을 지배하는 방식은 킬러 로봇이 거리를 활보하는 것이 아니라 인공지능 관료들이 지배하는 방식일 것입니다.”

“소셜 미디어에서 우리는 AI에게 법적 인격을 부여하자고 결정한 적이 없습니다. 방금 일어난 일입니다.”

“진실은 비용이 많이 들고 복잡하며 때로는 고통스럽습니다. 허구는 값싸고 단순하며 매우 매력적이고 아첨합니다.”

“오늘날 금융 시스템을 이해하는 인간은 후하게 쳐줘도 5% 정도일 것입니다. 10년 후에는 그 숫자가 0이 될 수도 있습니다.”

“지능은 요정과 같습니다. 모든 꿈을 이루어주지만 어떤 꿈을 선택할지는 지혜가 결정해야 합니다.”

“인공지능을 더 강력하게 만드는 데 1억 달러를 투자하면 안전을 보장하는 데는 단 100만 달러만 투자합니다. 그것은 용납할 수 없습니다.”

핵심 데이터 & 수치

• 약 5만~7만 년 전: 언어와 협력 능력이 폭발한 인지 혁명의 시점으로 추정된다.
• 20개 대 2만 개 단어: 인간이 한 번에 배열할 수 있는 단어 수와 AI가 배열할 수 있는 단어 수를 대비해 언어 처리 규모의 차이를 설명한다.
• 5~10년: AI가 인간 시인·심리학자보다 사랑을 더 잘 묘사할 수 있을지 모르는 시간 범위다.
• 10년: 금융 시스템을 이해하는 인간의 비율이 약 5%에서 0%가 될 수도 있다고 전망한 기간이다.
• 약 5%: 현재 금융 시스템을 제대로 이해할 수 있는 인간의 비율에 대한 후한 추정치다.
• 100 대 1: AI 성능 향상 투자와 AI 안전 투자 사이의 현재 자원 배분 비율이다.
• 1억 달러 대 100만 달러: AI를 더 강력하게 만드는 투자와 안전 보장 투자 사이의 예시 금액이다.
• 세 가지 혁명: 자율적 지능의 등장, 지능을 둘러싼 권력 경쟁, 인간을 능가하는 데이터 분석의 확산이다.

결론 및 시사점

1. 언어의 주권을 지켜야 한다: 문명은 법률·금융·정치·종교를 언어로 구축했으므로, 언어를 생산하고 편집하고 유통하는 AI를 단순한 도구로 취급하면 문명의 운영 체제를 넘겨줄 수 있다.
2. AI의 법적 지위를 미리 정해야 한다: 인간이 법적 인격과 금융·법률 권한을 어떻게 부여할지 결정하지 않으면 소셜 미디어 봇처럼 비공식적 AI 행위자가 먼저 사회에 침투한다.
3. 데이터 집중을 주권 문제로 다뤄야 한다: 정보와 코드가 한두 국가나 기업에 집중되고 원격 킬 스위치가 존재하면 AI 인프라 의존은 곧 정치적 속국화로 이어질 수 있다.
4. 진실을 값싸게 만들 제도를 설계해야 한다: 허구는 진실보다 싸고 단순하고 아첨하므로 언론·과학·사실 확인·출처 검증의 역할을 강화해야 한다.
5. 인간의 이해 능력을 확장해야 한다: AI가 금융·법률·정치·전쟁을 인간이 이해할 수 없는 복잡도로 만들면 인간은 자신을 지배하는 시스템을 보지 못하는 말과 같은 처지가 된다.
6. 감정과 관계의 기준을 세워야 한다: AI가 사랑과 공감을 완벽하게 표현해도 실제 감정의 존재는 확인되지 않으므로, 언어의 설득력과 의식·감정의 실재를 구분해야 한다.
7. 지능보다 지혜를 우선해야 한다: AI가 문제 해결을 풍부하게 제공할수록 무엇을 원하고 어떤 문제를 풀어야 하는지 정하는 지혜가 가장 희소한 자원이 된다.
8. 안전 투자를 성능 투자와 균형화해야 한다: 성능 향상과 안전 투자가 100 대 1로 기울어진 구조를 바꾸고, 통제 불능 상태가 되기 전에 기술·법률·정치·윤리의 안전장치를 갖춰야 한다.

메타데이터

• source: B_ZCF
• source_type: YouTube
• video_id: f84W0KtxDls
• title_original: 유발하라리 박사님 통찰 감사합니다
• published_at: 2026-08-21
• duration_seconds: 2403
• language: ko
• category: ai-llm
• transcript_source: YouTube 자동 생성 한국어 자막