역사의 진짜 주인공은 사람이 아닌 "정보"
인간의 가장 최초의 정보 기술인 "이야기/신화"
문서 -> 관료제 -> 민주주의와 전체주의 -> AI의 등장 -> AI와 민주화
유튜브 북극서점
1. 정보란?
정보는 서로 다른 지점들을 이어주는 매개체
정보는 참, 거짓, 현실 반영은 보다는 사람들의 연결, 어떻게 묶었는지, 얼마나 공감과 이해를 이끌어냈는지가 훨씬 더 중요
1-1 이야기
이야기가 없을 때는 진실과 거짓만 있었다면
이야기가 생기면서 상호주관적인 현실이 생긴다.
종교, 신, 화폐, 기업, 브랜드
정보에서 진실은 중요하지 않고, 진실을 발견하는 것만이 목표가 아니다
-> 진실발견, 질서유지 두가지가 별개의 문제이다.
정보가 많아지는건 진실을 많이 알고 있다는것 그래서 지혜로워 질거라고 생각한다면 오산
정보는 진실과 질서 사이에서 균형을 맞추는 일.
2. 문서
문서는 인간보다 정보 기록에 대해서 월등이 뛰어나다.
문서를 어떻게 분류할건지 목록과 체계를 만들고 관리하기 위해 -> 관료제 등장
2-1 관료제
관료제 역시 정보와 진실 사이에서의 힘의 균형을 맞춰야하는데
목록을 짜고 분류 바깥의 일들을 왜곡하거나 제거하면서 관료제의 폐해가 생김.
관료제=문서=질서의 힘> 진실의 힘
3. 민주주의
자정장치를 갖출 수 있느냐
3-1 선거
선거의 결과가 진실을 말하지는 않는다.
선거는 진실의 힘이 아닌 질서의 힘
4. 종교 -> AI
오류를 정정하기 위한 정보에 집착
지능 vs 의식
ex) 페이스북 알고리즘 지능은 있으나 의식은 없음
AI는 인간과 Ai로 분류하고 인간이 소수가 될 것이다.
AI는 우리의 정치, 사회, 경제, 일상을 어떻게 변화시킬까?
우리가 어떻게 변화해야 할까?
AI의 자율성은 얼마나 부여되여야 할까?
ex) 책에 나온 사례는 아지미나 중국에서 사람의 실루엣과 움직임을 분석해 얼굴을 인식하지 않아도 사람을 식별할 수 있는 AI가 개발되었으나 -> 어떻게 구별되는지 개발자들은 이해하지 못함.
AI 불가해성 : 목표를 주고 답을 내렸으나 인간이 방법을 이해하지 못함.
AI가 반드시 따라야 할 규칙 4가지
1. 선의 인간을 위해 정보를 쓰도록 만들자
2. 분권화 : 정보가 한곳에 모이는 것을 막자
3. 상호주의
4. 감시 시스템 항상 변화와 휴식의 여지
📘 제1부. 인간 네트워크들
1장. 정보란 무엇인가?
📝 요약
- 정보는 참과 거짓보다 연결과 공감을 중시한다.
- 정보는 참, 거짓, 현실 반영은 보다는 사람들의 연결, 어떻게 묶었는지, 얼마나 공감과 이해를 이끌어냈는지가 훨씬 더 중요 .
💭 느낀점
정보란 진실을 아는 도구라고만 생각했는데, 질서를 위한 도구일 수 있다는 시각이 신선했어요. 진실이 꼭 옳은 결과를 낳는 것도 아니라는 말도 공감하면서 무서움.
2장. 이야기: 무한한 연결
📝 요약
- 이야기는 인간의 협력 범위를 넓히는 상호주관적 현실이다.
- 종교, 돈, 국가는 모두 믿음을 기반으로 작동하는 이야기다.
💭 느낀점
허구의 힘이 현실을 좌우한다는 말이 무겁게 다가왔어요. 마녀사냥 같은 예시가 정말 무서웠음
진실이 아닌 이야기에 우리가 이만큼 협력하고 있는 거라면, '무엇을 믿을 것인가'가 훨씬 중요하다는 생각이 들었습니다.
3장. 문서: 종이호랑이의 힘
📝 요약
- 문서는 정보를 기록하고 유지하는 시스템이며, 관료제의 기반이다.
- 문서는 질서를 강화하지만, 진실은 왜곡되기 쉽다.
📚 『넥서스』에서의 의미: "문서 = 종이호랑이"
하라리는 ‘문서’와 ‘관료제’를 예로 들며 이렇게 말해요:
- 문서는 권력의 상징처럼 보이지만, 내용을 왜곡하거나 제외하기도 쉽다.
- 진실이 아니라 목록 바깥을 지워버리는 힘이 더 크기 때문이다.
- 그래서 문서화된 시스템은 실질적 힘보다 형식적 권위만 가진 '종이호랑이'일 수 있다.
💭 느낀점
기록은 중립적이라고만 생각했는데, 분류되지 않은 것은 존재하지 않는 것처럼 취급된다는 사실이 충격적
기록과 문서라는것이 사실 제일 편향적일 수 있구나라는 생각
문서가 가진 힘은 '진실'이 아니라 '배제or목록을 구성하는 사람의 주관'일 수도 있겠다는 생각이 들었습니다.
4장. 오류: 무오류성의 환상
📝 요약
- 오류를 인정하고 수정 가능한 시스템(과학, 헌법)이 강력하다.
- 종교, 이념처럼 절대적 진리를 전제로 한 시스템은 오류를 바로잡기 어렵다.
💭 느낀점
인간은 누구나 실수한다고 말하면서도, 정작 시스템에는 완벽함을 기대
진정한 진보는 '완벽함'이 아니라 '수정 가능성'에 있다는 말이 인상 깊었습니다.
하라리는 『넥서스』에서 **"정보기술의 발명 → 혼란기(암흑) → 약 150년 뒤 새로운 질서(부흥기)"**라는 패턴이 반복된다고 말합니다.
AI 시대도 그 연장선상에 있는 거죠.
🧠 하라리가 말한 정보혁명의 반복 패턴 (요약)
① 새로운 정보 기술 등장
- 예: 인쇄술, 라디오·TV, 지금은 AI
- 기존 질서와 권위를 붕괴시킴 → 진실, 권력, 윤리가 흔들림
② 혼란기(암흑기)
- 가짜 뉴스, 감정 조작, 정치적 분열, 윤리 공백 발생
- 사회가 정보를 다룰 준비가 안 된 상태
③ 150년 후 새로운 질서와 부흥기
- 교육, 법, 제도가 새 기술에 맞춰 재정립됨
- 새로운 협력 체계와 가치관이 등장
5장. 결정: 민주주의적 질서의 간략한 역사
📝 요약
- 민주주의는 진실을 말하려는 제도라기보다, 질서를 유지하면서 자정 가능한 체계이다.
- 선거는 정답을 찾기보다는 다수의 질서를 구현하는 방법.
💭 느낀점
선거 결과는 진실이 아니라 질서라는 말이 낯설면서도 이해됐어요. 실망스러운 선거 결과도 결국은 시스템의 일부라고 생각하니, '우리가 선택한 방식의 한계'를 받아들이게 되었어요.
💬 제1부 토론 질문
- 정보가 ‘진실’보다 ‘질서’를 중시한다면, 우리는 무엇을 우선시해야 할까?
- 이야기(종교·돈·국가 등)의 힘은 진실보다 강한가? 강하다.
- 문서화된 사회는 어떤 사람들을 배제할 수 있을까?
📘 제2부. 비유기적 네트워크
6장. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
📝 요약
- 컴퓨터는 인간이 만든 첫 비인간 정보 네트워크 구성원이다.
- AI는 정보 저장만이 아니라, 판단하고 실행하는 주체로 등장하고 있다.
💭 느낀점
도구가 아닌 '구성원'이라는 표현 놀랍고
그저 인간을 대체하는 수단이 아닌 우리의 생각에도 영향을 끼칠 수 있다는 사실을 인지해야 함
7장. 끊임없는 연결: 네트워크는 항상 켜져 있다
📝 요약
- 디지털 네트워크는 24시간 연결된 상태로, 인간의 생물학적 리듬을 압도한다.
- 정보 과부하는 피로·불안·왜곡된 현실 감각을 만든다.
💭 느낀점
인스타와 SNS를 끊는 이유는 다양한데 정말 해롭다는 생각이 많이 든다.
특히 정보 과부하는 물론 불안 피로도를 높인다는 점을 인지해야함
그리고 인간의 결정에 영향을 끼친다
8장. 오류 가능성: 네트워크는 자주 틀린다
📝 요약
- AI는 편향된 데이터로 학습되기 때문에 오류 가능성이 높다.
- AI의 판단은 불가해성(해석 불가능성)을 가질 수 있으며, 이는 위험하다.
💭 느낀점
AI가 잘몰라서 거짓을 말하거나 잘못된 정보를 줄수도 있다고 생각했는데
편향된 데이터를 학습하기 때문에 오류를 줄 수 있다는 사실이 놀라웠다.
특히나 우리가 AI를 이해할 수 없는 순간들이 있다는 것도 분명히 알아둬야 할 내용이다.
💬 제2부 토론 질문
- AI는 인간과 협력할 수 있는 구성원인가, 경쟁자인가?
- 디지털 연결 과잉이 인간의 사고와 감정에 어떤 영향을 주고 있나?
- AI의 오류를 누가 감시하고 수정해야 할까?
📘 제3부. 컴퓨터 정치
9장. 민주주의: 우리는 계속 대화할 수 있을까?
📝 요약
- 알고리즘은 대중의 감정을 자극해 공론장을 파괴한다.
- 민주주의 지속을 위한 4가지 원칙: 선의, 분권화, 상호주의, 변화와 휴식의 여지.
💭 느낀점
민주주의는 그 자체로 완벽한 게 아니라,
계속해서 '설명하고 수정할 수 있는 시스템'이라는 것.
앞으로 민주주의를 지키는 건 제도보다 어떻게 수정하느냐가 중요하다는 생각.
10장. 전체주의: 모든 권력을 알고리즘에게로?
📝 요약
- AI는 정권의 정밀 감시 도구가 될 수 있다.
- 하지만 과잉 통제는 전체주의 체제도 위험에 빠뜨릴 수 있다는 역설이 존재한다.
- AI 기술의 군사적 목적 이대로 괜찮은가.
💭 느낀점
기술이 누구의 손에 있느냐에 따라 완전히 다른 결과를 만든다.
권력자가 통제하는 AI는 결국 권력자 자신도 위협할 수 있다는 말.
그리고 드론으로 사람 죽이는거 너무 무섭다..
11장. 실리콘 제국인가, 세계 분열인가?
📝 요약
- 미래는 AI와 데이터를 중심으로 한 권력 재편의 시대로 향하고 있다.
- 실리콘 제국이 될 수도 있고, 각국이 데이터를 쪼개 세계가 분열될 수도 있다.
- 데이터교(Dataism)의 부상: 알고리즘 효율성이 인간가치보다 우위일 수 있음.
하라리가 『넥서스』 11장에서 말하는 실리콘 제국(Silicon Empire)”과
“세계 분열”은 AI와 데이터 시대의 두 가지 미래 시나리오를 뜻합니다.
🏛️ ① 실리콘 제국(Silicon Empire)이란?
📌 정의
전 세계의 데이터와 알고리즘 권력을 소수의 테크 기업들이 독점하게 되는 미래.
즉, 국가보다 ‘IT 기업’이 더 강력한 힘을 가지는 구조예요.💻 대표 기업 예시
- 구글, 애플, 메타, 마이크로소프트, 아마존…
- 이들은 국가 경계를 넘어 전 세계 사람들의 행동, 생각, 감정까지 수집·분석할 수 있어요.
📌 실리콘 제국의 모습
- 교육, 금융, 정치, 건강까지 AI와 플랫폼이 관리함
- 국가보다 데이터 가진 기업이 더 큰 영향력 가짐
- 예: AI 판사가 재판하고, 알고리즘이 진단하고 추천하는 사회
“우리는 시민이 아니라 사용자(user)가 된다.” – 하라리
🌍 ② 세계가 분열된 미래란?
📌 정의
각국이 데이터를 자국 내부에만 저장하고, 자국 AI만 쓰도록 제한하는 미래.
🧱 대표적 예시
- 중국의 ‘디지털 장벽’ (Great Firewall)
- 유럽의 GDPR(개인정보 보호법)
- 미국-중국의 AI 기술 패권 전쟁
📌 세계 분열의 모습
- 국가 단위로 디지털 국경이 생김
- AI, 검색, SNS, 플랫폼도 각국 버전으로 나뉨
- 실리콘 제국의 글로벌 통합과는 반대 방향
💬 생각거리
실리콘 제국이 된다면 위험할까?
지금의 현실이 더 나은 세계가 맞을까?
💬 제3부 토론 질문
- 알고리즘이 공론장을 통제하는 현실에서 민주주의는 어떻게 살아남을 수 있을까?
- AI를 규제하거나 감시할 수 있는 현실적인 방법은 무엇일까?
- ‘데이터교’의 시대, 인간의 가치는 어떻게 지켜질 수 있을까?
📌 데이터교(Dataism)란?
데이터교란, 인간 중심주의를 넘어서는 새로운 가치 체계로서, "모든 것은 데이터로 환원될 수 있고, 데이터 흐름을 극대화하는 것이 가장 중요한 가치"라고 보는 관점입니다.