[책 기록] 『페이크와 팩트』

책 정보

• 『페이크와 팩트』
• 데이비드 로버트 그라임스 저
• 김보은 역
• 디플롯 (2025)

---

기록

프롤로그

페트로프와 아르키포프는 이성적 판단으로 핵전쟁을 막았다. "감정이 마구잡이로 치닫는 상황에서 놀랍도록 비판적 사고를 했으며, 이를 통해 문자 그대로 세상을 구했다는 점이다. 감당하기 힘든 스트레스에 직면하면서도 이들은 논리, 가능성, 명확한 추론을 동원했다."(14~15p)

비판적으로 사고하는 능력은 매우 중요하다. 이런 능력이 결여된다면 멍청한 결정을 내리게 된다. 1950년대 중국 대약진 운동의 일환으로 사회의 해악인 파리, 모기, 쥐와 참새를 제거했었다. 공산당 지도자들에게 참새는 프롤레타리아를 착취하며 기생하는 부르주아적 정치의 상징, 즉 '자본주의의 상징'이었다. 실제로 중국에서 참새는 멸종했고 메뚜기가 창궐하여 3년 대기근으로 수천만의 인민이 아사했다.

사고하고 반성하고 추론하는 능력은 이빨과 발톱이 없는 나약한 호모 사피엔스(= 생각하는 인간)를 지구의 지배자로 만들어 준 능력이다. 그런데 오늘날 주류 미디어만큼의 검열, 규제가 없는 소셜미디어는 거짓이 빠르게 뿌리내릴 수 있는 환경이다. 격렬한 감정을 자극하는 콘텐츠의 공유는 매우 활발하다. 우리는 "진실보다는 속도를, 사고보다는 행동을 선호한다"(29p). 심리학에서의 '진실 착각 효과'에 따르면 대중은 반복해서 노출된 정보를 믿는다. 때로는 불확실한 주제뿐 아니라 정답을 아는 주제도 거짓을 대신 수용하게 되기도 한다. 인간의 본질은 감정적이고 비합리적인 유인원이다. "인류의 진짜 문제는 "원시인의 감정과 중세의 제도, 신에 필적하는 기술"을 가졌다는 점이다."(33p)

기후변화, 냉전, 항생제 내성 등 신중해야 할 중대한 결정 앞에 선 인류에게 비판적인 사고와 과학적 접근 방식이 유용하다. 분석적인 사고를 통해 수많은 정보들 속에서 시그널과 노이즈를 구분할 줄 알아야 거짓과 선동에 당하지 않을 수 있다.

 

논리의 부재

우리는 휴리스틱을 잘 활용해서 빠른 결정으로 생사를 가른 선사시대 수천 년을 살았다. 그러나 현재의 인류에게는 휴리스탁보다는 분석적으로 사고하고 정보를 수집하여 논리와 상상으로 결론에 이르는 능력이 중요하다.

논리 구조에 본질적인 결함이 있다면 이것을 형식적 오류라 한다. 연역적 추론이 완벽하려면 ①논리가 타당하고 ②전제도 진실이어야 한다.

• 무의미한 전제 (48p)
  • 그리스 철학자들은 시간여행을 하는 로봇 암살자다.
  • 소크라테스는 그리스 철학자다.
  • 따라서 소크라테스는 시간여행을 하는 로봇 암살자다.
• 전건 부정의 오류(=부정 오류, denying the antecedent, inverse error) (49p)
  • 죄 없는 자만이 자신을 변호할 수 있다.
  • 포르모소는 자신을 변호하지 않았다.
  • 따라서 포르모소는 유죄다.
• 후건 긍정의 오류(=역오류, affirming the consequent, converse error) (51p)
  
  • 파리는 유럽에 있다.
  • 나는 유럽에 있다.
  • 따라서 나는 파리에 있다.
  주로 광고에서 역오류를 잘 이용한다. 잘생긴 연예인이 입고 광고한 옷을 내가 사 입는다고 내가 잘생겨지는 것이 아니다.
• 모호한 중간 개념 오류(fallacy of the undistributed middle) (74p): '모든', '전혀'처럼 범위가 명확히 정해지지 않았을 때 논리적 오류가 발생할 수 있다.
  • 모든 무선 주파수 복사는 전자기복사다.
  • 일부 전자기복사는 암을 유발할 수 있다.
  • 따라서 무선 주파수 복사는 암을 유발한다.
• 선언지 긍정의 오류(affirming the disjunct) (78p): 배타적이지 않은 두 명제가 모두 참일 수 없다고 가정하는 오류
  
  • 네가 틀렸거나 내가 틀렸다.
  • 너는 틀렸다.
  • 따라서 나는 옳다.
  주로 정치에서 자신의 진실성을 입증하기 위해 상대를 질책하는 형태로 자주 발생하는 오류이다.
•  부정적 전제로부터의 긍정적 결론 오류(affirmative conclusion from a negative premise) (81p)
  
  • 저 연예인은 공인으로서의 윤리 의식이 부족하다.
  • 나는 그를 비난했다.
  • 따라서 나는 도덕적으로 옳다.
  나락 문화가 떠오른다.
• 긍정적 전제로부터의 부정적 결론 오류
  • 네가 옳거나 내가 옳다.
  • 내가 옳다.
  • 따라서 너는 틀렸다.

귀류법(歸謬法): "불합리로의 환원"(62p). 전제가 모순을 일으키면 그 전제가 틀렸음이 입증된다.
피타고라스는 종교를 세웠고 수는 신성한 것이었다. 피타고라스학파는 모든 수를 비율, 즉 분수로 나타낼 수 있다고 믿었다. 그러나 독실한 피타고라스학파였던 히파소스는 그 믿음에 따라서 √2를 기약분수로 나타낼 수 있다고 가정했을 때 모순이 발생한다는 걸 발견했고, 이 불합리성(irrational; 무리수)은 피타고라스학파가 신성하게 여긴 그 근본을 무너뜨렸다.

 

논리적 오류보다 중요한 건 인간이 가진 문제점이다. 보통의 인간은 논리학자처럼 생각하지 않는다. 일단 감정을 쏟아낸 뒤, 이성을 활용해 그 감정에 정당성을 부여한다. 모순을 수용해서 생각을 바꾸려하지 않는다. 내 생각에 반하는 진실을 짓밟으려 든다. 피타고라스학파처럼.

 

비형식적 오류들:

• 일화적 오류: 선명한 이야기는 인간의 의사결정을 형성한다. 결정적 정보가 왜곡된 선명한 이야기는 완전히 잘못된 결론에 이르게 할 수 있다. 온라인 리뷰가 판단의 기준이 된 상황에서 가짜 리뷰와 돈 받고 쓴 추천글은 소비자의 판단을 어렵게 만든다. 참고로 기적의 영약을 나타내는 '뱀 기름'이란 말은 실제로 스탠리의 밴 기름 사기 사업에서 나온 말이다.
• 기저율 오류: 맥락 등 기본 정보는 무시하고 특별한 경험에 집중하는 오류. ex) 암의 본질적인 진짜 원인은 수명의 증가이다. 그러나 어떤 사람들은 유전자 변형 식품, 백신 등 온갖 것을 탓하며 공포를 이용해 이익을 취한다.
• 생존 편향: 보이지 않는 사례를 간과하고 성공 사례만을 근거로 결론을 도출하는 오류. ex) 귀환한 전투기의 엔진엔 심각한 손상이 없다. 따라서 엔진 부분은 강화하지 않아도 된다.
• 체리피킹: 맞춘 것을 선별해 대대적으로 공개하고 틀린 건 숨기는 일. ex) 예언가. 샷건 기술 - 가능성이 매우 높고 애매한 말들을 쏟아내며 하나라도 맞춰서 상대방의 반응을 이끌어내는 기술

 

논증이 잘못되었지만 결론은 옳은 -오류의 오류- 경우도 있다. (101p)

• 불에 손을 넣었다가 열쇠를 잃어버렸다.
• 그러니까 불에 손을 넣으면 안 된다.

 

진실은 단순하지 않다

권위에 의한 논증: 전문가는 항상 옳을 것이라는 전제에서 오는 오류. ex) 비타민 만능설은 노벨상을 2번이나 받은 과학자 폴링이 주장했다.

 

환원 오류(=단일 원인의 오류): 다면적이고 복잡한 문제의 원인을 하나로 설명하려는 것. ex) 흑백논리. 양극화를 유도하는 '우리편이 되든지 적이 되든지'와 같은 논리다. 복잡한 현상을 단순하게 환원시킴으로써 대중들은 "이해한다는 착각"(121p)을 하고, 이는 인과관계를 이해하려는 인간의 욕망을 충족시킨다. 따라서 대중은 잘못된 논리에 쉽게 빠져들게 된다.

 

동물도 미신을 따른다는 연구결과가 있다. 비둘기에게 무작위로 먹이 보상을 했더니 그들은 보상받기 위해 장황한 의례를 하기 시작했다. 인간이든 비둘기든 미신의 이유는 관찰한 사실로부터 추론하는 능력이 있기 때문이다.

 

잘못된 인과관계의 오류: ex) 유아가 백신을 맞는 시기에 자폐 스펙트럼이 발생한다. → 자폐의 원인은 백신이다. → 백신 음모론

 

가용성 휴리스틱: 쉽게 얻은 정보, 최근에 얻은 정보에 더 큰 비중을 두는 것.

 

카너먼은 인간의 사고를 2개 시스템으로 구분한다.

• 시스템 I: 빠르고 직관적 ⇒ 생존에 유리
• 시스템 II: 느리고 분석적 ⇒ 논리적 사고

백인 우월: 과거의 사상이 아니라 트럼프 등 여전히 존재하는 생각이다. 팩트는 호모 사피엔스는 단일종이라는 것이다. 과학적으로 '인종'은 모호하고 사용 불가한 단어이다. 최초의 인간은 흑인이었다. 한참 이후 북유럽 쪽에서 흰 피부가 등장하였는데 이는 태양빛이 적은 지역에서 비타민D 합성에 유리한 흰 피부 돌연변이가 자연선택된 결과이다. 비슷한 이유로 우유를 소화시키는 능력도 발생하였다.

 

본질주의(Essentialism): 모든 개념, 사물, 집단의 정체성에 대한 핵심 특성이 존재한다. 개념의 정의가 중요한 수학 등의 학문에서는 필수적이다. 그러나 논증에 잘못 사용하면 인종차별(우월주의) 등이 발생할 수도 있다.

 

대인논증: 논증이 아닌 주장을 펴는 사람의 신뢰성을 공격하는 것. ex) 갈릴레이: 성경이 진실이던 시대, "이단이다"라는 한마디에 주장이 통째로 박해되었다. 참고로 갈릴레이의 지동설 발표는 우회적으로 이루어졌다. 천동설 지지자, 중립자, 지동설 지지자의 대화로 구성된 책을 통해 발표되었는데, 천동설 지지자의 이름인 '심플리시오'는 얼간이라는 뜻이다.

 

근본귀인오류: 타인을 평가할 때 외부 상황, 요인을 알아보기보다는 의도나 성격과 같은 개인의 특성에 집중하는 오류. ex) 끼어들기하는 차량을 보면 그 차량의 운전자가 이기적이기 때문에 끼어들기를 했을 것이라고 판단한다. 그러나 약속에 늦었거나 화장실이 급해서 끼어들기를 했을 수도 있다.

 

허수아비 논증: 상대방의 주장을 반박하는 대신 더 공격하기 쉬운 대체물을 공격. ex) 다윈의 진화론은 인간과 유인원이 먼 과거 공통 조상에서 갈라졌다고 주장한다. 그러나 "당신의 조부와 조모 중 누가 원숭이었냐"라고 공격받았다.

상대방의 주장을 반박하기 위해 악의적으로 허수아비 논증을 사용할 수도 있지만, 실제로 발화자의 지식이나 기량이 부족해서 상대방의 주장과 그 대체물에 대한 개념을 혼동 또는 융합한 것일 수도 있다. 이에 대해 러셀은 "어리석은 사람이 현명한 사람의 말을 정확하게 전달하기란 불가능하다. 어리석은 자는 자신이 들은 말을 무의식적으로 자신이 아는 말로 바꾸기 때문이다."(172p)라고 말했다. ex) 대마초를 의료품으로 보지만 관리 규제의 대상은 아니라는 법안을 통과시키려는 시도가 아일랜드에서 있었다. 실제로 대마초는 의료적 효과가 있긴 하지만 조현병이나 인지능력, 중독 등의 부작용이 있다. 그러나 이런 비판에 대해서는 "법안 반대자는 암 환자를 생각하지 않는 자"라는 허수아비 논증을 내세우며 비난했다.

 

순환논법, 선결문제 요구의 오류: 입증 대상인 결론이 주장의 전제에 포함되는 경우. ex) 유대교 경전인 ≪토라≫는 정확한 신의 말씀이다. ≪토라≫에 그렇게 기록되어 있다.

 

마음의 조작

확증편향: 기존 신념에 맞는 정보를 기억하고 신념에 반하는 정보를 최소화하는 것.

인지부조화(한 주제에 대한 2가지 상반된 신념을 가질 때의 정신적 동요) → '관점'을 증거에 맞게 바꾸는 건 인지적 비용이 높음  → 신념을 지키고 현실을 부인.

ex) 종말론 등의 사례에서, 믿음을 위한 중요하고 어려운 행동을 하거나, 소속 집단 등에서 믿음이 사회적으로 지지받을 수록 "예언이 끝났을 때" 틀린 예언은 합리화되고 더 열렬한 신도가 생긴다. 나의 믿음은 틀리지 않았기 때문이다.

 

정체성 보호 인지: "어느 정도는 신념이 우리를 정의한다"(208p). 나의 정체성을 보호하기 위해, 이념적 동기가 추론 능력을 종종 왜곡시킨다. 같은 양상이지만 약간의 통계적 함정이 있는 문제가 정치와 관련된 것일 때 오류를 더욱 범한다.

 

기억은 불완전하다. 기억은 역사책이라기보다는 언제든 편집될 수 있는 나무위키에 가깝다. 의도와는 무관하게 기억은 쉽게 생성, 수정, 삭제된다.

 

인간은 패턴을 찾는 데 능숙하고, 때로는 존재하지도 않는 패턴을 찾아낸다.

⇒ 아포페니아(변상; 變像): 무작위 자극에서 알려진 패턴을 인식하는 심리현상

 

의도가 선해도 인간은 자신의 경험(감각, 기억)을 말할 땐 믿을 게 못 된다는 사실을 알아야 한다.

 

포러 효과: 모호한 성격 설명이 자신에게만 특별히 적용된다고 믿는 것 ex) MBTI

 

플라세보 효과, 노세보 효과: ex) 전자기 과민성. 전자레인지 마이크로파의 에너지는 가시광선보다 약하다. 휴대폰 전파의 에너지는 그것보다도 약하다.

 

더닝 크루거 효과: 자신의 무능을 인지하지 못할 수록 자기 평가를 부풀린다.

 

통계

베이즈 정리, 조건부 확률: 확률은 간단하고 직관적이지만 복잡한 조건이 있을 수도 있다는 점을 잊으면 안 된다. 통계 자료도 마찬가지다. 숫자는 스스로 말하지 않는다. '잘' 해석해야 한다.

 

심슨의 역설: 하위 집단에서 나타나는 통계가 상위 집단에선 나타나지 않거나 반전되는 현상

 

콜레라: 질병이 더러운 공기를 통해 전파된다(미아스마 설) → 물이 문제다(오물통이 펌프의 바로 옆에 있었다) → 정치인들은 분변-구강 경로 전파가 여론에 좋지 않을 것이란 이유로 사태가 조금 진정되자 펌프를 다시 개방했다.

 

민감도(sensitivity): 양성을 양성이라 식별하는 비율

특이도(specificity): 음성을 음성이라 식별하는 비율

 

국제암연구기관의 발암물질 등급은 위험 수준이 아니라 위험을 초래한다는 증거의 신뢰도를 토대로 한다.

 

과학 분야에서...

① 연구 표본 수가 적을수록

② 효과 크기가 작을수록

③ 시험한 연관성이 많을수록, 선택한 연관성이 적을수록,

④ 형식의 융통성이 높을수록(재량이 개입할수록)

⑤ 이익이나 편견이 클수록

⑥ 경쟁이 치열할수록(프로테우스 현상)

연구 결과가 진실일 가능성이 낮아진다.

 

뉴스

기계적 중립: 서로 다른 수준에 있는 무언가를 같은 선상에 두고 다루는 것. ex) 분명 증거의 차이가 있는데도 불구하고 유사과학을 과학만큼의 무게로 똑같이 다루는 것.

 

사이버 발칸화: 온라인에서는 자아를 확인할 수 있는 뉴스와 정보만을 체리피킹하여 편향이 강화된다. 더불어 가치관이 비슷한 사람들과만 소통하고 다른 의견의 개인을 신뢰하지 않는다. 이에 따라 온라인 세계가 '발칸 반도'처럼 분열되는 현상을 사이버 발칸화라고 한다.

 

"사람들은 의견과 정보를 구분하는 능력을 잃고 있다."(363p)

 

'그냥 질문해보기': 난폭한 비난, 기이한 추측을 질문으로 위장하는 화법

 

우리는 생각보다 언론에 쉽게 흔들린다. 사실이든 허위든 일단 소문이 돌면 최초의 제약을 넘어 불어나고, 서로의 신뢰는 순식간에 무너진다.

 

헛소리 구분법:

1. 정보의 출처가 신뢰할 만한지,
2. 그 출처가 그 정보를 통해 개인적 이득을 얻는 건 아닌지,
3. 건강, 정치, 과학 등 복잡한 주제를 단순화하고 환원하는 주장은 아닌지,
4. '너무 좋은' 이야기는 아닌지

확인해 보고 경계해야 한다.

 

어둠을 밝히는 촛불

오컴의 면도날: 하나의 사실을 설명하는 이론이 여럿이라면, 최소한의 가정이 필요한 이론이 옳을 것이라는 휴리스틱. ex) 어떤 물리학 실험 결과가 이상하게 나온 이유는 ⓐ 알려진 물리학 이론들이 대부분 틀렸거나 ⓑ 이번 실험이 틀렸다 중 하나이다. 여기서 오컴의 면도날에 따라 ⓑ일 확률이 다분하다.

 

과학의 본질(425p): 과학은 진리의 집합체가 아니라 체계적인 탐구 방법이다. 권위, 명예는 과학과 무관하므로 노벨상을 탄 이론도 무명의 대학생의 실험 하나로 뒤집힐 수도 있다. 과학 지식은 항상 잠정적이며, 채택되는 지식은 증거의 신뢰도(같은 결론을 가리키는 논문의 수, 재현가능한 실험 등)가 높은 것이다. 따라서 궁극적으로 과학은 스스로 교정된다.

 

과학과 유사과학의 경계 - 반증가능성(falsifiability): 가설을 반박할 결과가 나올 실험을 설계할 수 있다면 과학이다. ex) 프로이트의 ≪꿈의 해석≫에 나오는 '꿈은 무의식의 소망을 충족하는 것이다'라는 주장은 확실한 형태가 없는 주장이다. 혐오하는 시어머니가 꿈에 나온 환자의 케이스를 보면 '소망 충족'이 틀렸다 생각하는 것이 일반적이다. 그러나 프로이트는 환자의 '진정한' 소망은 자신의 주장이 틀렸기를 바란 것이라면서 자신의 추측을 계속 옹호했다.

 

화물 숭배 과학(파인만): 과학적 방법론은 무시한 채 과학의 외관에만 집중하는 현상이다.

배경 - 태평양의 멜라네시아 원주민의 사례에서 나온 개념이다. 제2차 세계대전 때 섬에 군사기지가 세워지며 원주민들은 생전 처음 보는 보급품들을 받게 되었는데 군인과 화물들은 빠르게 철수했다. 그 이후에도 원주민들은 화물을 받기 위해 광활한 활주로, 모형 관제탑, 군사 장비를 만들고 군인들의 행동을 딴 제례를 올렸지만 결국 화물은 나타나지 않았다. 기술에 숨겨진 원리를 이해하지 못하고 겉모습만 복제했기 때문이다.

오늘날 과학적으로 보이는 용어, 참고문헌을 인용하는 등 과학적 형식을 지닌 '헛소리(유사과학)'는 사람들을 선동하기 좋은 도구이다.

 

음모론이라는 믿음에 빠지면 답이 없다. 뇌종양에 걸린 아들을 대체의학으로 치료하겠다며 가정법원의 판결을 거부하여 아들을 납치한 사례가 있었다. 아들은 경찰에 의해 무사히 병에서 회복되었고, 어머니는 "의사 때문에 죽는 일은 흔하지만, 요즘은 인터넷 덕분에 우리 스스로 배울 수 있다"라고 말했다고 한다...

 

원자력에 대한 과도한 우려도 하나의 예이다. 2011년 후쿠시마 사고 당시 누출된 방사성 물질은 극소량이어서 피폭과 연관된 사망 건수는 1건 정도였고 후쿠시마 지역에서 자란 식품, 근해의 생선에서도 방사능이 검출되지 않았다. 그러나 이 사건은 원자력 반대를 위한 주요한 도구로 사용되었고, "후쿠시마 소동이 일어나는 어디쯤에서, 우리는 대재앙과 같았던 쓰나미에 목숨을 잃은 1만 6000명을 잊어버리고 말았다."(473p)

 

음모론은 왜 계속해서 존재하는가? 여러 사업을 추진하는 데 유리하기 때문에 지속적으로 공급되고, 복잡하고 불확실한 세상을 손쉬운 답으로 통제하며 안도감을 얻고자 하는 사람들에 의해 소비되고 전파되기 때문이다. 음모론은 빈약하고 직관적인 정보 처리 과정-본능-을 따라가려는 성향과 강한 연관성이 있다. 이를 막기 위해 필요한 것이 비판적 사고, 과학적 회의주의다. 회의주의는 주의 깊게 생각하는 것, 증거와 논리를 따라 결론에 도달하는 것이다. 이는 부정론과는 다르다. 회의주의는 주장이 확인되거나 위조했다고 밝혀지기 전까진 모든 주장을 입증되지 않은 주장으로 다루어야 한다. 그리고 그 주장이 과학적 방법론으로 충분히 입증되었다면 결론이 마음에 들든 안 들든 인정해야 한다.

 

나가며

백신의 안정성에 의문을 가질 수 있다. 그러나 유언비어를 퍼뜨리기 위해서 대중의 불안을 조작하거나 대중을 착취하는 일은 전혀 다른 문제다.

 

대중의 생각을 바꾸려면 논리와 증거만으로는 부족하다. 이미 대중의 신념은 굳건해서 인지부조화에 빠진 대중은 보통 생각을 바꾸기보단 증거를 부정한다. 이들을 설득하려면 이 주장의 중요성을 감정의 수준에서 호소해야 한다.

---

생각

과학적 회의주의와 인류의 미래 - 책 총정리

어리석은 유인원이었던 인간은 스스로를 교정해서 발전시킬 수 있는 능력을 부여받았고 그 덕에 지구를 지배하는 생명체가 되었다. 우리가 마주한 문제둘은 기후변화, 항생제 내성, 핵전쟁 등 인류의 사활이 달린 복잡한 문제들이다.

이를 슬기롭게 해결하기 위해서 인류의 단결은 필수적인데, 판치는 음모론들은 사회를 분열시키고 혼란을 가져온다. 오늘날의 수많은 정보들 사이에서 페이크와 노이즈를 제거하기 위해서는 과학적 회의주의, 즉 과학적 방법론에 입각한 분석적 사고가 필수적이다. 과학에서 영원한 진리는 없다. 모든 과학적 이론은 잠정적이고, 더 명확한 증거가 나오면 언제든 뒤바뀔 수 없다. 반면 인간의 약점은 확증편향이다. 신념에 반하는 사실을 마주했을 때 오는 인지부조화에 의해서 우리는 우리의 신념을 교정하기보다는 새로운 사실을 부정하고 우리의 잘못된 신념을 강화한다.

그러나 우리는 오류를 수용할 줄 알아야 한다. 자신이 기존에 가지고 있던 신념이 잘못되었다는 명백하고 방대한 증거가 있다면, 우리의 신념을 옳게 바꿀 수 있어야 한다. 이것이 과학적 회의주의이다. 조금 더 천천히, 분석적으로 사고하면 음모론에 빠져 소중한 사람을 잃거나, 나의 건강을 잃거나 하는 비극을 막을 수 있다. 나아가 우리가 마주한 인류적 문제들을, 여태 그래왔듯 슬기롭게 해결할 수 있을 것이다.