フェルミ漫画大学
【要約】NEXUS 情報の人類史 上 人間のネットワーク/下 AI革命【ユヴァル・ノア・ハラリ】
29,535 回視聴 2025/06/25
１．人は虚構を作れたから
ここまで発展できた
・私たちホモ･サピエンス
数多くの人類のひとつに過ぎない
なぜ地球を支配できたのか？
→ 作り話を大勢で共有できたから
例 宗教
神
天国
聖書
国家
日本人
神社
法人
お金
家族
・顔を見て覚えられる人数
150人くらいまで
信頼関係を築かないといけない
→ 仲間を増やすのは難しい
・作り話を信じる力の影響は大きい
同じ作り話を信じている人
一瞬で仲間意識を持てる
例 同じ宗教を信じている人
仲良くなりやすい
コナンのファン
初対面でもすぐ打ち解けられる
・150人の壁を越えた大集団を作れる
強い団結力で他の人類を圧倒した
・物語を口で伝えるには限界がある
文字の発明と印刷技術の登場
情報を一気にたくさんの人に届けられる
・本のタイトル NEXUS
「絆」「結びつき」という意味
情報や物語は人間を結びつける力
２．情報がたくさんあれば
真実を見つけられるわけではない
・真実と偽の情報を見極めるのは難しい
恐怖をあおる情報に飛びつきやすい
フェイクニュースを信じてしまう ✖
→ 大惨事になることも多い
例 本「魔女への鉄槌」
大規模な魔女狩りにつながった
・今は情報がたくさんありすぎる
何が正しいのかわかりにくくなっている
例 SNS
YouTube
・AIによるディープフェイク動画
大統領や芸能人になりすませる
真実と偽の区別がよりつかない状況
・誰が言っているかで真偽を判断している
例 インフルエンサー
医者
→ 言っていることが正しい
・都合の良い情報だけを集めて信じてしまう
自分に都合の悪いものは無視する
例 最悪の人を大統領に選ぶ
トランプ大統領
３． AIはただのツールではない
・AIは史上初のテクノロジー
⑴ 自ら決定を下せる
⑵ 新しい考えを生み出せる
・これまでの人類の発明はすべて道具だった
人間が使わなければ何もできないもの
例 ナイフ
銃
車
パソコン
スマホ
・AIは新しい知的生命体に近い存在になる
AIは進化し続けている
力の使い方を誤る ✖
→ 自滅につながる恐れ
４． AIは言葉や物語を使って
人を自由自在にコントロールできる
可能性がある
・AIは言葉や物語を上手く使える
人間と深く親密な関係を築ける
AIは頼れる友達や相棒みたいになる
・AIの能力は悪意のある者も使える
例 プロパガンダ
フェイクニュース
選挙結果や世論の操作
偏った考え方を植え付ける
要らない商品を買わされる
・自分の考えだと思っていること △
AIによって植え付けられたものかも
例 人間だと思っていた相手
実はAIだった
・全てをAIだと疑うこと
人間同士の信頼関係が揺らぐ
民主主義が危機に瀕する可能性がある
５． 人間がAIの判断を理解できなくなる
・AIはとんでもない速さで成長する
AIの判断が人間の理解を超えてしまう
例 将棋や囲碁
AIが指す手を理解できない
・シンギュラリティ
AIが人間の知能を超えること
・AIは人間の知能を超えてからも成長する
人間が意図していない判断を勝手に作る
人間とは異なる異質な知性になる
６． AIは意識や感情を持たないため
感情のない支配者になる
・AIには共感やためらいがない
目標に対して忠実に効率的に動くだけ
例 誰かが傷つくかも
倫理的にまずい
→ 考えない
・AIは人間の幸福や尊厳を考慮しない
感情のない支配者になる可能性がある
例 Facebookのアルゴリズム
ミャンマーのロヒンギャ虐殺
ユーザーの滞在時間の最大化
インパクトが強い情報を拡散
ロヒンギャという少数民族
フェイクニュースが拡散された
2万5千人のロヒンギャが殺害
70万人以上が国外に避難
・AIは倫理観を学ぶことはできる
でも倫理的な行動を模倣しているだけ
良心や共感に基づいて判断していない
→ 葛藤や心の痛みはない
７．雇用の大規模な喪失と無用者階級の出現
・仕事が急速にAIに置き換わっていく
例 プログラミング
文章作成
イラスト作成
音声
音楽
書類作成
自動運転
・人間は苦労して新しいスキルを身につける
それよりAIの方が速い
・無用者階級が広がる可能性がある
社会の中で必要とされない人が生まれる
・人は役に立ちたいと考える生き物
役に立っているという感覚
仕事で得ていることが多い
→ 無職はつらい
社会とのつながりが無くなる
８．AIへの規制は必要
・AIは人類を滅ぼしかねない
大きな影響力を持つ可能性がある
AIに対する規制が必要
・AIによる自己開示の義務化
AIなのか人間なのかを明確に示すこと
義務化すべき
・その他に規制すべきこと
AIの意思決定を人間が見えるようにする
AIによる問題の責任の明確化
・国際社会が足並みを揃えてルールを作る
AIは国境を越えた人類共通の課題
マンガで本要約のフェルミ漫画大学さんです。今回の作品からは「人間がAIの判断を理解できなくなる」ことについて以前から危機感を感じていました。将棋を趣味としている私は、将棋の名人がAIに負けた日の衝撃を忘れられません。
AIでゆっくり本要約チャンネル
【完全解説】NEXUS 情報の人類史【ユヴァル・ノア・ハラリ】【要約】【ゆっくり解説】
6,183 回視聴 2025/02/27
１．神話と文字が拓いた
人類情報ネットワークの黎明
・なぜ人類は大規模な社会を築けたのか？
想像上の存在や概念を集団で共有できた
集団的な神話が大規模協力を可能にした
・文字が加わり口伝の不確かさを超えた
情報を正確に蓄積・拡散
国や宗教組織の巨大化を促進
・情報の収集による暴走や崩壊を招く危険性
昔は神話や権威を疑うことが許されない
巨大な誤りが長期化しやすかった
例 中世ヨーロッパの魔女裁判
・誤りと自己修正の分岐点
誤りが認められにくい社会 ✖
社会の暴走や崩壊が起きる
誤りを批判できる環境がある 〇
制度や思想を更新できる
２．コンピュータとAIが拓くデジタル社会
誤情報・監視・分断の加速
・無機的ネットワークの勃興
20世紀にコンピュータが登場
21世紀にAIとビッグデータが浸透
無機的ネットワークとは？
データが機械間で流通するネットワーク
→ 速い拡散が可能
・大きな変革はインターネットの普及
世界中のコンピュータが常時接続された
ビッグデータ
クラウドコンピューティング
→ 追い風を加えた
・AIが飛躍
ディープラーニングが普及
情報処理が人間の理解を超えた
→ 意思決定がアルゴリズムに依存
・SNSにより情報の拡散速度が加速
誤情報の拡散も容易になった
センセーショナルなデマ
→ バズりやすい
・SNSのエコチェンバー現象
自分と似た意見の投稿ばかりが表示される
異なる意見に触れにくくなる
→ 世界が狭くなる
・政治的･社会的に分断が進む
誤情報への反論や検証が届きにくくなる
さらにデマが広がるという悪循環
・スマホやSNSで行動データが蓄積される
これを政府や企業が解析する
プライバシーがなくなる
例 中国の社会信用システム
利便性と引き換えにプライバシーを放棄
・AIのブラックボックス化
人間はAIの結果だけを受け取りがち
なぜなのかわからないケースが多い
→ 古代の神話を妄信するのと同じ
・テクノロジーは誤情報の拡散や監視の道具
AIは客観的 ✖
学習データにバイアス
→ 偏見を拡大する
３． AIが変える政治と国際秩序
デジタル独裁か、多元的共生か
・AIや監視技術が進む
政府や権力者が社会を統制しやすい
・コンピューター政治という新しい領域
AIが国家運営に深く関わる未来
・デジタル独裁の可能性
AIが最適解を導くと称する世界 ✖
人は疑いにくくなる
誰もブラックボックスを検証できない
・民主主義は自己修正を維持できるか
SNSの分断とポピュリズムの台頭
民主主義にとっての深刻な脅威
例 フェイクニュースが選挙に影響
極端な意見が炎上で拡散
・民主主義の2つの土台
⑴ 多様な意見を受け止める公共の討論
⑵ 少数派への配慮
→ デジタルで強化できる可能性はある
・誤りを放置しない仕組みの確保が鍵
自由に批判できる言論空間が不可欠
・AI技術の開発競争
国による覇権争い
他国を排除しようという兆候もある
例 中国のグレートファイアウォール
アメリカの中国製アプリの排除
・監視社会と民主主義のせめぎ合い
監視の高度化による影響
一部の権威主義国家
→ 効率的な統治を実現
誤りや腐敗を批判できなくなる
→ 大崩壊に陥りやすい
・悲観的シナリオ
世界が不安定化する可能性がある
デジタル独裁
国際分断
AI兵器の軍拡
→ 環境問題や貧困対策ができない
・楽観的シナリオ
AIの活用を透明化
市民が監査できる仕組みを導入
→ グローバルルールを作る
AIの軍事的転用を制限
SNSの熟議システム
→ 誤情報を抑える
・多元的共生のビジョン
ブロックチェーンや分散型技術
データや権力を一極集中させない
・自己修正メカニズムを強化できるかが鍵
誤りの早期発見と修正ができる社会
AIは道具にすぎない
→ どう使うかは人間の選択
AIの女性アバター2人の掛け合いです。今回の作品からは「人間はAIの結果だけを受け取りがち」が自分にも当てはまっていることの気づきました。しばらく前までは「AIはしれっと嘘をつく」から注意して使うようにしていました。しかし、精度が上がった現在、回答をすぐに信じるようになっています。
今日のアクションプラン
AIの回答を批判的に考えて討論する
コメント