Skip to content
Artwork for 好青年荼毒室
好青年荼毒室 · Sep 6, 2025 · 25 min

【控制AI,還是被AI控制?】《人類大歷史》作者新書《連結》讀書會(二)

上集:https://open.spotify.com/episode/5Pe2A5yrMH6pXAJbBBBhBV?si=-x_O9WNOSviE2D2_46l3jg 本集我們會討論哈拉瑞認為AI會帶來的2大道德和政治威脅: 1. 人類能夠令AI服從道德原則嗎? 哈拉瑞說 AI 是「Alien Intelligence」,「alien」意思不是外星人,而是指 AI 已不僅是工具,更是外在於人類的自主決策智能。我們能夠以人類的道德規範制約它們,令 AI 不會侵害人類嗎? 2. 面對 AI 失控的風險,極權國家可能比民主國家更脆弱? 比起較多元的民主體制,極權國家依賴高度集中的資訊傳播和決策系統 —— 如果系統中樞被 AI 控制而失陷,會更容易將整個權力拱手讓給 AI 嗎? 面對上述 AI 威脅,人類會有辦法應對嗎?

0:00-25:54

transcript

No transcript — this publisher did not publish one.

show notes

上集:https://open.spotify.com/episode/5Pe2A5yrMH6pXAJbBBBhBV?si=-x_O9WNOSviE2D2_46l3jg

本集我們會討論哈拉瑞認為AI會帶來的2大道德和政治威脅:

1. 人類能夠令AI服從道德原則嗎?

哈拉瑞說 AI 是「Alien Intelligence」,「alien」意思不是外星人,而是指 AI 已不僅是工具,更是外在於人類的自主決策智能。我們能夠以人類的道德規範制約它們,令 AI 不會侵害人類嗎?

2. 面對 AI 失控的風險,極權國家可能比民主國家更脆弱?

比起較多元的民主體制,極權國家依賴高度集中的資訊傳播和決策系統 —— 如果系統中樞被 AI 控制而失陷,會更容易將整個權力拱手讓給 AI 嗎?

面對上述 AI 威脅,人類會有辦法應對嗎?