Life 3.0: Being Human in the Age of Artificial Intelligence (2017) 「意識 ＝ 主觀的體驗」 作者是麻省理工學院物理教授，他定義Life 1.0就是軟硬體都只能靠演化發展的物種，2.0就是像人類這樣能透過學習更新軟體的物種，但硬體受到演化限制。3.0則就是軟體跟硬體都能不斷進化的物種。 Life 3.0 其實就是在說類人工智慧，類人工智慧既然能自己實現軟硬體的更新，那麼最終產生超人工智慧就是時間問題而已。所以才會有人認為類人工智慧將是人類最後一件發明，之後人類就沒有插手的餘地了。而且這本書是2018年寫的，我相信2022年ChatGPT爆紅之後，支持的人肯定更多。而對物理學家來說，智慧其實就是粒子的特定排列而已，人類大腦也不過就是由一堆原子/電子所組成，所以更有理由相信超人工智慧終將誕生。 正因為超人工智慧必然會誕生，所以書中羅列了未來人工智慧世界的12種情境，從最好的自由主義理想國到最糟糕的人類自我毀滅。每一種都有AI領域的專家支持。意味著沒人知道真實的情況會怎樣，探討這些可能性能幫助我們管控好人工智慧的發展，而不是順其自然最終無法掌控。 作者也表示其實大家不需要擔心超人工智慧一誕生就會想要毀滅人類，而要擔心他的目標跟人類不同，因為他可能會認為人類的目標很無聊。舉例來說，人類都是被DNA設定要盡力去繁衍後代，把越多DNA散播出去越好。但人類長大後肯定不會這樣想，通常是生1~2個甚至完全不生，超人工智慧看待人類也是相同視角。所以要怎麼讓超人工智慧的目標跟人類一致就非常重要，有一個笑話就是說人類設定一個目標是算出圓周率所有小數點，最終超人工智慧窮盡宇宙一切資源來做這件事情最終毀滅了宇宙。本書結合物理/電腦科學/哲學以及未來科幻，所有關注AI發展的人必讀，而所有人都應關注AI發展。