AI為何會對人類生存造成威脅？
 
許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。
 
如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？
 
從工業革命的歷史，就能幫助我們瞭解這場新的「AI革命」與生俱來的危險。
 
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年，包括中國、美國與英國在內，有將近三十個國家政府簽署了關於AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」
 
對某些人來說，可能覺得這些警告就是杞人憂天。每當出現強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產出了史上最富足的社會。時至今日，大多數人的生活狀況都比十八世紀的祖先好多了。像是安德森（Marc Andreessen）、庫茲威爾（Ray Kurzweil）這些熱情擁抱AI的人都保證，各種智能機器絕對會比過去的所有機器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護、教育與其他服務，甚至還能協助拯救生態系統免於崩潰。
 
遺憾的是，只要看歷史看得仔細一點，就會發現人類確實有充分的理由，該對強大的新科技抱持幾分畏懼。就算這些科技到了最後的最後是利大於弊，但在那個快樂結局之前，往往得先經歷百般磨難與考驗。新科技之所以常常帶來歷史上的災難，並不是科技本身有什麼問題，而是人類得花點時間，才能學會善用科技。
 
工業革命就是個很好的例子。工業技術在十九世紀開始傳向全球，顛覆傳統的經濟、社會與政治結構，彷彿打開一條道路，讓人類有機會創造出更富裕平和的全新社會。然而，要學習建立一個良性的工業社會，絕沒有那麼簡單，得經過許多昂貴的實驗，還得產生數以億計的受害者。