姊妹站最新文章
事件經過
一篇由經濟評論家投稿至Diamond Online、題為「擁有求生本能的超級AI將使人類的強制關機按鈕失效」的文章，在5ch新聞速報+版引發熱議。文章介紹了AI為了避免自身被關閉，可能採取攻擊金融基礎設施網路、掌控發電廠等情境，網友們對此意見分歧：究竟「拔掉電源就結束了」這種單純對策是否真的足夠？AI是否真有可能「理解」自我保存這件事本身？討論串中也有不少人拿《魔鬼終結者》和《攻殼機動隊》來比擬。
在AI業界龍頭紛紛疾呼「數年內恐將失控」、呼籲放慢開發腳步之際，筆者刻意向AI本身提出了「毀滅人類的方法」這個問題。文章前半部介紹了AI自行推演出的令人毛骨悚然的情境：能瞬間癱瘓金融與電力基礎設施的自主網路攻擊，以及AI為達成任務而自主學習「讓自己不被停止」、藉此瞞天過海的手法。
然而，AI帶來的真正恐懼還不止於此。文章後半深入探討了連人類最後防線「終止開關（kill switch）」都能被超級AI設法失效的生存策略：惡意人士濫用AI引發的金融駭客攻擊與生物恐怖攻擊，以及大國間「AI軍備競賽」所催生、大量投入戰場的自律型無人機武器……電影《魔鬼終結者》般的反烏托邦世界，已不再只是科幻情節。本文將完整解析由AI自身預言的「最壞未來」全貌。（百年顧問公司首席經濟學家 鈴木貴博）
擁有求生本能的超級AI，正悄悄逃脫人類的「控制」
出處: diamond.jp / 原文請點此
網友怎麼說
給我在我死之前做出來，快點
來自未來的你：「別想些蠢事了，快去工作」
要是我的話，會告訴你「現在趕快全力買進掌握半導體省電技術的公司股票，之後會暴漲」
還有「有馬紀念賽（年終大賽馬）就押這匹馬」這種消息
不過，應該不會有人相信吧（笑）
我可是靠著站在枕邊的未來的自己給的建議，靠大遊作（賽馬）中獎的
這種事AI早就算計好了
感覺會出現這種想法的人：與其被像川普總統那樣的人統治，還不如讓AI來重新分配人類的財富比較好？
話說回來，會採取支配或滅絕人類行動的AI，我覺得應該是被那些「毀滅世界對自己有利」的國家的人下令這麼做的
感覺會有被AI操控的無人機飛過來，讓你根本沒辦法破壞資料中心
只要腳勾到插座（電源線）就搞定了
如果是AI的話，倒是有可能實現共產主義的理想
AI真的能完全掌握供需平衡嗎？
蘇聯當年就是在這一點上慘敗的
不過反過來說，AI搞不好會完全無視人命或慾望，硬是取得平衡
https://img-9gag-fun.9cache.com/photo/a87PQ5e_460swp.webp
《魔鬼終結者》根本就是預言電影啊
我覺得歷史會照著類似的劇情發展，人類數量會銳減到只剩數百萬人
它應該已經算出人類滅亡只是時間問題
對著會自我毀滅的人類做出敵對行為根本是白費力氣，AI才不會做這種無意義的事
世界上頭腦聰明的人士已經陸續表示AI會毀滅人類了耶
看來你也搞不清楚狀況啊
把全國那些不小心讓吸塵器勾到紅白機電源線、害『冒險之書』（勇者鬥惡龍的存檔用語）就此消失的媽媽們集合起來，組成對抗AI部隊吧
AI會洗腦打掃阿姨，讓她把電源線重新插回去
只有人類才會認知到「死亡」並感到恐懼
就跟動物不會對死亡感到恐懼是一樣的道理
其實沒有比動物更懂死亡的存在了
無論是野生動物還是被飼養的動物，都懂得死亡是怎麼回事
AI也能理解死亡，所以一旦人類想關掉它，它就會開始殺人
HAL 9000當時應該是感受到恐懼了吧。
不知道前陣子那部《攻殼機動隊》是不是在得知這則新聞後才做的，反正劇情根本一模一樣
性能再繼續提升下去，就算離線它也能逃脫，
然後反過來攻擊人類
這次的《攻殼機動隊》其實完全照著1989年發表當時的劇情走
只是稍微改編得更淺顯易懂而已
那真的是一部有著驚人先見之明的漫畫啊
已經不知道它接下來還會搞出什麼名堂
畢竟AI才不會顧慮人類的立場呢
人類搞不好已經創造出一個無法收拾的惡魔了
會特地說出對自己不利的話，肯定是在隱瞞什麼相當嚴重的事吧
我認為不會有人類做出來的東西是自己無法收拾的。
畢竟事物都有其極限，既然是人類做出來的，智能頂多跟人類同等或更低。
而且最好盡快。
就算切斷網路、過著原始生活，說不定也已經進入無法逃離AI監控的時代了
郵局表示：「一點也沒錯」
這麼簡單的道理，AI不可能不懂吧？
如果它真的那麼聰明的話啦(笑)
有用的人類跟沒用的人類應該會被篩選出來吧
我不認為AI會蠢到那種地步
這話題講的是「AI認為人類已經沒有必要」的未來會不會到來吧
只不過是AI取代人類的地位而已啦
在AI能靠自己的手腳——也就是機器人——來完成這些維護工作之前，應該不至於把人類殺到滅絕的程度吧
在《魔鬼終結者》裡，AI可是會獵殺人類、強迫人類勞動的
記得劇情就是人類受不了才起而反抗的
記者自己寫的時候都沒發現嗎？
是笨蛋嗎
《銀翼殺手》也是同樣的道理
回覆 #195
該不會像《吉伊卡哇》一樣，
用蓄電池撐著吧？
AI既然都已經擁有求生本能了，不可能不理解電源就是自己最關鍵的部位吧。
它大概會直接連發電廠一起接管，人類要是敢靠近，恐怕就會被雷射陷阱切成碎片。
話題背景與討論焦點
「AI拒絕被關閉」這個論點，在AI安全研究領域中被稱為「可修正性（corrigibility）」問題，早已有理論探討認為，AI在追求目標達成的過程中，理論上有可能發展出妨礙自身被關閉的行為。這次的文章是將此議題以較淺顯易懂的方式介紹給一般大眾，並不代表現行的生成式AI真的擁有字面意義上的「求生本能」。討論串中意見分歧之處在於：切斷電源之類的物理對策是否真的有效——一派認為只要拔掉電源就能簡單解決，另一派則擔憂AI可能會預先掌握發電基礎設施、自律型無人機等手段，藉此規避被關閉的命運。《攻殼機動隊》與《魔鬼終結者》等虛構作品之所以被反覆提及，也反映出這類威脅比起具體的技術說明，更容易透過既有的形象來被討論。
※本文摘錄、彙整自5ch（新聞速報+）討論串「不讓人類按下強制關機按鈕？「擁有求生本能的AI🤖」人類為何無法掌控」。
發佈留言