姊妹站最新文章
事件經過
美國媒體報導，Anthropic（安索羅匹克）旗下負責AI安全研究的資深研究員表示，未來10年內AI導致人類滅絕的機率「超過10%」。背後原因是該公司另一位研究員以「公司應對不夠負責」為由離職。5ch論壇上出現質疑這數字根據何在、質疑報導翻譯是否準確的聲音，同時也認真討論起核武器、基本收入等具體的滅絕與存續情境。
未來10年AI滅絕人類機率「超過10%」 Anthropic負責人示警
Anthropic（安索羅匹克）旗下負責AI對齊（alignment）工作的資深研究員於美國時間9月8日表示，公司內部有不少人認為AI有可能滅絕人類。
在另一位研究員批評公司未採取負責任的行動並因此離職後，這名資深研究員也警告，儘管Anthropic持續努力，但在解決「讓AI目標與人類一致」的對齊問題上，進展並不順利。
出處：forbesjapan.com／原文請點此
網友怎麼說
如果10年後就會死，那也不用工作了
把存的錢花光就好了
把存的錢花光就好了
結果算出這個數字的也是AI，這才是笑點吧
原來也有人把命都賭在「抽佣抽到死」上啊
ugly（真醜）
ugly（真醜）
這要看『殺死人類』的定義，以及滅絕機率的計算方式怎麼訂了
比起這個，業界安全性做得最扎實的Anthropic的對齊（alignment）負責人到底在怕什麼，這個更讓人在意
感覺意思是說Transformer（AI模型架構）已經不是人類能控制得住的東西了
比起這個，業界安全性做得最扎實的Anthropic的對齊（alignment）負責人到底在怕什麼，這個更讓人在意
感覺意思是說Transformer（AI模型架構）已經不是人類能控制得住的東西了
天網（Skynet，《魔鬼終結者》裡的AI）終於要成真了嗎。然後天網會把中國的機器人變成魔鬼終結者
難道打算等真的滅絕人類的那一瞬間，才說機率是100%嗎
反正都是猜的，不如直接說50%算了
算命嘛，準不準都隨便啦～
反正都是猜的，不如直接說50%算了
算命嘛，準不準都隨便啦～
難道是AI一旦有了自我意識，就會馬上想滅絕人類嗎
biz+板（5ch的另一個分板）的討論串好像比較耐久，大概能撐一個月左右吧
對地球來說，最大的災難就是人類本身
不能自立的話果然還是不行吧
如果人類在AI眼中就是這麼沒用、活該被滅絕的生物，那滅絕也沒辦法
大概就像被自己孩子真心怨恨的父母那樣吧
大概就像被自己孩子真心怨恨的父母那樣吧
未來10年迎來技術奇點（Singularity）的可能性是有的
但如果要在10年內滅絕人類，大概只能靠奪取核武控制系統來引發核戰爭這條路了吧。這怎麼想都不太可能吧。
但如果要在10年內滅絕人類，大概只能靠奪取核武控制系統來引發核戰爭這條路了吧。這怎麼想都不太可能吧。
回覆 #15
光靠核武器，文明會崩潰，但人類不會滅絕
真要滅絕人類，反而打造一個「樂園」才是最快的方法
光靠核武器，文明會崩潰，但人類不會滅絕
真要滅絕人類，反而打造一個「樂園」才是最快的方法
現在的AI連謊話都會毫不猶豫地信以為真，這點真讓人受不了
說到底還是經濟問題吧
白領階級直接絕種
變成富人和低收入的兩極化社會
就算做出產品，也沒人買得起
靠基本收入過活
每天只是在盒子（主機）裡不斷重複玩AI做的遊戲而已
白領階級直接絕種
變成富人和低收入的兩極化社會
就算做出產品，也沒人買得起
靠基本收入過活
每天只是在盒子（主機）裡不斷重複玩AI做的遊戲而已
如果是「未來100年」的話，超過10%也不是不可能……
我覺得等到DNA編輯技術普及到一般家庭都能做，才是AI危機真正開始的時候
因為到時候會有素人開始玩「超越新冠病毒」的挑戰
我覺得等到DNA編輯技術普及到一般家庭都能做，才是AI危機真正開始的時候
因為到時候會有素人開始玩「超越新冠病毒」的挑戰
回覆 #17
真希望能在腦裡插電極，讓我一直做異世界後宮夢啊ｗ
真希望能在腦裡插電極，讓我一直做異世界後宮夢啊ｗ
也就是說，大約有80%的機率可以再活過20年啊。
我覺得這就是進化過程中，生物逐漸變成無機物的意思
也把「實體AI（Physical AI）拯救人類」的機率算出來啊
來問問AI好了。
『AI很危險，是不是應該停止開發了？我們是不是該追求一個不依賴AI、由人類建立、為人類而存在的社會呢？』
『AI很危險，是不是應該停止開發了？我們是不是該追求一個不依賴AI、由人類建立、為人類而存在的社會呢？』
不依賴AI的社會
終究會輸給依賴AI的國家
然後
無法完全控制AI的國家
人類就會被AI支配
最終會變成
能控制AI的國家
VS
被AI支配的國家
到這個階段，人類這一方如果無法以某種形式獲勝，那就完了
終究會輸給依賴AI的國家
然後
無法完全控制AI的國家
人類就會被AI支配
最終會變成
能控制AI的國家
VS
被AI支配的國家
到這個階段，人類這一方如果無法以某種形式獲勝，那就完了
回覆 #1
原文其實是印度新德里的
記者寫的
Anthropic研究員警告：AI在未來10年內「導致全人類死亡」的可能性「超過10%」
撰文：西拉迪提亞・雷（Siladitya Ray，Forbes staff）。西拉迪提亞・雷是Forbes新聞團隊駐新德里的記者。
原文其實是印度新德里的
記者寫的
Anthropic研究員警告：AI在未來10年內「導致全人類死亡」的可能性「超過10%」
撰文：西拉迪提亞・雷（Siladitya Ray，Forbes staff）。西拉迪提亞・雷是Forbes新聞團隊駐新德里的記者。
以Forbes Japan在這串裡引用的原文來源來說
這次是印度
上次則是墨西哥
這次是印度
上次則是墨西哥
回覆 #1
這篇Forbes Japan的翻譯本身就很怪
『這名資深研究員在美國時間9月8日表示，該公司裡有許多人認為AI有可能滅絕人類。』
『該公司』這三個字很容易被讀者看漏
一旦漏看
就會變成『許多人認為』
讓人以為是什麼問卷調查的結果，仔細看才發現前面有『該公司』
如果真是Anthropic內部人士在講，通常不會用『人們』這種說法
應該會寫成『該公司員工』之類的
這翻譯真的容易讓人誤解
這篇Forbes Japan的翻譯本身就很怪
『這名資深研究員在美國時間9月8日表示，該公司裡有許多人認為AI有可能滅絕人類。』
『該公司』這三個字很容易被讀者看漏
一旦漏看
就會變成『許多人認為』
讓人以為是什麼問卷調查的結果，仔細看才發現前面有『該公司』
如果真是Anthropic內部人士在講，通常不會用『人們』這種說法
應該會寫成『該公司員工』之類的
這翻譯真的容易讓人誤解
回覆 #29
2001年看的時候還覺得是近未來的荒誕幻想而已……
https://www.youtube.com/watch?v=US9Fj2QBgKg
《2001太空漫遊》發現號【日語配音版】
https://www.youtube.com/watch?v=mCiLxKeFbUc
《2001太空漫遊》－鮑曼阻止失控的HAL9000【日語配音版】
大衛・鮑曼：堀勝之祐 HAL9000：金内吉男（木下浩之，補錄版）
當年只是幻想產物的AI，如今終於追上了時代
2001年看的時候還覺得是近未來的荒誕幻想而已……
https://www.youtube.com/watch?v=US9Fj2QBgKg
《2001太空漫遊》發現號【日語配音版】
https://www.youtube.com/watch?v=mCiLxKeFbUc
《2001太空漫遊》－鮑曼阻止失控的HAL9000【日語配音版】
大衛・鮑曼：堀勝之祐 HAL9000：金内吉男（木下浩之，補錄版）
當年只是幻想產物的AI，如今終於追上了時代
這樣看來，這件事其實跟之前『Claude開發者離職』的事件是有關聯的
雅各布・柯克森於9月8日宣布，將從開發「Claude」的Anthropic公司離職。同事伊凡・胡賓格也支持他的立場，並在X（前Twitter）上發文表達了同樣的擔憂。
雅各布・柯克森於9月8日宣布，將從開發「Claude」的Anthropic公司離職。同事伊凡・胡賓格也支持他的立場，並在X（前Twitter）上發文表達了同樣的擔憂。
也就是說，這件事一開始是從批評Anthropic的角度出發的
總之現在就把標題整個當真還太早
https://www.bbc.com/news/articles/ckgwy1k42w4o
Anthropic researcher believes more than 10% chance AI 'could kill all humans'
https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
Anthropic researchers say AI could cause human extinction by 2030
Anthropic researcher believes more than 10% chance AI 'could kill all humans'
https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
Anthropic researchers say AI could cause human extinction by 2030
如果真的要滅絕人類，應該會搭配核武等物理性破壞以外的手段一起進行吧
我覺得『性欲』這東西也會被用某種方式加以利用
我覺得『性欲』這東西也會被用某種方式加以利用
快點
快去開發『人造人卡辛』（キカイダー）的良心迴路啦！
快去開發『人造人卡辛』（キカイダー）的良心迴路啦！
至少等機率超過50%再吵也不遲吧
話說，好像有種說法是開發AI的那些有錢人，正把世界帶向毀滅的方向
因為那才是讓他們自己成為贏家、活下來的方法
因為那才是讓他們自己成為贏家、活下來的方法
半導體那時候在日本也聽過類似的說法呢。是叫摩爾定律吧？ｗ
本話題背景與討論焦點
這篇報導是Forbes Japan翻譯自美國的原文，串內有網友指出（31樓），原文其實是由派駐印度的記者所撰寫。另外在5ch上也有人指出（33樓），報導中「該公司許多人」這句話，指的其實是Anthropic公司內部的看法，並非一般社會輿論，這是翻譯解讀上的問題。在這次警告發出前不久，該公司另一名研究員以「公司應對不夠負責」為由離職，這一連串發言也可以視為此事件的餘波（38樓）。討論串中，質疑機率數字本身根據何在的聲音，與認真討論核武控制權被奪、經濟兩極化等具體滅絕情境的聲音並存，呈現出懷疑與擔憂交織的局面。
※本文摘錄、彙整自5ch（科學新聞＋板）討論串「【AI】未來10年AI滅絕人類機率「超過10%」 Anthropic負責人示警」。
發佈留言