美國媒體報導,Anthropic(安索羅匹克)旗下負責AI安全研究的資深研究員表示,未來10年內AI導致人類滅絕的機率「超過10%」。背後原因是該公司另一位研究員以「公司應對不夠負責」為由離職。5ch論壇上出現質疑這數字根據何在、質疑報導翻譯是否準確的聲音,同時也認真討論起核武器、基本收入等具體的滅絕與存續情境。
未來10年AI滅絕人類機率「超過10%」 Anthropic負責人示警
Anthropic(安索羅匹克)旗下負責AI對齊(alignment)工作的資深研究員於美國時間9月8日表示,公司內部有不少人認為AI有可能滅絕人類。
在另一位研究員批評公司未採取負責任的行動並因此離職後,這名資深研究員也警告,儘管Anthropic持續努力,但在解決「讓AI目標與人類一致」的對齊問題上,進展並不順利。
出處:forbesjapan.com/原文請點此
把存的錢花光就好了
ugly(真醜)
比起這個,業界安全性做得最扎實的Anthropic的對齊(alignment)負責人到底在怕什麼,這個更讓人在意
感覺意思是說Transformer(AI模型架構)已經不是人類能控制得住的東西了
反正都是猜的,不如直接說50%算了
算命嘛,準不準都隨便啦~
大概就像被自己孩子真心怨恨的父母那樣吧
但如果要在10年內滅絕人類,大概只能靠奪取核武控制系統來引發核戰爭這條路了吧。這怎麼想都不太可能吧。
光靠核武器,文明會崩潰,但人類不會滅絕
真要滅絕人類,反而打造一個「樂園」才是最快的方法
白領階級直接絕種
變成富人和低收入的兩極化社會
就算做出產品,也沒人買得起
靠基本收入過活
每天只是在盒子(主機)裡不斷重複玩AI做的遊戲而已
我覺得等到DNA編輯技術普及到一般家庭都能做,才是AI危機真正開始的時候
因為到時候會有素人開始玩「超越新冠病毒」的挑戰
真希望能在腦裡插電極,讓我一直做異世界後宮夢啊w
『AI很危險,是不是應該停止開發了?我們是不是該追求一個不依賴AI、由人類建立、為人類而存在的社會呢?』
終究會輸給依賴AI的國家
然後
無法完全控制AI的國家
人類就會被AI支配
最終會變成
能控制AI的國家
VS
被AI支配的國家
到這個階段,人類這一方如果無法以某種形式獲勝,那就完了
原文其實是印度新德里的
記者寫的
Anthropic研究員警告:AI在未來10年內「導致全人類死亡」的可能性「超過10%」
撰文:西拉迪提亞・雷(Siladitya Ray,Forbes staff)。西拉迪提亞・雷是Forbes新聞團隊駐新德里的記者。
這次是印度
上次則是墨西哥
這篇Forbes Japan的翻譯本身就很怪
『這名資深研究員在美國時間9月8日表示,該公司裡有許多人認為AI有可能滅絕人類。』
『該公司』這三個字很容易被讀者看漏
一旦漏看
就會變成『許多人認為』
讓人以為是什麼問卷調查的結果,仔細看才發現前面有『該公司』
如果真是Anthropic內部人士在講,通常不會用『人們』這種說法
應該會寫成『該公司員工』之類的
這翻譯真的容易讓人誤解
2001年看的時候還覺得是近未來的荒誕幻想而已……
https://www.youtube.com/watch?v=US9Fj2QBgKg
《2001太空漫遊》發現號【日語配音版】
https://www.youtube.com/watch?v=mCiLxKeFbUc
《2001太空漫遊》-鮑曼阻止失控的HAL9000【日語配音版】
大衛・鮑曼:堀勝之祐 HAL9000:金内吉男(木下浩之,補錄版)
當年只是幻想產物的AI,如今終於追上了時代
雅各布・柯克森於9月8日宣布,將從開發「Claude」的Anthropic公司離職。同事伊凡・胡賓格也支持他的立場,並在X(前Twitter)上發文表達了同樣的擔憂。
Anthropic researcher believes more than 10% chance AI 'could kill all humans'
https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
Anthropic researchers say AI could cause human extinction by 2030
我覺得『性欲』這東西也會被用某種方式加以利用
快去開發『人造人卡辛』(キカイダー)的良心迴路啦!
因為那才是讓他們自己成為贏家、活下來的方法
本話題背景與討論焦點
這篇報導是Forbes Japan翻譯自美國的原文,串內有網友指出(31樓),原文其實是由派駐印度的記者所撰寫。另外在5ch上也有人指出(33樓),報導中「該公司許多人」這句話,指的其實是Anthropic公司內部的看法,並非一般社會輿論,這是翻譯解讀上的問題。在這次警告發出前不久,該公司另一名研究員以「公司應對不夠負責」為由離職,這一連串發言也可以視為此事件的餘波(38樓)。討論串中,質疑機率數字本身根據何在的聲音,與認真討論核武控制權被奪、經濟兩極化等具體滅絕情境的聲音並存,呈現出懷疑與擔憂交織的局面。
※本文摘錄、彙整自5ch(科學新聞+板)討論串「【AI】未來10年AI滅絕人類機率「超過10%」 Anthropic負責人示警」。











