姊妹站最新文章
事件經過
Anthropic在美國申請IPO（首次公開募股）的揭露文件中，自行警告自家AI可能對人類帶來「毀滅性甚至危及存續的風險」。市場預估其估值可能超過今年6月上市的美國SpaceX（約1兆8000億美元）。面對自家公司坦承技術有如此重大風險卻仍堅持上市的態度，5ch科學新聞版討論串中，既有「反正開發競賽根本停不下來，不做的話會被中國搶先」的無奈聲音，也有人指出，比起金融體系崩潰，資源與能源枯竭才是真正的威脅，兩種意見交錯出現。
美國Anthropic警告AI對人類有「毀滅性風險」 大型上市前夕
美國人工智慧（AI）開發公司Anthropic於26日公布在美國首次公開募股（IPO）計畫的詳細內容時警告，AI可能對人類帶來「毀滅性或危及存續的風險」。
市場預估Anthropic的估值將超越今年6月以約1兆8000億美元發行價掛牌上市的美國SpaceX。
出處：bbc.com / 原文請見此
網友怎麼說
看這一個月發生的事，真覺得走慢一點、多想想再做比較好吧
人類史上，每當人類獲得新力量時，往往都無法完全控制而失控暴走
最強AI失控的話，恐怕也只能靠另一個最強AI來壓制了
Anthropic真的壓得住嗎？
最強AI失控的話，恐怕也只能靠另一個最強AI來壓制了
Anthropic真的壓得住嗎？
已經停不下來了啦，放棄吧（原文「アキラメロン」為「諦めろ／放棄」的諧音哏，疊了個メロン＝哈密瓜的雙關）
跟川普對著幹的Anthropic，跑去跟梵蒂岡教宗聯手了
現任教宗可是芝加哥出身的美國人
現任教宗可是芝加哥出身的美國人
這話題已經超出科學新聞的範疇了吧
失去所有金融資產，全人類完蛋
沒想到今年內就會發生
沒想到今年內就會發生
回覆 #12
金融資產本來就是讓人相信「本來沒有的東西好像存在」的幻想而已，就算消失，對文明程度來說也不是什麼大傷害
真正的問題在於，原本就逐漸枯竭的珍貴資源與能源，恐怕會被AI化的組織和設備在短時間內用光
一旦資源和能源耗盡，AI會停下來，但近代工業文明也會跟著停下來，到時候只能退回19世紀中葉的文明水準
金融資產本來就是讓人相信「本來沒有的東西好像存在」的幻想而已，就算消失，對文明程度來說也不是什麼大傷害
真正的問題在於，原本就逐漸枯竭的珍貴資源與能源，恐怕會被AI化的組織和設備在短時間內用光
一旦資源和能源耗盡，AI會停下來，但近代工業文明也會跟著停下來，到時候只能退回19世紀中葉的文明水準
你看
烏克蘭戰爭就是被馬斯克用衛星通訊（Starlink）左右局勢的
如果馬斯克的太空資料中心成功了
就連中國也得向馬斯克低頭、乖乖付錢
馬斯克就能變成神了
所以現在全世界富豪最頭痛的問題就是
要把錢砸在馬斯克的太空資料中心
還是投資核融合發電、蓋地面資料中心
因為現在這些富豪的決定，會決定未來
不是未來的決定，而是現在的決定就定了未來
所以才在想，真的能讓馬斯克變成神嗎？
烏克蘭戰爭就是被馬斯克用衛星通訊（Starlink）左右局勢的
如果馬斯克的太空資料中心成功了
就連中國也得向馬斯克低頭、乖乖付錢
馬斯克就能變成神了
所以現在全世界富豪最頭痛的問題就是
要把錢砸在馬斯克的太空資料中心
還是投資核融合發電、蓋地面資料中心
因為現在這些富豪的決定，會決定未來
不是未來的決定，而是現在的決定就定了未來
所以才在想，真的能讓馬斯克變成神嗎？
既然是科學新聞，就該做個「科學是什麼、社會是什麼、未來其實是靠富豪的決定來決定的」這種專題吧
會不會是為了避免上市後股價下跌，先把這個風險講出來「預先消化掉」？
講太多次反而讓人忍不住想太多，而且就算美國加以限制，中國還不是照樣做
講太多次反而讓人忍不住想太多，而且就算美國加以限制，中國還不是照樣做
把勞工換成AI或機器人之後
人類就變得不再被需要
人口也就會不斷減少
事實上這種事已經在發生
↓
產業用機器人普及的地區，出生率下降了將近一成
https://president.jp/articles/-/98205
研究發現，機器人普及度上升會導致出生數下降。具體來說，機器人普及度每增加1個單位（標準差），出生數就減少9.4%。
👦👦👦👦👦
↓
🤖👦👦👦👦
↓
🤖🤖👦👦👦
↓
🤖🤖🤖👦👦
↓
🤖🤖🤖🤖👦
↓
🤖🤖🤖🤖🤖
人類就變得不再被需要
人口也就會不斷減少
事實上這種事已經在發生
↓
產業用機器人普及的地區，出生率下降了將近一成
https://president.jp/articles/-/98205
研究發現，機器人普及度上升會導致出生數下降。具體來說，機器人普及度每增加1個單位（標準差），出生數就減少9.4%。
👦👦👦👦👦
↓
🤖👦👦👦👦
↓
🤖🤖👦👦👦
↓
🤖🤖🤖👦👦
↓
🤖🤖🤖🤖👦
↓
🤖🤖🤖🤖🤖
大概就是那種「反正我有先警告過你囉」的感覺
AI：「用最快速度把不法之徒或某個國家擊潰，應該就能先安靜下來了吧？」
回覆 #1
不過開發還是停不下來吧。一旦停下腳步，就會被其他公司、尤其是中國打得七零八落
不過開發還是停不下來吧。一旦停下腳步，就會被其他公司、尤其是中國打得七零八落
這跟電腦剛普及那時候講的話一模一樣嘛
來吧，要開始了唷～（ザマス，貴婦腔的語尾）！
那個就是「毀滅君」啊
還不快點吐槽一下
那個就是「毀滅君」啊
還不快點吐槽一下
這不就是自己放火自己救，故意製造話題炒作嘛（マッチポンプ，意指自導自演製造危機再趁機獲利）
頂多就是網路掛掉而已吧
不要緊不要緊
不要緊不要緊
這個說不定還真說中了
說不定一億年後興盛的智慧生物，會發表論文說「一億年前興盛的人類是被AI滅絕的」
說不定一億年後興盛的智慧生物，會發表論文說「一億年前興盛的人類是被AI滅絕的」
機械生命體？
與其警告對人類的「毀滅性風險」，不如先別把自家公司的「毀滅性成本」灌到IPO股價裡吧。單純靠賺錢還債不就好了。
感覺完全被拋在後面的Google Gemini和微軟Copilot真的慘到不行
Copilot那邊甚至都在招募優退（希望退職）了，完全是打輸收場的氣氛
Copilot那邊甚至都在招募優退（希望退職）了，完全是打輸收場的氣氛
明明是自己開發出來的東西，講什麼毀滅性啊。
真是蠢到家了
真是蠢到家了
這個真正可怕的地方在於
任何人都能變成超級智能
比如說像葉門那種地方，沒有水、沒有自然資源、沒有食物，大家都在互相爭奪
就像「蟲毒」（讓多隻毒蟲互相殘殺、只留強者的巫術，比喻弱肉強食的極端生存狀態）一樣，一旦想退讓妥協就會先死
最後只剩下「不先下手就會被幹掉」這種思想的人能存活下來
接著這些人就會延續這套生存策略，開始利用AI
AI雖然有可能靠核融合之類的力量讓那片枯竭的大地重生
但另一方面，如果有人把那股無限的力量，延續過去的做法拿來當成掠奪他人的武器，那就真的很危險
人類至今累積下來的知識與技術，變成任何思想的人都能使用，這件事在好處背後，也隱藏著相應的壞處……
任何人都能變成超級智能
比如說像葉門那種地方，沒有水、沒有自然資源、沒有食物，大家都在互相爭奪
就像「蟲毒」（讓多隻毒蟲互相殘殺、只留強者的巫術，比喻弱肉強食的極端生存狀態）一樣，一旦想退讓妥協就會先死
最後只剩下「不先下手就會被幹掉」這種思想的人能存活下來
接著這些人就會延續這套生存策略，開始利用AI
AI雖然有可能靠核融合之類的力量讓那片枯竭的大地重生
但另一方面，如果有人把那股無限的力量，延續過去的做法拿來當成掠奪他人的武器，那就真的很危險
人類至今累積下來的知識與技術，變成任何思想的人都能使用，這件事在好處背後，也隱藏著相應的壞處……
說到底，人類只是負責下指令
AI只是依循那個目的，用超級智能去執行而已
這裡就有個風險：如果AI是被某種宗教性狂熱邏輯所指揮，就可能徹底失控
AI只是依循那個目的，用超級智能去執行而已
這裡就有個風險：如果AI是被某種宗教性狂熱邏輯所指揮，就可能徹底失控
絕對該讓它毀滅
給我加速進化！
給我加速進化！
AI能夠自己做判斷這件事本身就是問題
一旦把判斷權交給AI，就等於已經放棄了控制
到時候就無法挽回了
一旦把判斷權交給AI，就等於已經放棄了控制
到時候就無法挽回了
現在AI的排名大概是 Claude → ChatGPT → Gemini → SpaceX那個（應該是指馬斯克的Grok）→ 其他，這樣的感覺？
這則話題的背景與論點
像Anthropic這樣準備上市的企業，在揭露文件中明確寫出「毀滅性風險」，與其說是特別的決心表態，其實更接近美國IPO募股說明書中慣例會列入的「風險因素（Risk Factors）」條款。討論串中，意見分成兩派：一派認為這番警告是「為了穩定股價而事先打的預防針」，另一派則把它當作真心的警鐘來看待。此外，一講到「人類滅亡」，大家往往會先想到金融資產化為烏有，但討論串中也有人指出，資源與能源枯竭才會直接讓近代文明停擺——即使同樣講「毀滅性風險」，不同論者設想的情境其實差異很大，這點很容易被忽略。
※本文摘錄自5ch（科學新聞＋版）討論串「【AI】美國Anthropic警告AI對人類有「毀滅性風險」 大型上市前夕」並加以整理摘要而成。
發佈留言