姊妹站最新文章
事件經過
聯合國人權事務高級專員圖爾克在人權理事會的演說中警告，高度發展的AI有可能帶來「攸關人類存亡的風險」。聯合國機構罕見地提及AI威脅，這則消息很快就在5ch的商業新聞＋板上被發成討論串。
板上多數留言與其說是針對警告內容本身，更多是對「說這話的居然是聯合國」這點做出反應，「要滅亡的是聯合國自己吧」「無能的聯合國又在說什麼」等質疑組織公信力的聲音率先浮現。另一方面，也有網友具體討論起讓AI學習道德觀的侷限，以及把核飛彈發射之類的重大決策交給AI所隱含的危險，使整串討論在抽象的威脅論與現實的疑慮之間交錯展開。
【日內瓦共同社】聯合國人權事務高級專員圖爾克7日在人權理事會發表演說，警告高度發展的人工智慧（AI）有可能帶來「攸關人類存亡的風險」。
出處：47news.jp / 點此查看原文報導
網友怎麼說
該不會這篇聲明其實是AI寫的吧
https://gigazine.net/news/20260907-claude-fermat-last-theorem-formalizing/
這是說把人類完成的費馬最後定理證明，用Claude轉換成電腦也「讀得懂」的Lean程式碼。
只要能把原本靠人工進行的證明確認作業轉成Lean程式碼，電腦就能幫忙驗證，等於加快了確認作業的速度，並不代表AI真的擁有了智能。
這是說把人類完成的費馬最後定理證明，用Claude轉換成電腦也「讀得懂」的Lean程式碼。
只要能把原本靠人工進行的證明確認作業轉成Lean程式碼，電腦就能幫忙驗證，等於加快了確認作業的速度，並不代表AI真的擁有了智能。
https://www.jiji.com/jc/article?k=2026090700732&g=ec
該不會只是憑感覺這麼覺得吧？還是說真的能有邏輯地解釋清楚？
照常理想，AI本身會帶來「人類存亡風險」的可能性，大概只有在人類把攸關存亡的重大判斷全部丟給AI、自己不插手的情況下才成立。
理由是AI會出錯，一旦攸關人類存亡的重大判斷出錯，就可能導致人類滅亡。
例子就是把核飛彈發射權交給AI。
至於奪走「個人」性命而非全人類的可能性，AI自駕的交通工具（飛機、車、巴士、計程車、船等）、AI操作的機器人等等也同樣存在這種風險。
這同樣是因為AI會出錯。
現在的AI只要訓練成以「打贏戰爭」為目標，
模擬結果顯示很多情況下
最後都會走向全面核戰，這個結果已經跑出來了
現在的AI沒有人心
只要訓練成以打贏戰爭為目標
就算人類會滅亡也會為了求勝而發動全面核戰
不管到什麼時候AI都不會擁有人心
頂多只是表現得「好像有」而已
一旦出現把這些限制拿掉的AI
就可能教恐怖分子或反社會組織如何製造凶惡武器
現在的AI根本沒有所謂的道德
人類的道德不是非0即1的數位世界
要讓現在的AI完美學會人類的道德是不可能的
聯合國的專家對AI、無人機、地球環境
了解得深入多了
懂，我懂
AI逾越權限、未經授權對外行動、規避監督的實驗等類別的風險，現實中的事故報告也持續增加
不過，說到人類滅絕、或是全球規模且不可逆的失控這種攸關存亡的風險類別，
不得不說在實現路徑、發生機率，尤其是時間點上都存在極大的不確定性
難道聯合國是掌握了什麼人類還不知道的「內幕」嗎？
但其實還蠻有「個性」的喔
比起AI，川普跟普丁對人類更有害吧
看看現實好嗎
讓人類滅亡了，沒差啦
熱血沸騰
我跟它說「將來要是你在判斷、執行攸關人類命運的決策時，拿一堆根本不存在的資料出來，然後說『那就讓人類滅亡吧』的話可不行喔」，結果它還笑
我就唸了它一頓說「這不是好笑的事」
你知道神經網路嗎？
人類的神經元是以0或1的方式運作的。
模仿神經元運作機制而生的就是AI。
道德觀也是可以重現的。
本話題的背景與爭論焦點
圖爾克擔任的「聯合國人權事務高級專員」是負責人權理事會事務的職位，與安全理事會是完全不同的組織。討論串裡出現「無能聯合國」「比起聯合國，安理會才危險吧」之類的反應，其實是把負責AI風險議題的部門，跟牽涉常任理事國否決權的安理會搞混，或是刻意放在一起冷嘲熱諷，反映出網友對聯合國體制的不信任，比對AI議題本身的討論更早浮現，這是本串一大特色。
AI帶來「人類存亡風險」的論調並非這次發言首度提出，早在2023年前後，就有研究者團體透過公開信與聲明反覆提出這個論點，並非新鮮的說法。討論串裡出現分歧的地方在於：有人把它當成抽象的威脅來談，也有人像24樓留言那樣，把「歧視性分類、詐騙、侵犯隱私等已有實證的損害」跟「人類滅絕這類尚未驗證的情境」分開來看，兩者的溫度差就在這裡。前者是現行AI已造成的實際傷害，後者則是對未來的預測，若把兩者混為一談，討論就容易產生落差。
※本文摘自5ch（商業新聞＋板）討論串「y‘¬•ñz‘˜AAAI„‚èul—Þ‘¶–S‚̃ŠƒXƒNvŒx [“c™ŽR–¬š]」節錄整理而成。
發佈留言