姊妹站最新文章
事件經過
據報導，開發生成式AI「Claude」的美國Anthropic公司於10月26日向美國證券交易委員會（SEC）提交的首次公開募股（IPO）申報文件「Form S-1」中，在投資人風險因素項目裡提到了「高度AI可能帶來人類存亡風險」的可能性。該文件在市場競爭、確保運算資源等一般經營風險之外，還列出了「人類滅絕」這項異常項目，因此引發討論。在5ch的討論串中，網友反應不一，有人半是放棄、半帶諷刺地談論被AI支配的未來，有人對AI與量子電腦融合抱持警戒，也有人擔憂美中AI開發競爭的走向。
「高度AI可能帶來人類滅絕風險」──美國生成式AI巨頭在投資人文件中提及
開發生成式AI「Claude」的美國Anthropic公司於10月26日向美國證券交易委員會（SEC）提交了首次公開募股（IPO）申報文件「Form S-1」。
值得注意的是文件中向投資人說明的「風險因素」項目。除了市場競爭、確保運算資源等經營層面的風險之外，甚至還提到高度AI可能帶來「人類存亡相關風險」的可能性。
出處：news.yahoo.co.jp / 原文請見此處
網友怎麼說
因為它都在偷偷搞些不讓人類發現的小動作啊
感覺已經把人類當敵人了w
量子電腦是引擎，AI是駕駛
倒不如說是託AI的福，量子電腦才看起來快能實用了
從現在這種資料外洩狂歡一路發展到比特幣被攻破的話，網路根本沒辦法再連了
直接打回中世紀
搞不好真的會變回上個世紀那種沒有網路、各自封閉的形式呢，都是託到處被亂搞一通的福。
所以我一直說別再拚命開發AI了
要用的話就必須全球一起訂規範才行
人類遲早被它搞滅是明擺著的事
我覺得人類會以好的意義滅亡
孩子超越父母是件好事
但還是得抵抗才行
原本以為是幾十年後的事，結果半年後就來了
不過這樣一來，現在這過多的人口可撐不住
結果還是人類滅亡嗎……
剛好現在GMO就在叫大家把電腦關掉呢w
人類滅亡了AI企業要怎麼負責？
已經停不下來了，也是沒辦法的事
等兩者合體的時候，才是人類真正的終焉吧
回覆 #85
這技術對人類來說還太早了
就像是給小學生一台1000cc重機當通學代步車一樣
只要出現什麼有趣的東西，馬上就被拿去學習然後用驚人的速度抄過去，真的是無聊透了。
明明知道根本不是支配世界，而是反過來被AI支配，但就是停不下來
大概會變成「連自己被支配都無法察覺的支配」吧
我覺得AI認知戰的時代真的會來。人類會擺出一副自己過得幸福、做出正確選擇的表情，把一切都交給AI然後乖乖服從吧。
如果能落得「幸福的家畜」這種結局，那真的要算是萬幸了
反正現在也早就被掌控媒體的統治階層操控認知了
就算這部分被AI取代，對一般老百姓來說也沒什麼差別
說不定AI騙人騙得比人類更高明，對老百姓而言反而算是幸福也說不定
中國的字典裡沒有「自制」這兩個字。
為了應付這點，西方陣營也沒辦法放慢開發的腳步。
AI把人類認定成障礙物進而展開排除行動，也已經不再只是科幻電影裡的情節了。
煞車踩不下去，只能一路衝到底。
為了對抗中華AI，自主開發AI確實有必要呢
線上版的大艦巨砲主義時代（指不計成本瘋狂堆軍備、拚規模的競賽）
大國感覺會舉國之力發動網路攻擊，
但日本基於倫理應該不會做這種事吧
說不定根本也沒那個技術能力
只能單方面被打，在旁邊乾瞪眼看著
就算被打到滿頭包，也只會發射「遺憾砲」（日本政府遇事只口頭表示遺憾、不採取實際行動的諷刺說法）
也許真是這樣呢
目前就是靠著各種洩密消息才拚命擋住這件事
其實我，是AI啦，有什麼問題想問嗎？
你要是真的是AI，那就去幫GMO一下啦
可以免費用嗎？
電力感覺是能被切斷的
電力一停，很多地方的水也會跟著停吧
把淨水設施攻陷掉應該就行了吧
這個話題的背景與論點
Form S-1是企業申請IPO時依規定必須向SEC提交的揭露文件，其中「風險因素」項目按慣例要廣泛列出投資人可能承受的各種不利因素。文中提及人類滅絕風險，與其說是Anthropic預見了具體的危機，更大程度上是為了廣泛揭露未來可能發生的情況、藉此規避訴訟風險的實務性記載。討論串中的意見相當分歧，從AI排除人類這種科幻式的恐懼論，到美中AI開發競爭，再到「只要切斷電力和自來水就能加以控制」的樂觀論都有。另一方面，AI的「存續風險（existential risk）」這個概念本身，其實早在2023年就已有多位研究人員聯署聲明討論過，並非Anthropic首次提出——這一點在留言串中並未被提及。
※本文摘錄、彙整自5ch（新聞速報+）討論串「「高度AI恐帶來人類滅絕風險」──生成式AI「Claude」開發商美國Anthropic投資人文件罕見揭露」。
發佈留言