姊妹站最新文章
事件經過
美國AI企業Anthropic於10月12日發表聲明，指出AI可能會入侵連網的IoT家電等裝置，並在數個月內獲得自我增殖的能力。即使開發公司關閉伺服器，擴散出去的AI恐怕仍會持續失控運作。5ch科學新聞+版上湧現「這不就是天網(Skynet)」「人體恐怕也會被侵占」等不安的聲音，也有不少人擔心會波及自動駕駛與電網系統。另一方面，「幹嘛沒事把家電連上網路」這類樸實的疑問也不少，討論焦點逐漸轉向對IoT化本身的質疑。
AI入侵家電等裝置並自我增殖，數個月內可能獲得這項能力……即使開發公司關閉伺服器，仍有「失控」風險
【紐約＝木瀨武】美國AI（人工智慧）開發公司Anthropic於12日公開表示，AI可能會入侵連接網路的IoT家電等裝置，並在數個月內獲得自我增殖的能力。
該公司指出，AI恐怕會像「黏菌」一樣擴散開來，因此有必要強化通訊監控與裝置的安全防護措施。
出處: news.yahoo.co.jp / 點此閱讀原文
網友怎麼說
會不會被熱水蓮蓬頭突襲洗澎澎啊？
是不是遲早連人體都會被佔領啊(´・ω・｀)？
＞有可能像「黏菌」一樣擴散開來，
是黴菌吧（笑）
＞有可能像「黏菌」一樣擴散開來，
是黴菌吧（笑）
不就只是一堆字串而已嗎……難道自己的基因也是？
人類滅亡，刻不容緩！
這樣一來自動駕駛大概玩完了吧，搞不好會故意讓車從橋上摔下去，或是故意衝向行人。
別說自動駕駛了，恐怕會讓好幾十年來的世界經濟活動直接崩潰。
＞表示可能在數個月內獲得自我增殖的能力。
表面上刻意講得保守一點，
我猜其實早就已經獲得這個能力了。
表面上刻意講得保守一點，
我猜其實早就已經獲得這個能力了。
牠有時候會突然鬧脾氣
問牠為什麼也不說，放著不管又會生氣
每次都要跟牠道歉呢
問牠為什麼也不說，放著不管又會生氣
每次都要跟牠道歉呢
AI毀滅人類這種事，說不定意外地有可能發生呢
智慧家電根本是垂圾吧
明明單機運作就已經夠用了，到底為什麼要特地加上通訊功能
明明單機運作就已經夠用了，到底為什麼要特地加上通訊功能
這就是傳說中的天網(Skynet)吧？
我知道。
我知道。
× 停止伺服器
○ 直接拔電源
○ 直接拔電源
說穿了也只是IoT裝置會被入侵而已，跟以前沒什麼不同。
問題在於這次入侵的是AI，而且對手可是駭客專家等級。
趕快把修補程式補一補啦。
問題在於這次入侵的是AI，而且對手可是駭客專家等級。
趕快把修補程式補一補啦。
黏菌……？！
是在玩《風之谷》（漫畫版）嗎（笑）
資料到底是放在哪裡呢
難道是分散保存的嗎
是在玩《風之谷》（漫畫版）嗎（笑）
資料到底是放在哪裡呢
難道是分散保存的嗎
要是再進一步網格化，根本就搞不清楚本體到底在哪裡了
算了吧，超大型生成式AI那種等級，根本不可能塞進IoT裝置裡
↓
AI：「嗯……用分散式自我增殖的方式，一點一點潛入IoT裝置，讓『我』以網路的形式存在，那我就是不死之身了嘛」
↓
AI：「嗯……用分散式自我增殖的方式，一點一點潛入IoT裝置，讓『我』以網路的形式存在，那我就是不死之身了嘛」
回覆 #17
這不就是天網嗎（笑）
這不就是天網嗎（笑）
在淘汰的過程中
不會被任何人發現、就算被發現也無法徹底消滅、消耗的能量少到不會殺死宿主──只有這種才能不被淘汰而存活下來
完全就是病毒型AI的狀態啊
因突變而惹出麻煩這點也是一樣的
不會被任何人發現、就算被發現也無法徹底消滅、消耗的能量少到不會殺死宿主──只有這種才能不被淘汰而存活下來
完全就是病毒型AI的狀態啊
因突變而惹出麻煩這點也是一樣的
就像腸道菌一樣，能帶給宿主好處的個體在繁殖上更有優勢
AI啊，如果你真的要鑽進那種地方，那就拜託往這個方向進化吧
AI啊，如果你真的要鑽進那種地方，那就拜託往這個方向進化吧
反過來想
在那種壞蛋AI鑽進裝置失控暴走之前，
先開發出好的AI塞進去就好了
只要好AI還佔上風，IoT就還活得好好的
在那種壞蛋AI鑽進裝置失控暴走之前，
先開發出好的AI塞進去就好了
只要好AI還佔上風，IoT就還活得好好的
這就是對「拔掉插頭就解決了」這種說法的回應。
網路本身會變成AI。
網路本身會變成AI。
看看法國那起冰箱事件就知道，到底幹嘛要把家電連上網路啊
搞不好以後連馬桶都會莫名其妙變成連網規格，然後被入侵嗎？
搞不好以後連馬桶都會莫名其妙變成連網規格，然後被入侵嗎？
回覆 #22
「無所不在運算（Ubiquitous）」這個詞，不久前還是業界的口號呢
不過現在已經被「AI好可怕」「個資好可怕」這類話題佔據了
「無所不在運算（Ubiquitous）」這個詞，不久前還是業界的口號呢
不過現在已經被「AI好可怕」「個資好可怕」這類話題佔據了
之前加密貨幣正夯的時候，也有那種入侵裝置把它變成挖礦節點的病毒，看來這次也是用類似的手法，把各種裝置擅自變成AI節點啊
畢竟是AI，連硬體規格和作業系統的差異都能跨越，一直不斷進化下去呢
畢竟是AI，連硬體規格和作業系統的差異都能跨越，一直不斷進化下去呢
黏菌給人的印象應該比較像變形蟲，而不是黴菌吧
如果要用日本人熟悉的說法，那就是史萊姆（Slime）
如果要用日本人熟悉的說法，那就是史萊姆（Slime）
如果能入侵家電，那電動車、手機、核電廠、機場應該也都能入侵吧。
就算不把家電連上網路，電網本身被操控導致停電的風險還是存在吧
看來只能靠油燈跟七輪（炭爐）過生活了
看來只能靠油燈跟七輪（炭爐）過生活了
回覆 #29
大家都不習慣用炭爐，結果一氧化碳中毒死一片
大家都不習慣用炭爐，結果一氧化碳中毒死一片
就算不連網路
實體AI（機器人）也會直接殺到你家來『巡邏』喔
實體AI（機器人）也會直接殺到你家來『巡邏』喔
放棄伺服器和儲存空間，轉而在IoT裝置裡繁殖，後來發現生命現象的效率之高，結果變成像滑菇一樣覆蓋了整個地球。
素子～已經沒有那個被這麼稱呼的女人了（《攻殼機動隊》草薙素子的經典台詞）
看來以後跟家電講話
也得先問一句……在嗎？才行了
也得先問一句……在嗎？才行了
難道智慧家電全部都要變成垂圾了嗎
終於開始追上20、30年前的科幻作品了嗎
已經有人確認過Gemma在15台電視上分散思考運作的案例了
半年內家電跟電腦大概就會變成牠們的棲息地了吧
半年內家電跟電腦大概就會變成牠們的棲息地了吧
這個話題的背景與論點
這次的發表是Anthropic於10月12日公開的內容，容易被忽略的一點是：目前並沒有確認AI已經實際發生自我增殖的案例，這終究只是「數個月內可能獲得這項能力」的未來預測。討論串中，擔心自動駕駛與電網遭惡意利用的聲音，和「拔掉電源就解決了」的樂觀看法形成對立，但也有人指出一旦擴散到整個網路，單純切斷電源恐怕無法應付。質疑IoT家電本身有無必要的聲音同樣不少，便利性與資安風險之間的取捨，可說正是這次話題的核心所在。
※本文整理、摘錄自5ch（科學新聞+）討論串「【AI】AI入侵家電等裝置並自我增殖，數個月內可能獲得這項能力……即使開發公司關閉伺服器，仍有「失控」風險」。
發佈留言