姊妹站最新文章
事件經過
一篇報導指出，非法入侵事件激增的背後，其實是從偵察、入侵到竊取資料全程都由AI自動完成的現實，而性能強大的中國製LLM（大型語言模型）正免費流通，這篇報導在5ch上引發熱議。討論串中不少人指出，即使是低規格電腦也能運作的高性能開源LLM被免費公開，降低了網路攻擊的學習門檻；但也有人反駁「把黑手簡單歸咎於中國」的說法，認為「不過是拿別國的LLM當墊腳石，實際動手的未必是中國人」，技術層面的實況與過於簡化的解讀之間的落差，成了討論焦點。
非法入侵激增背後「中國製LLM」崛起，AI自動執行偵察→入侵→竊取資料「沒被洩漏資料的人才稀奇」專家示警，該如何應對？
10/18（日）17:00發布
高知電視台
出處: news.yahoo.co.jp / 點我看原文
網友怎麼說
Qwen本來就沒辦法上網啦，沒有那種功能。用付費API應該就可以
順便一提，美國那些大牌LLM全部都是預設開啟（上網功能）的
順便一提，美國那些大牌LLM全部都是預設開啟（上網功能）的
回覆 #7
嗚…想留言但還是算了ｗ
嗚…想留言但還是算了ｗ
把來自中國的連線擋掉就解決了
回覆 #28
很容易就能繞過去（經由其他國家轉接）啊
很容易就能繞過去（經由其他國家轉接）啊
雖然是外行人的想法，但先用那個中國製的東西找出脆弱的地方不就好了嗎
為什麼不這麼做
為什麼不這麼做
回覆 #31
因為就算因非法入侵而資料外洩，也沒人要負責啊
因為就算因非法入侵而資料外洩，也沒人要負責啊
中華AI根本不在乎善惡，是最糟糕的犯罪AI
也就是說中共也不在乎ｗ
也就是說中共也不在乎ｗ
回覆 #47
不，那部分應該有設下嚴格限制吧
不然的話國家會立刻出手打壓的
不，那部分應該有設下嚴格限制吧
不然的話國家會立刻出手打壓的
回覆 #30
就是說啊
要切斷跟中國的連線才不簡單
得連中國跟其他國家之間的連線都切斷才行
就是說啊
要切斷跟中國的連線才不簡單
得連中國跟其他國家之間的連線都切斷才行
回覆 #53,30
但頻寬會變窄吧？
但頻寬會變窄吧？
這也表示它性能真的很強
日本的LLM根本沒人提起
真可惜啊
日本的LLM根本沒人提起
真可惜啊
回覆 #57
因為日本根本不會用美國的LLM來做蒸餾（distillation）嘛
因為日本根本不會用美國的LLM來做蒸餾（distillation）嘛
把「背後是中華LLM」直接理解成「黑手就是中國」，這種識讀能力的人在日本佔大多數，真的很危險
不過駭客集團裡確實有不少可能是中國人就是了
不過駭客集團裡確實有不少可能是中國人就是了
回覆 #59
問題就在於中國沒有識讀能力到會拿別國的大型語言模型當墊腳石吧
問題就在於中國沒有識讀能力到會拿別國的大型語言模型當墊腳石吧
回覆 #67
要設什麼樣的限制？
禁止開源嗎？
要設什麼樣的限制？
禁止開源嗎？
回覆 #88
開源？
這篇報導裡說的LLM，是指在本機環境執行的意思嗎？
開源？
這篇報導裡說的LLM，是指在本機環境執行的意思嗎？
本機LLM到底是什麼、是誰做的又公開出來的、問題出在哪裡
如果不好好整理清楚再報導，誤解又會擴散開來，搞出奇怪的管制，結果只有日本落後
如果不好好整理清楚再報導，誤解又會擴散開來，搞出奇怪的管制，結果只有日本落後
回覆 #95
＞本機LLM到底是什麼，
不需要連網。可以理解成完全下載下來、在本機端運作的AI。
＞是誰做的又公開出來的，
很多單位都有公開，像Google也有公開。能在低規格環境運作、分數又高的AI，大多是中國製的。
＞問題出在哪裡
駭客那一方的學習成本變低了。我覺得問題在於駭客工具變得很容易製作出來。
＞本機LLM到底是什麼，
不需要連網。可以理解成完全下載下來、在本機端運作的AI。
＞是誰做的又公開出來的，
很多單位都有公開，像Google也有公開。能在低規格環境運作、分數又高的AI，大多是中國製的。
＞問題出在哪裡
駭客那一方的學習成本變低了。我覺得問題在於駭客工具變得很容易製作出來。
一般人買得起的GPU（24～48GB）能用那麼高性能的LLM嗎？
不是得有商用GPU伺服器才辦得到嗎？
不是得有商用GPU伺服器才辦得到嗎？
回覆 #96
最近主記憶體的使用效率也變高了，所以相當聰明的大型模型用一般PC也能跑
最近主記憶體的使用效率也變高了，所以相當聰明的大型模型用一般PC也能跑
回覆 #96
我覺得性能已經很夠了。
尤其是能獨佔資源這點特別強。
我覺得性能已經很夠了。
尤其是能獨佔資源這點特別強。
中國製AI便宜到不像話啊。
回覆 #111
因為是本機AI所以免費啦ｗ
因為是本機AI所以免費啦ｗ
回覆 #111
與其說便宜，根本是免費發放的
剩下就只要自己拿去訓練成駭客用途而已
與其說便宜，根本是免費發放的
剩下就只要自己拿去訓練成駭客用途而已
數位廳的發言應該沒有專家出來批評吧
你覺得為什麼
因為大家都只在乎自己啊
你覺得為什麼
因為大家都只在乎自己啊
回覆 #117
只是講了
「不要重複使用密碼」
「使用多重要素驗證」
「留意可疑郵件」
這三個正確的防護對策就被罵，數位大臣也太可憐了
只是講了
「不要重複使用密碼」
「使用多重要素驗證」
「留意可疑郵件」
這三個正確的防護對策就被罵，數位大臣也太可憐了
回覆 #125
問AI的話，這就是它最先回答的三件事，笑死
問AI的話，這就是它最先回答的三件事，笑死
回覆 #125
個人再怎麼做對策，企業那邊還是會洩漏資料，根本沒意義
這樣講下去就變成乾脆別登錄個人資料了
個人再怎麼做對策，企業那邊還是會洩漏資料，根本沒意義
這樣講下去就變成乾脆別登錄個人資料了
用本機AI就能發揮出那種程度的性能，到底是多大規模的LLM？
回覆 #120
我覺得其實沒做到那麼高深的事。
就只是用暴力窮舉的方式找出漏洞，然後朝那裡攻擊而已。
所以並不是能入侵國防部的電腦。
也不是能入侵銀行的帳務核心系統。
只是從數百萬家企業裡，找出有漏洞的那些而已。
我覺得其實沒做到那麼高深的事。
就只是用暴力窮舉的方式找出漏洞，然後朝那裡攻擊而已。
所以並不是能入侵國防部的電腦。
也不是能入侵銀行的帳務核心系統。
只是從數百萬家企業裡，找出有漏洞的那些而已。
這個話題的背景與討論焦點
這次報導指出的重點，是中國企業免費公開的開放權重（open-weight）大型語言模型，任何人都能下載使用。正如討論串中有人指出的，「製作模型的國家」和「拿它來發動攻擊的人的國籍」是兩回事，把「中國製LLM＝中國政府所為」直接畫上等號，很可能是過於草率的結論。另一方面，AI取代了暴力窮舉找漏洞、自製駭客工具這些工作，使得技術能力較弱的攻擊者也能對大量企業下手，這點就如專家所指出的，應該被視為真實存在的威脅。報導中數位大臣提出的「不要重複使用密碼」等對策，就個人層面而言是正確的，但正如討論串中也提到的，許多資料外洩其實源自企業端系統的漏洞，因此光靠使用者個人的對策，仍無法完全防堵這種結構性問題。
※本文節錄並彙整自5ch（新聞速報+）討論串「【非法入侵】激增背後「中國製LLM」崛起，AI自動執行偵察→入侵→竊取資料「沒被洩漏資料的人才稀奇」」編寫而成。
發佈留言