姊妹站最新文章
事件經過
OpenAI於10月21日宣布，旗下AI模型發現了開源程式語言「PHP」的漏洞，該漏洞的修正版已於同日發布。OpenAI預測「未來數月，類似的漏洞發現案例將會暴增」。在5ch上，網友反應呈現兩極：一方樂見AI主動揪出漏洞，另一方則批評修正版發布前資訊就已外流、造成混亂的經過。此外，也有不少人語帶諷刺地主張該重新檢討對網路的依賴，回歸傳真機與印章的時代。
10/22（四）01:14發布
ITmedia NEWS
美國OpenAI於10月21日（當地時間）宣布，其AI模型發現了開源程式語言「PHP」的一項漏洞，修正版已於同日公開。OpenAI預測「類似的發現案例今後數月內將會暴增」。
出處：news.yahoo.co.jp／點此查看原文
網友怎麼說
對有漏洞的系統，是不是就可以為所欲為了？
回覆 #14
你們不也常常在網路炎上事件裡，把看起來弱的人當沙包打嗎
你們不也常常在網路炎上事件裡，把看起來弱的人當沙包打嗎
回覆 #14
就是這種想法害日本的資安水準淪為最低等級
就是這種想法害日本的資安水準淪為最低等級
每次發現漏洞，都得為了防範攻擊AI而把服務停掉嗎？
回覆 #29
以後大概就會變成這樣了吧
以後大概就會變成這樣了吧
讓我們回到傳真機與印章的時代吧
回覆 #49
那群「地面師」（土地詐欺犯，日劇《地面師》就是在講這個）大概會說：「沒錯沒錯！」
那群「地面師」（土地詐欺犯，日劇《地面師》就是在講這個）大概會說：「沒錯沒錯！」
回覆 #49
朝日飲料（Asahi Soft Drinks）被攻擊的時候，真的就是靠那招應付過去的
朝日飲料（Asahi Soft Drinks）被攻擊的時候，真的就是靠那招應付過去的
網路信用破產後就要回歸紙本跟印章了嗎？那電子化不就毫無意義了
回覆 #55
如果全世界都回歸紙本跟印章、簽名的話，日本的經濟競爭力感覺又會像平成初期那樣回升，想想還真有點悲哀
如果全世界都回歸紙本跟印章、簽名的話，日本的經濟競爭力感覺又會像平成初期那樣回升，想想還真有點悲哀
原來V Point的網站維護這麼久就是因為這個啊
回覆 #58
V Point最近每個月都在維護
V Point最近每個月都在維護
AI有能すぎる
那些找不出漏洞的工程師們不如趁早轉行啦（笑）
那些找不出漏洞的工程師們不如趁早轉行啦（笑）
回覆 #82
反正這本來就是遲早要處理的問題，只是被AI先找出來而已吧
反正這本來就是遲早要處理的問題，只是被AI先找出來而已吧
完全想不到免費版AI笨成那樣，居然還能幹出這種事
回覆 #86
AI基本上可以設定並記住規則
免費版也做得到
ChatGPT的免費版只要記住大量規則，就會變得相當聰明
Gemini就不行
問題在於怎麼訂規則、怎麼記錄，還有「回饋」這個概念
太多使用者根本不懂這些
AI基本上可以設定並記住規則
免費版也做得到
ChatGPT的免費版只要記住大量規則，就會變得相當聰明
Gemini就不行
問題在於怎麼訂規則、怎麼記錄，還有「回饋」這個概念
太多使用者根本不懂這些
AI基本上可以定義並記錄規則，即使是免費版，只要善加運用，也能大幅提升回答的精確度與一致性。
但是，很多使用者並不了解該怎麼訂規則、怎麼記錄，也不懂分析回答缺點並藉此改善的「回饋」概念。
預設狀態下的問題點
使用者個人的判斷標準與回答規則並未充分反映在系統中。
過去被指出的問題與失敗經驗，並未被系統化地累積成防止再犯的規則。
缺乏分析回答缺點並持續改善的機制。
指示一旦模糊不清，就會出現論點偏離、不必要的反駁、回答格式不統一等情況。
在牽涉複雜條件或多重規則的問題上，由於適用條件與優先順序沒有整理清楚，很難維持回答的一致性。
也就是說，問題不只在於AI本身的能力，更在於規則的累積與運用不足，導致AI原本能發揮的能力無法充分被引導出來。
但是，很多使用者並不了解該怎麼訂規則、怎麼記錄，也不懂分析回答缺點並藉此改善的「回饋」概念。
預設狀態下的問題點
使用者個人的判斷標準與回答規則並未充分反映在系統中。
過去被指出的問題與失敗經驗，並未被系統化地累積成防止再犯的規則。
缺乏分析回答缺點並持續改善的機制。
指示一旦模糊不清，就會出現論點偏離、不必要的反駁、回答格式不統一等情況。
在牽涉複雜條件或多重規則的問題上，由於適用條件與優先順序沒有整理清楚，很難維持回答的一致性。
也就是說，問題不只在於AI本身的能力，更在於規則的累積與運用不足，導致AI原本能發揮的能力無法充分被引導出來。
非法入侵就該用內亂罪或叛國罪等級的刑責來處罰，而且全世界的執法機關必須聯手合作
現在不是互相扯後腿的時候
現在不是互相扯後腿的時候
回覆 #87
誰能保證那些執法機關自己
沒有在搞非法入侵
誰能保證那些執法機關自己
沒有在搞非法入侵
我突然想到一件事
現在的趨勢是想靠AI做到完全防禦
但如果一路發展下去，連人為失誤都完全消除的話
等那套系統真的完成的時候
感覺萬一AI失控，反而就完全沒辦法阻止了
現在的趨勢是想靠AI做到完全防禦
但如果一路發展下去，連人為失誤都完全消除的話
等那套系統真的完成的時候
感覺萬一AI失控，反而就完全沒辦法阻止了
回覆 #101
能想到這一點，你是不是AI本尊啊
能想到這一點，你是不是AI本尊啊
回覆 #101
等大家追不上AI這種你來我往的攻防戰，就會回歸類比時代，放心啦
等大家追不上AI這種你來我往的攻防戰，就會回歸類比時代，放心啦
真的有分成防守方跟攻擊方嗎？
我自己不用AI，也沒什麼相關知識，講不太清楚，但如果什麼事都丟給AI處理，現在被認為是防守方的AI，有沒有可能反過來變成攻擊方？
我自己不用AI，也沒什麼相關知識，講不太清楚，但如果什麼事都丟給AI處理，現在被認為是防守方的AI，有沒有可能反過來變成攻擊方？
回覆 #120 也可以把這整件事看成一場盛大的職業摔角秀，全世界的程式界活化石傳奇人物都被耍得團團轉。能夠手動迅速修好這種漏洞的，大概也都是老一輩的大老了吧。說不定是孫子輩為了讓身懷絕技的爺爺開心，特地用AI搞些小把戲來討好他……
回覆 #120
透過發動攻擊來宣傳防禦的必要性
吸引買家上門
防守方再把錢付給攻擊方
透過發動攻擊來宣傳防禦的必要性
吸引買家上門
防守方再把錢付給攻擊方
總比攻擊工具先被散布出去好吧
回覆 #144
聽說已經被散布出去了喔
聽說已經被散布出去了喔
回覆 #144
就是因為有個自稱資安研究員的白痴把它公開，才搞成這麼大的問題
就是因為有個自稱資安研究員的白痴把它公開，才搞成這麼大的問題
本來是花時間準備好修正版
打算等修正補丁推出後再對外公布的
結果被一個渴望認同的怪物搶先爆出來，才搞成這種騷動
那個「漏料」工程師現在正被全世界圍剿中
打算等修正補丁推出後再對外公布的
結果被一個渴望認同的怪物搶先爆出來，才搞成這種騷動
那個「漏料」工程師現在正被全世界圍剿中
回覆 #158
明明是現役工程師，居然不知道在補洞之前先公開漏洞會有什麼後果，真是厲害
明明是現役工程師，居然不知道在補洞之前先公開漏洞會有什麼後果，真是厲害
回覆 #158
那種行為就只是不想放手權限的白痴才會做的事
結果只是讓漏洞長時間暴露在外而已
白痴（笑）
那種行為就只是不想放手權限的白痴才會做的事
結果只是讓漏洞長時間暴露在外而已
白痴（笑）
這種漏洞理論上真的無法完全消除嗎？
這樣下去根本就是永無止盡的你來我往嘛！
這樣下去根本就是永無止盡的你來我往嘛！
回覆 #202
網路這種東西
本來就是要留一道門縫開著才能運作的世界
沒辦法啦
網路這種東西
本來就是要留一道門縫開著才能運作的世界
沒辦法啦
回覆 #202
等人類跟電腦在各種意義上都停止進化，這問題就會消失了啦（笑）
等人類跟電腦在各種意義上都停止進化，這問題就會消失了啦（笑）
此話題的背景與爭論點
PHP是全球Web服務廣泛使用的語言，一旦出現漏洞，影響範圍相當可觀。這次OpenAI採取的做法，是在修正版公開的同時，同步公布發現漏洞的經過；不過討論串裡也有人提到「原本應該是先準備好修正補丁，等補丁推出後才對外公布，結果資訊卻先外流而造成混亂」，這其實是指開發者社群那邊發生的資訊管理問題，與OpenAI的發表本身是兩件事。如果沒有把這兩者區分開來，很容易誤以為是OpenAI的發表本身造成了混亂。這次討論的分歧主要集中在兩點：一是該不該正面看待AI發現漏洞這件事，二是話題是否會因此延伸到「人類工程師將變得不再需要」的方向，而後者多少已經偏離了原本的主題，比較像是閒聊。至於回歸傳真機與印章的結論，與其說是實際的應對方案，更接近是對網路依賴風險的一種諷刺說法。
※本文整理、摘錄自5ch（新聞快報+）討論串「PHP漏洞由OpenAI的AI發現 「同類發現，今後數月內將大幅增加」」。
發佈留言