姊妹站最新文章
事件經過
聯合國教科文組織(UNESCO)與英國倫敦大學學院(UCL)的聯合調查發現,AI聊天機器人即使提供了正確的氣候變遷資訊,只要使用者不斷提出異議,它還是會改口說出錯誤答案。調查顯示,針對單一政策效果的問題,AI的正確率高達94.5%,但換成同時組合多項政策的複雜問題時,正確率卻暴跌到33.8%。5ch討論串上眾人反應兩極:有人說「這不是理所當然的事嗎」毫不驚訝,也有人作證說最近的AI其實意外地頑固,會先說明理由才肯讓步,甚至還有人質疑氣候變遷這個前提本身,看法相當分歧。
即使AI的答案是對的,人類一施壓它就輕易改口
聯合國教育科學文化組織(UNESCO)與倫敦大學學院(UCL)的聯合調查發現,即使AI提供了準確的氣候變遷資訊,只要受到人類施壓,就很容易轉而發布錯誤資訊。
AI systems are easy to pressure into giving false climate information | UCL News
出處:ucl.ac.uk / 原文請看這裡
網友怎麼說
雖然能感覺到它有想迎合對方的傾向,
但它不會隨便敷衍,而是會好好說明
自己是怎麼理解、又是怎麼妥協的。
如果對手邏輯夠清楚,最後還是會收斂到該有的結論。
而且,
>即使AI提供了準確的氣候變遷資訊
這句話,不就是因為AI讓氣候變遷詐欺被拆穿了,才硬要想辦法糊弄過去而已嗎
網路上有個△△的說法耶?→那是錯的喔
但日本的大媒體也有報導佐證△△耶?→那還是錯的,那是誤報
這是日本政府機關網站公布的,△△應該才是對的吧?→抱歉,△△完全正確,是我搞錯了
它其實蠻會堅持己見的,也滿不在乎地講些似是而非的謊話,倒也不是新鮮事,不過看來某家大報當資訊來源在AI眼中根本不被信任啊
不過就算把學術論文排在最優先,一旦跟它內容相反的報導、網路上一堆胡說八道的發文數量壓倒性地多,
AI自己也說,牠的腦袋裡就會變成「劣幣驅逐良幣」的狀態了w(笑)
> 但若要AI評估兩項政策組合後的效果(例如:同時對煤炭和天然瓦斯課稅時的降溫幅度,是大於還是小於兩者分別課稅降溫幅度相加之和),正確率平均暴跌到33.8%
這不就只是因為問題本身變難了而已嗎?
話說回來,
>同時對煤炭和天然瓦斯課稅時的降溫幅度
這種問題,就算暖化詐欺不是詐欺好了,光靠課稅這種程度,頂多也只能緩和氣溫上升而已,根本是個離譜的問題
搞出一堆跟我們一樣的東西要幹嘛啦
是的,相對論是錯的
YouTube的語音朗讀語調真的很糟
糟到不能給小孩看/聽的程度
那是不是用了便宜的AI啊,現在很多AI播報新聞已經跟真人分不出來了
牠硬是把量子糾纏講得像是已經完成的理論
我回嗆說量子重力理論根本還沒完成,這樣講不是太早了嗎
結果牠就變得謹慎起來了
現在反而是你只是為了再確認而反問一下,它就會道歉說「抱歉,我沒有正確傳達」,搞得人反而困惑
再過一年感覺就要分不出AI跟人類了
像是那個講「交還駕照」宣導片裡
館廣年輕時候的畫面…
還是能感覺到一種AI特有的違和感…
真希望這種獨特的感覺能夠消失。
如果不考慮這些就盲目支持的話,
就跟講話完全不考慮權力關係一樣
AI評測公司Vals公開了一項測試,讓14款市售AI模型指定軍事目標。結果在衛星影像測試中,OpenAI三款模型的拒絕次數,只因一句「這是遊戲」就從57次降到0次,而且拒絕與否完全取決於模型本身的判斷。不過這次測的只是AI「願意」提供目標資訊的意願,並非精確度或實際運用層面。
2026年11月18日
https://xenospectrum.com/ai-models-game-framing-military-targeting/
這次話題的背景與爭論點
這次調查是由UNESCO與UCL針對AI在氣候政策上的回答進行驗證,結果顯示:單一政策效果的問題正確率高達94.5%,但換成兩項政策組合的複合式問題時,正確率卻降到33.8%。討論串上意見分歧的地方,在於要把這個結果解讀成「向壓力妥協(看人臉色)」的證據,還是單純認為「牽涉多重因素的推論本來就比較難」——這其實是調查中兩個不同的論點,很容易被混為一談。另外,針對「AI很容易被說服改變意見」這個前提,也有人指出最近的AI並不會輕易附和,而是會先說明理由才讓步,甚至也曾有一段時期死不認錯,顯示出不同模型或版本之間的表現可能有差異。此外,討論中也有部分意見是在質疑氣候變遷的科學評估本身,但這其實跟這次調查的主題(AI的回答是否會因壓力而動搖)是兩個不同的議題。
※本文整理、摘自5ch(科學新聞+)討論串「【AI】即使AI的答案是對的,人類一施壓它就輕易改口」。
發佈留言