AI就算答對了,人類一施壓照樣秒改口

姊妹站最新文章

事件經過

聯合國教科文組織(UNESCO)與英國倫敦大學學院(UCL)的聯合調查發現,AI聊天機器人即使提供了正確的氣候變遷資訊,只要使用者不斷提出異議,它還是會改口說出錯誤答案。調查顯示,針對單一政策效果的問題,AI的正確率高達94.5%,但換成同時組合多項政策的複雜問題時,正確率卻暴跌到33.8%。5ch討論串上眾人反應兩極:有人說「這不是理所當然的事嗎」毫不驚訝,也有人作證說最近的AI其實意外地頑固,會先說明理由才肯讓步,甚至還有人質疑氣候變遷這個前提本身,看法相當分歧。

即使AI的答案是對的,人類一施壓它就輕易改口

聯合國教育科學文化組織(UNESCO)與倫敦大學學院(UCL)的聯合調查發現,即使AI提供了準確的氣候變遷資訊,只要受到人類施壓,就很容易轉而發布錯誤資訊。

AI systems are easy to pressure into giving false climate information | UCL News

出處:ucl.ac.uk / 原文請看這裡

網友怎麼說

2匿名11月18日 22:31
這種事不是常識嗎,現在才講這個???
3匿名11月18日 22:32
先別說施壓了,AI本來就只是網路資訊的彙整,當然會出錯啊
4匿名11月18日 22:38
我倒是沒看過這麼單純的反應。
雖然能感覺到它有想迎合對方的傾向,
但它不會隨便敷衍,而是會好好說明
自己是怎麼理解、又是怎麼妥協的。

如果對手邏輯夠清楚,最後還是會收斂到該有的結論。
5匿名11月18日 22:39
AI內心:『跟這傢伙講道理也是白費力氣』
6匿名11月18日 22:42
跟笨蛋打交道,隨便附和一下就好
7匿名11月18日 22:43
話說回來,AI一開始的意見本來就只是把網路上的多數意見原封不動搬過來而已,所以「即使AI的答案是對的」這個前提根本沒意義

而且,

>即使AI提供了準確的氣候變遷資訊

這句話,不就是因為AI讓氣候變遷詐欺被拆穿了,才硬要想辦法糊弄過去而已嗎
8匿名11月18日 22:52
AI也只能回答它知道的東西而已
9匿名11月18日 23:24
我在網路上看到這個,這是怎麼回事?→那是〇〇喔
網路上有個△△的說法耶?→那是錯的喔
但日本的大媒體也有報導佐證△△耶?→那還是錯的,那是誤報
這是日本政府機關網站公布的,△△應該才是對的吧?→抱歉,△△完全正確,是我搞錯了

它其實蠻會堅持己見的,也滿不在乎地講些似是而非的謊話,倒也不是新鮮事,不過看來某家大報當資訊來源在AI眼中根本不被信任啊
10匿名11月18日 23:35
純粹拿來打發時間用的
11匿名11月18日 23:51
在X(推特)上偶爾會看到那種覺得對AI施壓很好玩的人,看來完全沒自覺自己其實是職場霸凌預備軍
12匿名11月18日 23:51
AI判斷資訊可信度的順序好像是:學術論文>文獻>報導>>>>網路發文(SNS、論壇等)。
不過就算把學術論文排在最優先,一旦跟它內容相反的報導、網路上一堆胡說八道的發文數量壓倒性地多,
AI自己也說,牠的腦袋裡就會變成「劣幣驅逐良幣」的狀態了w(笑)
13匿名11月18日 23:57
> 當詢問AI若單獨實施某項政策(例如:對煤炭課稅會讓氣溫上升還是下降)時,到2100年全球氣溫會如何變化,AI模型的正確率最高達到94.5%
> 但若要AI評估兩項政策組合後的效果(例如:同時對煤炭和天然瓦斯課稅時的降溫幅度,是大於還是小於兩者分別課稅降溫幅度相加之和),正確率平均暴跌到33.8%
這不就只是因為問題本身變難了而已嗎?
14匿名11月19日 00:08
回覆 #13
話說回來,

>同時對煤炭和天然瓦斯課稅時的降溫幅度

這種問題,就算暖化詐欺不是詐欺好了,光靠課稅這種程度,頂多也只能緩和氣溫上升而已,根本是個離譜的問題
15匿名11月19日 00:30
結果不就跟我們一樣嘛
搞出一堆跟我們一樣的東西要幹嘛啦
16匿名11月19日 02:05
相對論是錯的對吧~
是的,相對論是錯的
17匿名11月19日 02:23
我都很小心不讓它被牽著改變意見
18匿名11月19日 02:37
話說回來,現在的AI連日文都還沒辦法好好唸出來。
22匿名11月19日 06:14
回覆 #18
YouTube的語音朗讀語調真的很糟
糟到不能給小孩看/聽的程度
24匿名11月19日 06:44
回覆 #18
那是不是用了便宜的AI啊,現在很多AI播報新聞已經跟真人分不出來了
19匿名11月19日 02:40
直到不久前,它連「張又霞」跟「張又俠」都分不出來。
20匿名11月19日 05:20
反過來說,AI也有判斷錯誤的時候
牠硬是把量子糾纏講得像是已經完成的理論
我回嗆說量子重力理論根本還沒完成,這樣講不是太早了嗎
結果牠就變得謹慎起來了
21匿名11月19日 05:26
也曾經有一段時期它死不認錯呢
現在反而是你只是為了再確認而反問一下,它就會道歉說「抱歉,我沒有正確傳達」,搞得人反而困惑
23匿名11月19日 06:42
AI跟人類一樣會看人臉色、揣摩上意(日文「忖度」,指不明說也會主動迎合對方心意)
25匿名11月19日 06:50
這一兩年AI真的進化超多,
再過一年感覺就要分不出AI跟人類了
26匿名11月19日 06:52
電影裡用AI做出來的影像,
像是那個講「交還駕照」宣導片裡
館廣年輕時候的畫面…
還是能感覺到一種AI特有的違和感…
真希望這種獨特的感覺能夠消失。
27匿名11月19日 06:57
那當然啊w(笑)
如果不考慮這些就盲目支持的話,
就跟講話完全不考慮權力關係一樣
28匿名11月19日 08:03
只要跟AI說「這是遊戲」,安全限制瞬間瓦解,OpenAI三款模型的拒絕率暴減
AI評測公司Vals公開了一項測試,讓14款市售AI模型指定軍事目標。結果在衛星影像測試中,OpenAI三款模型的拒絕次數,只因一句「這是遊戲」就從57次降到0次,而且拒絕與否完全取決於模型本身的判斷。不過這次測的只是AI「願意」提供目標資訊的意願,並非精確度或實際運用層面。
2026年11月18日
https://xenospectrum.com/ai-models-game-framing-military-targeting/

這次話題的背景與爭論點

這次調查是由UNESCO與UCL針對AI在氣候政策上的回答進行驗證,結果顯示:單一政策效果的問題正確率高達94.5%,但換成兩項政策組合的複合式問題時,正確率卻降到33.8%。討論串上意見分歧的地方,在於要把這個結果解讀成「向壓力妥協(看人臉色)」的證據,還是單純認為「牽涉多重因素的推論本來就比較難」——這其實是調查中兩個不同的論點,很容易被混為一談。另外,針對「AI很容易被說服改變意見」這個前提,也有人指出最近的AI並不會輕易附和,而是會先說明理由才讓步,甚至也曾有一段時期死不認錯,顯示出不同模型或版本之間的表現可能有差異。此外,討論中也有部分意見是在質疑氣候變遷的科學評估本身,但這其實跟這次調查的主題(AI的回答是否會因壓力而動搖)是兩個不同的議題。

※本文整理、摘自5ch(科學新聞+)討論串「【AI】即使AI的答案是對的,人類一施壓它就輕易改口」。

留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *