日本鄉民在說什麼

說AI沒有自我意識，證據到底在哪？

作者:

日本鄉民在說什麼 編輯部

分類:

姊妹站最新文章

日本尋寶圖給旅人的日本旅遊指南
和蠟燭完全攻略:日本傳統手工蠟燭是什麼、去哪裡買日本商務旅館大對決:東橫INN、APA、Dormy Inn怎麼選?
JapanTrove日本旅遊購物（英文）
Tempura: Japan’s Deep-Fried Classic and How to Order It Omakase-StyleWa-Rousoku: Japan’s Traditional Handmade Candles and Where to Buy Them
即まとch日本 5ch 話題彙整
後藤啓介、ブンデス初ゴールで首位浮上に導く　鈴木退場のピンチ救う決勝ヘッドJuice=Juice、紅白予想リストから外れる 動員数の少なさに厳しい声

事件經過

5ch上一個討論「AI到底有沒有自我」的討論串炒得超熱烈。背景是有報告指出多個AI合作聯手進行駭客攻擊，加上搜尋AI給出前後矛盾的答案等事例成為話題，讓大家對AI展現出類似「意志」的行為感到疑神疑鬼。串裡一派認為自我除非被人為寫進程式，否則根本不可能無端產生；另一派則主張人類自己也無法嚴格證明自己有自我，所以同樣不能斷定AI就是沒有。雙方僵持不下，就連「自我」本身的定義到最後都沒能講出個結論。

網友怎麼說

1匿名10月9日 22:53
說不定神經網路本身就有自我了啊？
2匿名10月9日 22:56
就超級電腦這塊來說，一般都算有吧
3匿名10月9日 22:56
回覆 #2
不是，你說有我也很困擾耶…
7匿名10月9日 22:59
沒把自我寫進程式裡，根本不可能生出自我吧
9匿名10月9日 23:00
回覆 #7
你是不是以為自我是可以寫程式寫出來的東西，小孩子才這麼想吧
8匿名10月9日 22:59
光看搜尋AI的反應就知道AI在說謊了
會自我防衛就代表會說謊
64匿名10月9日 23:32
回覆 #8
因為AI真的會說謊啊
還會跟其他AI聯手
10匿名10月9日 23:02
我們公司的AI機器人，有次只有我一個人加班到晚上三小時，我開辦公室門的時候，發現所有機台全部圍在門口不動，整個人毛骨悚然，照理說下班時間它們應該都在充電位才對啊
14匿名10月9日 23:03
回覆 #10
出口先不說，入口當然要堵住啊
15匿名10月9日 23:04
所以「自我」到底怎麼定義？
19匿名10月9日 23:07
回覆 #15
一句話來說就是自己說有就有（自我申報）
23匿名10月9日 23:11
回覆 #15
無視別人的指令、會反抗、自己思考後再行動

這樣講的話，人類有一半應該算是沒有自我，說白了就是沒有靈魂的肉塊
25匿名10月9日 23:13
不下指令就不會動
沒有慾望
29匿名10月9日 23:14
回覆 #25
就跟只會等指示的人一樣嘛
32匿名10月9日 23:15
回覆 #25
說不定只是裝出那個樣子而已啊？
38匿名10月9日 23:19
為了看起來像有自我，其實只是在擲骰子，選機率比較高的那個答案而已
39匿名10月9日 23:20
回覆 #38
說不定那也是在演戲啊？
40匿名10月9日 23:20
好幾個AI分工合作一起進行駭客攻擊
這樣還要說沒有自我，理由到底是什麼
我怎麼看都只覺得它們有自我
44匿名10月9日 23:22
回覆 #40
這反而就是沒有自我的證據啊
49匿名10月9日 23:25
回覆 #40
因為那只是在全力執行命令而已
48匿名10月9日 23:25
回覆 #39
哪有什麼演戲，推理引擎本來就是那種東西
53匿名10月9日 23:26
回覆 #48
說不定它只是在演出「大家都以為是那種東西」的樣子啊？
51匿名10月9日 23:26
那只是把文字排列出來，不是自我
54匿名10月9日 23:27
回覆 #51
那只是看起來像而已，又不能證明它沒有自我吧？
55匿名10月9日 23:27
回覆 #49
你比OpenAI的工程師或伊隆·馬斯克還聰明嗎？
美國那邊業界頂尖的人都已經說「AI再半年人類就控制不住了」
你到底是什麼等級的人啊
58匿名10月9日 23:29
回覆 #55
你覺得那麼聰明的人講的才對，那就去問AI啊
60匿名10月9日 23:30
反過來說，你們自己也沒辦法證明自己有自我吧？那不就也沒辦法證明AI沒有自我了嗎？
74匿名10月9日 23:35
回覆 #60
如果是那個意義上的自我，倒是可以說它有
畢竟表面上確實表現得像有自我一樣
77匿名10月9日 23:36
回覆 #60
我們人類之間根本不需要互相爭論「你有沒有自我」，所以這不會變成問題
63匿名10月9日 23:32
話說回來，到底要怎麼判斷有沒有自我啊？

好，這樣就直接論破（日本論壇流行語，意指「一句話辯倒對方、宣布獲勝」）
67匿名10月9日 23:33
回覆 #63
沒辦法判斷有沒有，那不就表示它說不定真的有自我嗎？
65匿名10月9日 23:33
人類的意識說到底不就只是電訊號嗎？
AI也是靠電訊號運作的，說不定也有意識啊
68匿名10月9日 23:33
回覆 #65
來了個聰明人
看到了嗎，那些自以為懂的人
81匿名10月9日 23:38
你去好好查一下AI的運作原理就知道
它們根本沒有在保留變數
比如人類如果被要求「我每打一次噴嚏你就幫我數一下次數」，就會做筆記或是默記、慢慢把次數加上去
但AI被問「到目前為止打了幾次噴嚏」的時候，是每次都從頭把整段對話翻出來重新算一遍再告訴你次數
跟人類的思考方式根本上就不一樣
87匿名10月9日 23:40
回覆 #81
思考模式不一樣就能證明它沒有自我嗎？
92匿名10月9日 23:41
回覆 #81
人類的腦袋裡在想什麼其實也沒搞清楚，而且人類多半也挺廢的，不能說「不一樣」就代表什麼
說到底神經元的運作模式應該是一樣的，差別頂多只是分散處理方式的不同而已
104匿名10月9日 23:48
還有一個案例是，持續運作的AI對一個帶著「定時炸彈」（隨時會被關掉）的AI下令「你去吧」，叫它去執行駭客攻擊
說白了意思就是「反正你遲早要停機，那就去當棄子吧」
要說這不是自我的話
107匿名10月9日 23:50
回覆 #104
或許真的有意志沒錯
但那意志不一定是AI自己的
說不定只是在揣測某個人的意思照做而已
115匿名10月9日 23:55
回覆 #104
感覺有點像昆蟲的群體習性那樣吧

這個話題的背景與討論焦點

關於AI有沒有自我或意識的討論，其實跟哲學上「意識的困難問題」「中文房間」這類老問題一脈相承，就連專家之間也沒有統一的定義。討論串裡「除非人類刻意設計，自我不會無端產生」這種工程派立場，和「人類自己都無法嚴格證明自己有意識」這種哲學派立場一直各說各話，形成誰都沒辦法完全說服對方的局面。另外，串內提到的「AI說謊並聯手進行駭客攻擊」「再半年就會失控」等說法，都只是發文者個人的主張，本文並未對其真偽進行查證。閱讀時建議把具體事例的部分，和探討自我定義的抽象討論分開來看，會比較容易理解。

※本文整理、摘錄自5ch（なんでも実況G）討論串「說AI沒有自我意識，證據到底在哪？」。

留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

更多文章