AI到底有沒有網路上說的這麼強?

國立臺北科技大學 資訊工程學系
——— 更新 ———
看了一下各位的留言
有些人可能認為我在排斥AI或是拒絕使用
才怪,用的可爽了好嗎?
我覺得可能是我的描述不夠明確
我並不反對使用LLM及類似的東西,應該說,我也用的很爽
Claude用起來超強,以前要搞2個月的Side Project,現在不用一半的時間就可以完成,有時候用一用也會覺得要我幹嘛?
但我主要是想表達,他是強歸強,但不是魔法,現在用到出事的還不少嗎?
我在文章中最想表達的一點是,我認為現在有點過度造神了
自媒體跟媒體,以及部分創作者,整天就是無腦亂吹,整天說會取代一堆產業,或是可以放著不管讓他自己跑
你要確誒
我一直都不反對AI,我甚至是舉雙手贊成的,在之前繪圖AI時,我也是保持樂觀態度,請問現在繪師有被取代嗎?顯然沒有,而是共存
簡單說,我認為掌握如何使用AI的技術是之後找工作的關鍵
但這東西不是萬能許願機
在使用時,最好要有一定的背景知識,這種情況下,是可以發揮出很強大的效果的
但是,如果本身沒有該領域的知識,就會連他出錯都不知道,然後一路錯下去
我主要是想說這些
以下是一些我這麼說的資料來源
這三篇的內容基本上是,
很多人擔憂AI會大量取代資訊相關的工作,但實際數據顯示軟體相關就業人數幾乎持平,AI 產業擴張所創造的新職缺也遠多於被裁員的人
但是,不需要 AI 技能的傳統職位在萎縮,AI 相關職缺則逆勢快速成長,對缺乏相關技能的從業者而言,壓力是真實的,但市場整體並沒有如預期般消失。
所以,產業結構可能正在改變,但不是那些人(創作者、台灣的媒體)想得那樣的改變
我是這麼覺得的
——— 以下為原文 ———
好吧,事情是這樣的
我其實有點不太確定怎麼下標題
不知道從什麼時候開始,FB上突然冒出了很多人開始吹AI,AI寫程式多強,然後開始賣產品,賣課程,也有人說自己完全不會程式卻可以做出產品(然後就翻車了,API Key直接給出去)
Dcard這邊則是每天都有質疑是否還要讀資訊相關科系,寫程式的人未來會被取代等等,或是AI超猛,取代一堆人的言論等等
平常都是跟朋友討論,但最近實在不吐不快,所以還是上來發表一點想法,你可以不認同,畢竟每個人的想法不同,我不會強迫看的人理解我的想法,相反也是,但可以討論
文章可能有點長,我會完整敘述我的看法
好的,故事是這樣的
在2022年,我會稱為奇蹟的一年
雖然有在關注的人可能早就已經有預測
但可能沒想到會這麼快
ChatGPT橫空出世(好啦,其實也不算,之前還有GPT2之類的,但那個基本上不太好用)
那時候,每個人都對他的能力驚嘆不已,認為怎麼會有如此神奇的東西出現,居然只要打個幾句話,就能像跟人類對談一樣,雖然還不完美,但至少是突破性的發展
隔年,2023,許多應用及服務如雨後春筍般出現
包括LLaMA、GPT4、Claude,之後還有Gemini等等
並且在之後的每個月,基本上都有新的模型,或是模型的更新,老實說迭代的速度快到我很懷疑他們有沒有審查過才上線(沒錯我就是説你,GPT)
AI相關的公司開始出現,各種投資額一直上升,像是不用錢一樣,幾千億幾千億的投
每個人用過之後,都認為這東西會取代每個行業,美術、翻譯、軟體工程師、硬體工程師、律師、醫生等等
網路看了一遍之後都懷疑什麼不會被取代了
但問題是,這東西有這麼神嗎?
我這樣說好了,理解的人就會知道,這東西本質上就是基於數學在運作的,或是說,他會預測某一個字後面接什麼的機率最大
可以參考這個影片,我認為他講得很清楚(字幕可以選中文)
也就是説,他每次回覆時,都是參照前面的輸出,下一個字是什麼字機率最大,他就輸出哪一個
所以本質上,我認為他根本就不算在思考,那都是數學
同時,你只要訓練時的資料越多,他就越能抓到各種項目之間的關係,所以現在訓練才需要這麼強的硬體,因為很多東西的訓練其實是在做矩陣乘法,矩陣乘法基本上是n^3左右的運算,計算量可想而知
也就是說,這東西每回應你一個字,他就會去參考前面的輸出,以及你的輸入,去推出最有可能的下一個字
再來,現在很多媒體整天AI來AI去,什麼都要扯一下AI,但他們「大部分」時候指的是LLM,實際上只佔了一部分
還是很想臭一下,雖然我也不意外,我們的媒體就是這樣,反正之前也吹過別的了,Web 3.0,NFT,元宇宙,機器學習,每次一個新東西出來,不管怎樣都要扯上關係就對了
大部分現在所說的AI很大一部分是指LLM,但那只是個分支而已
現在問題來了,現在你知道這東西的運作是基於前一個字跟後一個字的關係來輸出(實際上不是只有一個字,而是前後文),也就是說,他是有可能輸出在人類看來完全不相關的東西,只因為他機率最高
再加上還有幻覺的問題,現在雖然因為有各種訓練及約束手段,可以降低幻覺,但還是會有
基於以上前提
我就不太懂,為什麼有人可以說出,「我只要會跟AI講話,就能做出一個應用,他在做事時,我就可以去睡覺等等」,我聽了真的覺得,你怎麼敢的
你就不怕他做出不符合你預期的行為?
說A改B,即使你下了約束的prompt,他還是有可能因為超過上下文長度,而忽略了你的prompt,在agent中或是在一般對話時都有可能
還有最近的一些很紅的agent,我都只敢放在沙盒裡面用,到底怎麼敢放在本機的環境用的,你不怕他把你整個C槽刪了嗎?
簡單說就是完全無視風險,只看到好的,壞的直接不管了
現在好了,只要會用LLM,人人都是AI大師,然後呢,然後就搞出一堆無以言諭的東西
你說他能跑嗎?能
但壞了你知道要怎麼修嗎?
不知道,所以你就叫AI修,修到你完全不知道你在幹嘛
就看過對岸一個笑話,為什麼有些討厭用AI寫程式,因為以前產屎山代碼的只有人類,產的慢,還有救,現在好了,你搞了個AI,產屎山代碼的速度是以前的幾十倍,怎麼搞啊?
還有資安的問題,寫出來的東西有沒有安全性問題?效能呢?等等
但要說這東西不能用嗎?
倒也不是,只是你要知道自己在做什麼
我個人還是很贊同用AI來輔助的,他負責產出,你負責確認,但千萬要知道你在做什麼,他在做什麼,而不是放著不管,或是永遠只會按確認
總而言之,我的看法是
對,這些工具很強大,他能減少技術門檻,加速開發
但他絕對不是你放著不管就可以的,這東西不是魔法,至少現階段不是
厲害是厲害,但沒有吹的這麼厲害
對了
最後我還是想臭一下
接下來是怒噴一波環節
OpenAI 到底是三小
你乾脆改叫CloseAI好了
之前一直只有開源GPT2,好容易開源出個GPT-OSS,結果呢
有夠破
我還不如用Gemma,Qwen,到底
然後整天就只會搞投資,搞審查,還改文件
創造出AI的宗旨?直接把安全兩個字拿掉了
現在電腦零件會漲價有一半的原因根本就是他害的
你乾脆改名叫CloseAI好了
然後搞了那麼久,端出GPT5這什麼垃圾
5.1-5.3也都是垃圾
現在網路上一堆AI文體,媽的
GPT可能要負一半的責任
他的文體永遠是
你沒有發瘋——你所描述的情況是真實存在的。
[模糊的比喻][有用的表情符號][破折號]
你說得完全正確[破折號],這不只是[某事],這還是[另一件事]
[無用的清單項目][表情符號]
[無用的清單項目][表情符號]
[無用的清單項目][表情符號]
[模糊的比喻]
[不必要的自問自答][有用的表情符號]
[包含 15 個不同破折號的隨機總結]
你意識到了這一點了。說實話?這很少見——而且非常強大。
這到底是三小
因為他們為了對齊,搞到所有回覆預設都是這樣,為了讓語氣不要過冷或過熱,搞到有些人跑去自殺還是啥的,所以預設變成這樣
我的媽啊,這都是個啥,他們直接把模型搞到像智障一樣,我真的搞不懂
然後還有在回覆中自己打臉自己,上一個回覆還對的事情,下一個回覆就變錯的了
我:問說某一件事對嗎?
GPT:對
我:我最好每一次都對,我又不是天才
GPT:你說得對,我應該修正
我:繼續某件事對嗎?
GPT:對
對三小,我是什麼天才嗎?
可以每次都對
加了預設的prompt還是沒用
到底
氣到我直接刪掉帳號跑去用Gemini跟Claude了
以上
感謝看到這邊的各位
歡迎討論,畢竟也有可能有我遺漏的部分



