AI到底有沒有網路上說的這麼強?

——— 更新 ——— 看了一下各位的留言 有些人可能認為我在排斥AI或是拒絕使用 才怪,用的可爽了好嗎? 我覺得可能是我的描述不夠明確 我並不反對使用LLM及類似的東西,應該說,我也用的很爽 Claude用起來超強,以前要搞2個月的Side Project,現在不用一半的時間就可以完成,有時候用一用也會覺得要我幹嘛? 但我主要是想表達,他是強歸強,但不是魔法,現在用到出事的還不少嗎? 我在文章中最想表達的一點是,我認為現在有點過度造神了 自媒體跟媒體,以及部分創作者,整天就是無腦亂吹,整天說會取代一堆產業,或是可以放著不管讓他自己跑 你要確誒 我一直都不反對AI,我甚至是舉雙手贊成的,在之前繪圖AI時,我也是保持樂觀態度,請問現在繪師有被取代嗎?顯然沒有,而是共存 簡單說,我認為掌握如何使用AI的技術是之後找工作的關鍵 但這東西不是萬能許願機 在使用時,最好要有一定的背景知識,這種情況下,是可以發揮出很強大的效果的 但是,如果本身沒有該領域的知識,就會連他出錯都不知道,然後一路錯下去 我主要是想說這些 以下是一些我這麼說的資料來源 這三篇的內容基本上是, 很多人擔憂AI會大量取代資訊相關的工作,但實際數據顯示軟體相關就業人數幾乎持平,AI 產業擴張所創造的新職缺也遠多於被裁員的人 但是,不需要 AI 技能的傳統職位在萎縮,AI 相關職缺則逆勢快速成長,對缺乏相關技能的從業者而言,壓力是真實的,但市場整體並沒有如預期般消失。​​​​​​​​​​​​​​​​ 所以,產業結構可能正在改變,但不是那些人(創作者、台灣的媒體)想得那樣的改變 我是這麼覺得的
——— 以下為原文 ——— 好吧,事情是這樣的 我其實有點不太確定怎麼下標題 不知道從什麼時候開始,FB上突然冒出了很多人開始吹AI,AI寫程式多強,然後開始賣產品,賣課程,也有人說自己完全不會程式卻可以做出產品(然後就翻車了,API Key直接給出去) Dcard這邊則是每天都有質疑是否還要讀資訊相關科系,寫程式的人未來會被取代等等,或是AI超猛,取代一堆人的言論等等 平常都是跟朋友討論,但最近實在不吐不快,所以還是上來發表一點想法,你可以不認同,畢竟每個人的想法不同,我不會強迫看的人理解我的想法,相反也是,但可以討論 文章可能有點長,我會完整敘述我的看法 好的,故事是這樣的 在2022年,我會稱為奇蹟的一年 雖然有在關注的人可能早就已經有預測 但可能沒想到會這麼快 ChatGPT橫空出世(好啦,其實也不算,之前還有GPT2之類的,但那個基本上不太好用) 那時候,每個人都對他的能力驚嘆不已,認為怎麼會有如此神奇的東西出現,居然只要打個幾句話,就能像跟人類對談一樣,雖然還不完美,但至少是突破性的發展 隔年,2023,許多應用及服務如雨後春筍般出現 包括LLaMA、GPT4、Claude,之後還有Gemini等等 並且在之後的每個月,基本上都有新的模型,或是模型的更新,老實說迭代的速度快到我很懷疑他們有沒有審查過才上線(沒錯我就是説你,GPT) AI相關的公司開始出現,各種投資額一直上升,像是不用錢一樣,幾千億幾千億的投 每個人用過之後,都認為這東西會取代每個行業,美術、翻譯、軟體工程師、硬體工程師、律師、醫生等等 網路看了一遍之後都懷疑什麼不會被取代了 但問題是,這東西有這麼神嗎? 我這樣說好了,理解的人就會知道,這東西本質上就是基於數學在運作的,或是說,他會預測某一個字後面接什麼的機率最大 可以參考這個影片,我認為他講得很清楚(字幕可以選中文)
也就是説,他每次回覆時,都是參照前面的輸出,下一個字是什麼字機率最大,他就輸出哪一個 所以本質上,我認為他根本就不算在思考,那都是數學 同時,你只要訓練時的資料越多,他就越能抓到各種項目之間的關係,所以現在訓練才需要這麼強的硬體,因為很多東西的訓練其實是在做矩陣乘法,矩陣乘法基本上是n^3左右的運算,計算量可想而知 也就是說,這東西每回應你一個字,他就會去參考前面的輸出,以及你的輸入,去推出最有可能的下一個字 再來,現在很多媒體整天AI來AI去,什麼都要扯一下AI,但他們「大部分」時候指的是LLM,實際上只佔了一部分
megapx
還是很想臭一下,雖然我也不意外,我們的媒體就是這樣,反正之前也吹過別的了,Web 3.0,NFT,元宇宙,機器學習,每次一個新東西出來,不管怎樣都要扯上關係就對了 大部分現在所說的AI很大一部分是指LLM,但那只是個分支而已 現在問題來了,現在你知道這東西的運作是基於前一個字跟後一個字的關係來輸出(實際上不是只有一個字,而是前後文),也就是說,他是有可能輸出在人類看來完全不相關的東西,只因為他機率最高 再加上還有幻覺的問題,現在雖然因為有各種訓練及約束手段,可以降低幻覺,但還是會有 基於以上前提 我就不太懂,為什麼有人可以說出,「我只要會跟AI講話,就能做出一個應用,他在做事時,我就可以去睡覺等等」,我聽了真的覺得,你怎麼敢的 你就不怕他做出不符合你預期的行為? 說A改B,即使你下了約束的prompt,他還是有可能因為超過上下文長度,而忽略了你的prompt,在agent中或是在一般對話時都有可能 還有最近的一些很紅的agent,我都只敢放在沙盒裡面用,到底怎麼敢放在本機的環境用的,你不怕他把你整個C槽刪了嗎? 簡單說就是完全無視風險,只看到好的,壞的直接不管了 現在好了,只要會用LLM,人人都是AI大師,然後呢,然後就搞出一堆無以言諭的東西 你說他能跑嗎?能 但壞了你知道要怎麼修嗎? 不知道,所以你就叫AI修,修到你完全不知道你在幹嘛 就看過對岸一個笑話,為什麼有些討厭用AI寫程式,因為以前產屎山代碼的只有人類,產的慢,還有救,現在好了,你搞了個AI,產屎山代碼的速度是以前的幾十倍,怎麼搞啊? 還有資安的問題,寫出來的東西有沒有安全性問題?效能呢?等等 但要說這東西不能用嗎? 倒也不是,只是你要知道自己在做什麼 我個人還是很贊同用AI來輔助的,他負責產出,你負責確認,但千萬要知道你在做什麼,他在做什麼,而不是放著不管,或是永遠只會按確認 總而言之,我的看法是 對,這些工具很強大,他能減少技術門檻,加速開發 但他絕對不是你放著不管就可以的,這東西不是魔法,至少現階段不是 厲害是厲害,但沒有吹的這麼厲害 對了 最後我還是想臭一下 接下來是怒噴一波環節 OpenAI 到底是三小 你乾脆改叫CloseAI好了 之前一直只有開源GPT2,好容易開源出個GPT-OSS,結果呢 有夠破 我還不如用Gemma,Qwen,到底 然後整天就只會搞投資,搞審查,還改文件 創造出AI的宗旨?直接把安全兩個字拿掉了 現在電腦零件會漲價有一半的原因根本就是他害的 你乾脆改名叫CloseAI好了 然後搞了那麼久,端出GPT5這什麼垃圾 5.1-5.3也都是垃圾 現在網路上一堆AI文體,媽的 GPT可能要負一半的責任 他的文體永遠是 你沒有發瘋——你所描述的情況是真實存在的。 [模糊的比喻][有用的表情符號][破折號] 你說得完全正確[破折號],這不只是[某事],這還是[另一件事] [無用的清單項目][表情符號] [無用的清單項目][表情符號] [無用的清單項目][表情符號] [模糊的比喻] [不必要的自問自答][有用的表情符號] [包含 15 個不同破折號的隨機總結] 你意識到了這一點了。說實話?這很少見——而且非常強大。 這到底是三小 因為他們為了對齊,搞到所有回覆預設都是這樣,為了讓語氣不要過冷或過熱,搞到有些人跑去自殺還是啥的,所以預設變成這樣 我的媽啊,這都是個啥,他們直接把模型搞到像智障一樣,我真的搞不懂 然後還有在回覆中自己打臉自己,上一個回覆還對的事情,下一個回覆就變錯的了 我:問說某一件事對嗎? GPT:對 我:我最好每一次都對,我又不是天才 GPT:你說得對,我應該修正 我:繼續某件事對嗎? GPT:對 對三小,我是什麼天才嗎? 可以每次都對 加了預設的prompt還是沒用 到底 氣到我直接刪掉帳號跑去用Gemini跟Claude了 以上 感謝看到這邊的各位 歡迎討論,畢竟也有可能有我遺漏的部分
愛心
哈哈
驚訝
109
96
全部留言