去年,運氣好被調去做大語言模型的應用
當時是用chatgpt-4o
今年,應客戶要求, 需要地端
測試各種的大語言模型
發現一般電腦,只要有夠大的記憶體也可以跑大語言模型
雖然跑得慢,但也是可以跑
有顯示卡,速度就會快很多
沒經費就買大一點的記憶體,慢慢跑
有經費就買顯示卡
採購工作站,一台百萬,真不便宜啊
結果還要排隊等
越高級,越貴的顯示卡等越久
可以想像,當AI越來越普及
很多人不一定買得起顯示卡
就會買一般的電腦, 記憶體便宜
隨便買512g,1T,也沒多少錢
沒有顯示卡一樣可以跑AI
跑得慢還是可以跑出成果
所以,我就開始注意記憶體族群
四月底就買進華邦電
週四就獲利了結
等回檔再來買
AI股太貴了...只買得起記憶體族群
現在阿聯,也開始進軍AI
如果中國解禁
顯示卡本來就供不應求,未來更可能奇貨可居
沒有顯示卡,退而求其次買記憶體,能跑就好
跑得慢,至少還是可以看到結果
AI發展還在初期,尚未進入成熟期
這是我的淺見,大家可以參考
