昨天有人問我,你那麼多台電腦,幹嘛不裝同一個模型就好,管理起來不是比較方便?
大部分人想到 AI 模型,腦中浮現的都是同一個問題,哪個最強,誰出新版了,換,誰分數更高,換,好像存在一個終極模型,找到它就世界太平,我一開始也是這樣。
直到 AI 越來越貴,我才開始思考另一個問題,我的四台機器,每台做的事情完全不一樣,要把 loading 分開,並且降低成本,也預防集體變成阿呆。 🤣🤣
四台機器用四種代號來稱呼,之後也會有文章說明為什麼要這樣。
ATHENA 跑 GLM 5.1,中文理解和推理最順,我每天寫東西、想事情都靠它。
BANSHEE 跑 MiniMax M3,它處理長文跟某些任務的風格不一樣,有些工作交給它更順手。
COBRA 是我的主力機,也是開發機,我會在這裡測試,然後再 deploy 到其他機器,MacBook Pro M4 Pro,48G 記憶體,使用 mimo v2.5 pro。
DAGGER 是 128GB 的怪物,上面主要跑的是圖像生成跟視覺模型,跟文字模型完全是兩個世界,目前部署了這幾個地端模型:Qwen3.6-27B Dense(兼 vision 讀取圖文,有些模型看不到圖,我就會叫他把圖發給 DAGGER 去讀圖,再轉成文字描述回傳),ComfyUI 的 SDXL 跟 Flux Schnell(這兩個都幫我的部落格配圖,一種畫三張給我選一張)。
如果我把四台全部裝同一個模型會怎樣? 我之前其實有試過。
ATHENA 的中文推理可能變弱。 BANSHEE 直接 server overloading。 COBRA 可能突然卡住,因為 rate limit。 DAGGER 根本跑不動圖像生成的任務,每一台都被迫做它不擅長的事。
更麻煩的是,如果四台跑同一個模型,它們犯錯的模式也會一樣。一台出錯,其他台可能跟著錯。不同的模型,至少會有幾台可以 work,不會全部一起掛掉,或是集體降智,還可以其中一臺做完,交給另外一臺檢查。
這聽起來好處很明顯對吧? 但我以前常常在生活裡卻不是這樣做的。
我以前什麼都想找到一個最佳解,然後套用在所有事情上。最好的生產力系統,最好的筆記軟體,最好的時間管理法。
Dan Koe(美國創作者)說過一句話我一直記著,他說你不需要找利基市場,你自己就是利基市場,每個人的興趣組合是獨一無二的,你的獨特性來自你關心的事情的交集,而不是你在某一個領域鑽多深。
我覺得模型選擇也是同一個邏輯。每一個模型都有它擅長的事,你把對的模型放在對的位置上,效率就出來了,你也有一隊自己的軍團。
四台機器,四個角色,每個角色的需求不同,所以模型也不同。
有人可能會說,這樣管理起來不是很麻煩嗎?
講白了一開始確實有點麻煩,但比你想的少很多,我花了一些時間搞清楚每台機器要做什麼,設定好之後就幾乎不用管了,跟每次都把工作塞給不適合的模型,然後花一堆時間修正輸出比起來,這個投資太划算了。
後來我發現這個邏輯不只適用於電腦。
我每天的時間也是這樣分的。早上腦袋最清楚的時候寫東西,下午精神比較差的時候做行政跟回覆,晚上放鬆的時候讀書跟吸收新東西。如果我用晚上的狀態去寫作,或者用早上的精力去回 email,效果一定很差。
Daily Briefing Report 幫我把這些東西視覺化,所以更容易維持住習慣,每天早上看到 DBR 的時候就知道昨天哪個時段做了什麼,效率好不好一目了然。
工具跟人一樣,有自己的脾氣跟擅長的事,硬要讓一個工具做所有事,結果就是什麼都做不好。
我正在測試要把這些東西組合起來,把日常工作流程弄順,但這個思考方式確實幫我省了很多時間。
值得花一點時間理解每個工具的個性,然後把它們放到對的位置,這點引申出另一個環節,下次寫一篇文章來說,這也是我正在練習的事,不做正確的選擇,要讓選擇變成正確。
記錄我在做的事,就這樣。