你看得到的模型,和代理實際能用的模型,現在都來自同一份公開清單,每一個都附上真實的價格和真實的限制。
這份清單也變長了。除了原本支援的供應商,你還可以再連接四家,而 Claude 和 Gemini 的預設模型也升級到目前這一代。
換掉代理的模型不再等於重來一次,對話會跟著一起移動。
你現在可以做什麼
- 在挑選之前,就看清楚一個模型的費用和限制。
- 連接四家新的供應商,並在加入金鑰的當下立刻測試它。
- 在對話進行到一半換掉代理的模型,同時保留完整紀錄。
- 直接從告訴你已達用量上限的那則訊息切換過去。
- 當某個模型無法使用時繼續工作,因為會有另一個接手。
為什麼重要
模型選擇過去是一道同時放在兩個地方的猜謎題。你眼前的清單和代理實際能用的清單逐漸脫節,而且兩邊都沒告訴你費用是多少。
一份清單解決了信任的問題。讓對話跨越切換繼續存在,則解決了實務的問題:你可以拿真實工作去試更便宜或更快的模型,而不會失去已經做完的部分。
使用範例
- 預算:團隊把例行草稿改用較便宜的模型,昂貴的那個留給審閱。
- 尖峰負載:達到上限的模型在工作中途交棒,任務依然順利完成。
- 評估:創辦人用同一份需求在兩家供應商上各跑一次,再比較結果。
- 營運:管理員加入新的供應商金鑰,在團隊開始依賴它之前先確認可用。
接下來
我們會持續讓每個選擇的成本,在你做決定的當下就看得見。