前言
最近資訊業界最熱門的話題莫過於「綠色軟體(Green Software)」,其核心目標在於優化資訊架構,達成節能減碳。
但是隨著 AI 的推動,卻發現一個巨大的矛盾。
政府與企業一邊高喊節能減碳,另一邊各單位卻為了資安焦慮,紛紛編列預算各自採購地端 GPU 伺服器
這種各地的 GPU 伺服器,真的符合綠色永續嗎?
地端 AI 的真實困境:低效能與高能耗的雙重夾擊
地端的 Model 跟 雲端 AI 模型(如 GPT-5, Gemini)相比,地端 AI 的理解力與準確率還是遜於雲端,最後或許還要耗費大量人工校對。
AI 技術快速更新。雲端服務能即時導入最新演算法,但地端系統從採購到建置完成可能已過時,會不會陷入「花大錢買舊技術」的循環之中呢。
一台 GPU Server 隨便都是上百萬台幣,這筆經費若轉為雲端算力,足以供應單位使用數年且隨時保持在最強效能。
自購伺服器多半僅在特定專案或上班時間運作,但為了維持機房恆溫與待機,閒置時依然消耗大量電力。
比起雲端資料中心極致的能源使用效率,地端機房才是真正的排碳大戶。
資料分級:打破「一刀切」的資安迷思
整個單位中,並不是所有的資料都是機密,透過資料的分級,可以讓 AI 效能最大化。
一些非機敏資料使用雲端 AI 來改善單位流程及效率,而不是一刀切,完全不能使用雲端 AI。
結論
「綠色軟體」政策不應僅止於程式碼的優化,更應包含佈署架構的智慧化。
我們必須承認:分散式的 GPU 伺服器往往是能源效率的殺手。