隨著 AI 的興起，熱門的 ChatGPT 應用充斥在生活中，一般都要上網才能使用，但如果自己有好一點的設備（尤其是獨立顯示卡），也可以安裝在自己的機器中，成為隨身的幫手。目前有一些對話式AI 開放讓人自己架設安裝甚至訓練，不過訓練需要的資源非常驚人暫不討論，以手上既有的設備，大概只能架設中、小型的模型使用。本文以 Live Debian System 為例，搭配 6G Nvidia 顯示卡，安裝 Google 的 Gemma3 以及台灣自行訓練的 Taide 還有最近討論度很高的 DeepSeek，實做如下：