Live Debian System Taiwan

在上一篇文章 《我的生成式 AI 使用經驗分享》 中，我測試了 Qwen、Gemma、Deepseek 與 Taide。當時的結論是：雖然 Qwen 和 Gemma 很強，但總免不了需要「新同文堂」外掛來修正簡體用語；而本土的 Taide 雖然立意良好，但穩定性仍有待加強。 最近，台灣團隊 Twinkle AI 釋出了一款基於 Google Gemma 3 4B 架構微調的模型—— TwinkleAI/gemma-3-4B-T1-it 。它主打針對 台灣法律、政府公文、在地人文 進行深度優化 。身為一個重視資安與在地化體驗的 IT 人，當然要立刻在我的 Debian 環境上實測看看，它是否能成為我們期待已久的「台灣隊」解答。 💻 測試環境 延續之前的硬體配置，我依然是在中階 GPU (6GB VRAM) 的環境下進行測試。 OS: Debian 13 (Trixie) GPU: Nvidia GeForce GTX 1060 (6GB VRAM) 工具: Ollama + Open WebUI 模型: TwinkleAI/gemma-3-4B-T1-it 為什麼是 4B？ 對於我們這種不想花大錢租雲端算力、又想在本地端跑 AI 的使用者來說， 4B (40億參數) 是一個非常甜蜜的點。它比 7B 更輕量，推理速度飛快，而且對 VRAM 的需求極低，舊顯卡也能跑得嚇嚇叫。 🚀 實測重點：它真的懂台灣嗎？ 這次我針對之前幾個模型的痛點進行測試，看看 T1-4B 表現如何。 1. 台灣用語在地化測試 (修正「支語」？還差一點！) 以往使用國外模型，最頭痛的就是它滿口「視頻」、「質量」、「信息」。針對這一點，T1-4B 的表現如何？ 測試 Prompt: 請比較「視頻」與「影片」、「質量」與「品質」這兩組詞彙的差異，並說明在台灣通常使用哪一個？ T1-4B 回答摘要 (實測結果): 關於視頻 vs. 影片： 它正確...

面對大量相片時，傳統手動整理、命名與修復既辛苦又耗時。透過兩支自動化 Shell 腳本與 AI 工具 CodeFormer，可以實現相片批次命名、縮圖、AI 修復、格式轉換與備份的一條龍作業，極大提升效率。 工作流程詳述 1. 匯入相片並命名資料夾 將拍攝好的相片傳入任意資料夾，並將該資料夾命名為「拍攝日期_分類+事件描述」，例如： 20251104_旅遊_阿里山 方便追蹤跟管理。 2. 自動命名相片（photorename2.sh） 運行 photorename2.sh ，依據相片的 EXIF 資訊自動讀取拍攝時間（Image Created）和相機型號（Camera Model），再依照格式： 時分_相機型號_序號.副檔名 自動重命名相片檔案，例如： 1030_Canon_001.jpg 若照片缺少拍攝時間則用檔案的修改時間代替。命名後的檔案方便辨識該張照片的基本資訊。 3. 縮圖並 AI 修復（aiphoto2.sh） 運行 aiphoto2.sh ，它會先呼叫 photorename2.sh 進行命名，再將照片依「最長邊1920像素」限制縮放，並呼叫 CodeFormer 進行人像修復、背景優化及彩色化等處理。 最後會將修復完的照片轉為 4K 解析度 JPG，90%壓縮率，以兼顧畫質與檔案大小。修復後會搬回原始資料夾並依「拍攝日期_分類+事件描述_時分_相機型號_序號」命名。 4. 原始相片壓縮保存 原始相片會集中移到一個子資料夾並壓縮打包，確保有完整原始備份且不占用過多空間。 5. 靈活使用 由於 CodeFormer AI 修復需要較多資源與時間，若不需精細處理，只執行 photorename2.sh 即可快速完成命名及匯整，保持 EXIF 資訊完整。 腳本內容詳列 photorename2.sh — 自動依拍攝時間、相機型號重新命名 #!/bin/bash count=1 shopt -s nullglob files=(*.jpg *.JPG *.jpeg *.JPEG *.png *.PNG *.tif *.TIF *.tiff *.TIFF) for file in "${files[@]}"; do # 取得 Camera Model model=$(...

本人使用的開發主機搭載 NVIDIA 顯卡，GPU 記憶體只有 6GB，屬於中低容量等級。由於顯卡記憶體有限，無法負擔大型 AI 模型的運行，因此本文以較小容量且效能適中的 AI 模型為主，透過 Open-WebUI 與 Ollama 搭配，達成本地 AI 互動平台的實作。整體流程會包括利用 pyenv 管理合適的 Python 版本，安裝 Open-WebUI，並示範如何安裝與管理 Ollama 及多款符合 GPU 規格的聊天室模型。 一、本機 Python 版本管理：使用 Pyenv 安裝 Python 3.11 安裝編譯必須的依賴： sudo apt update sudo apt install -y build-essential curl libssl-dev libbz2-dev libreadline-dev libsqlite3-dev libffi-dev liblzma-dev zlib1g-dev libncurses5-dev libncursesw5-dev libgdbm-dev libdb5.3-dev uuid-dev 安裝 pyenv： curl https://pyenv.run | bash 設定 shell 環境（加入 ~/.bashrc 或 ~/.zshrc ）： export PATH="$HOME/.pyenv/bin:$PATH" eval "$(pyenv init --path)" eval "$(pyenv init -)" 重新整理 shell，並安裝 Python 3.11： source ~/.bashrc pyenv install 3.11.0 pyenv global 3.11.0 確認 Python 版本： python --version 二、安裝並啟動 Open-WebUI 建立虛擬環境以隔離套件： python -m venv ~/openwebui-venv source ~/openwebui-venv/bin/activate mkdir tmp export TMPDIR=$HOME/tmp 升級 pip 以免安裝過程中遇到問題： pip install --upgrade...

隨著生成式 AI 技術快速發展，我也嘗試了幾款不同的大語言模型來協助工作與日常用途，包括 Qwen 3、Gemma (Gemma 3)、Deepseek R1 以及由台灣開發的 Taide。在這篇文章中，我將分享我在使用這些模型時，特別是針對繁體中文的使用體驗與一些實用的小技巧，提供給同樣關心繁體中文支援程度的朋友參考。 💻 使用環境：中階 GPU 限制下的實測 我目前的使用環境是一張 6GB 顯示記憶體的獨立顯示卡，屬於比較中階的配置。雖然在這樣的規格下無法運行最大型的語言模型，但這些模型的「小型版本」（如 4B、7B）仍能順利跑起來，因此足以進行日常對話、協助寫作或做些技術查詢。 🔍 繁體中文體驗排名 以下是我根據實際使用體驗，針對繁體中文支援程度給出的排名與說明： 🥇 1. Qwen 3（Qwen） Qwen 是目前我覺得對繁體中文最友善的模型之一，語句流暢、理解力佳，即使大多訓練資料來自簡體中文，卻能穩定輸出繁體字，答覆品質也很高，幾乎不用太多糾正。使用時不太會有簡體字或中國用語混入的情況。 🥈 2. Gemma 3（Gemma） Gemma 的表現也相當不錯，語句通順且邏輯清楚，只是偶爾會出現一兩個簡體字或中國用語，但整體而言還在可接受範圍內，回應品質穩定且快速。 🥉 3. Deepseek R1 Deepseek 的回答能力不差，但默認使用簡體字，必須不斷提醒它「請用繁體中文作答」。即便如此，有時還是會偷渡簡體字或中國用語。若不主動糾正，很容易看起來像是直接從大陸語境複製貼上的內容。 🏅 4. Taide Taide 是由台灣團隊開發、主打繁體中文支援的模型，原本我對它期望很高。但實際使用下來卻常常出現「答非所問」、「講一堆無關內容」、「亂講話講不完」的情況，雖然偶爾回答會讓人驚艷，但整體穩定性與準確率仍有明顯落差。 🛠️ 解決語言風格問題的小技巧：新同文堂外掛 由於除了 Taide 之外的模型大多是基於簡體中文語料訓練，因此不可避免會出現一些簡體字或中國用語。但我找到一個實用的小技巧 —— 使用 Firefox 的外掛程式「新同文堂」，只要點兩下，就可以把頁面上所有簡體字轉成繁體字，更酷的是，連大陸用語也會轉成台灣用語，對我這樣需要以台灣本地語言習慣來進行溝通的人來說非常方便。這也讓我在使用 Qwen、...

  一直想在 Live Debian System 中安裝 Stable Diffusion，以往在 Windows 中用 automatic 1111 很方便，但是新版的 Stable Diffusion 3.5 目前無法在 automatic 1111 上跑，且 Live Debian System 中測試 AI 的環境以往是用 anaconda ，也使得 Stable Diffusion 遲遲無法在 Linux 安裝，所以這次改用 ComfyUI，解決上述2個難題。 [ 先前準備 ] AI模型、運行環境先前準備資料。 ComfyUI 簡介 ComfyUI 是一個模組化、視覺化的 Stable Diffusion 前端工具，使用節點式的流程架構，讓使用者更直觀地設計影像生成流程。它支援最新的 Stable Diffusion 模型，包括 SDXL 與 SD3.5，對硬體要求較低，且安裝過程相對簡單，成為替代 automatic1111 的理想選擇。 如何在 Live Debian System 上安裝 ComfyUI： 將 ComfyUI 下載到家目錄 ： git clone https://github.com/comfyanonymous/ComfyUI.git 下載 Stable Diffusion 3.5 模型 （使用中模型）及 Workflow example Hugging Face 網址： https://huggingface.co/stabilityai/stable-diffusion-3.5-medium/tree/main 需註冊登入、同意條款才能下載。( 下載  SD3.5M_example_workflow.json 及 sd3.5_medium.safetensors ) 下載 Text Encoders 3 個後放到 Comfyui > models > clip : clip_l.safetensors clip_g.safetensors t5xxl_fp16.safetensors （大模型） If you have less than 32 GB RAM (CPU RAM, not GPU VRAM), you can use t5xxl_fp8_e4m3fn.safetens...

隨著 AI 的興起，熱門的 ChatGPT 應用充斥在生活中，一般都要上網才能使用，但如果自己有好一點的設備（尤其是獨立顯示卡），也可以安裝在自己的機器中，成為隨身的幫手。目前有一些對話式AI 開放讓人自己架設安裝甚至訓練，不過訓練需要的資源非常驚人暫不討論，以手上既有的設備，大概只能架設中、小型的模型使用。本文以 Live Debian System 為例，搭配 6G Nvidia 顯示卡，安裝 Google 的 Gemma3 以及台灣自行訓練的 Taide 還有最近討論度很高的 DeepSeek，實做如下：

以前影片上字幕需要花費很多時間去打字、對時間，隨著人工智慧蓬勃發展，各種工具開發出來幫助我們節省了許多時間，以教會每年有2次的總會大會來說，現在都有提供中文發音及原音（英文）上字幕的方式，大大增加觀看的便利性，這次就以某個演講來示範，如何為這個演講自動產生字幕檔。同理，如果要用來產生會議紀錄流水帳，也是個可行的方法，運用 OpenAI Whisper 衍生的 Buzz 專案，甚至還可以同步口譯，只是目前尚未在 Live Debian System 上實做（網路上介紹的大多是 Windows 跟 MAC 版本），也許不久的將來，口譯員就會被 AI 所取代。