在本地運行 TAIDE 模型

在本地運行 TAIDE 模型
Photo by Igor Omilaev / Unsplash

大家好,今天來跟大家分享如何使用 Ollama 來運行國科會推出的 TAIDE 語言模型。

首先,先在電腦上安裝 Ollama。你可以參考 Ollama 官網上面的指示下載並安裝。

您可以在 Terminal 上輸入:

ollama --version

以確認 Ollama 已正確安裝。

接著可以到 Taide 的 Hugging Face 下載語言模型的 GGUF 檔案。並在 GGUF 檔案同層的目錄裡建立一個名為 Modelfile 的文件:

touch Modelfile

並在 Modelfile 文件裡面加上一行:

FROM ./{ GGUF 檔案名稱 }

接著,在 Ollama 上創建,並且運行這個模型:

ollama create taide -f ./Modelfileollama run taide
ollama run taide

Read more

學習後端基礎 - 後端通訊設計模式 1

學習後端基礎 - 後端通訊設計模式 1

做網站工程師也有一段時間了,但是一直沒有機會去拆解後端的每個環節,並且深入瞭解底層原理。前陣子剛考完 AWS 的三張證照,考完之後覺得學習不能停歇,於是就把先前買的 Hussein Nasser 老師在 Udemy 上開的後端基礎課程拿出來看,希望能有很大的收穫。 課程裡面最一開始講到了幾種設計模式:Request Response、Synchronous vs Asynchronous、Push、Polling、Long polling、Server sent events、Pub/Sub 等等。這些設計模式對於後端工程師來說應該耳熟能詳,但我也認為說對於沒有實務經驗的新手,應該也可以用一套比較生動的比喻,讓大家都能夠了解各個設計模式的核心概念,以及優缺點。 Request — Response 模式是最經典的,也是一切的基礎。客戶端向伺服器要些資料,伺服器回應這些資料,這就是一次的請求跟回應。而這個請求的結構是由客戶端跟伺服器定義的,兩邊總會有一個協議,傳遞格式化的訊息。做網站後端,最熟悉的一定就是 HTTP 請求了吧,它的格式大概就長下面這個樣子。

By Shiangogo
《逆思維》提醒我重新思考 1

《逆思維》提醒我重新思考 1

好幾個月前在酷澎上買了幾本書,《逆思維》是其中一本。為什麼會買這本書呢?我也忘記為什麼了,大概是因為我覺得我的人生有點卡住了,想要有先人來指點迷津吧?《逆思維》這本書的書名,看起來就是會帶著我以不同的角度,看待這個世界所發生的問題,這麼做說不定就會發現一條出路。 我知道我從小就是一個還算聰明(但是很懶)的人。並不是主觀上的我覺得我很聰明,小時候的智力測驗至少有 120 以上,我在學校的成績也算滿前面的,沒有讀頂大應該是某種神秘力量阻止我好好用功讀書而已。 為什麼我會寫上面這段呢?不是想要吹說我很聰明我好棒。這本書的第一章就有提到,「聰明」可能是聰明人的枷鎖。聰明人更容易辨識出事物的規律、模式,以至於形成刻板印象——從小到大我的想法、觀點,甚至我支持的信念幾乎都是對的,照著這個經驗來肯定沒錯。作者提出了幾種心智模型: 1. 極端教派領袖:我永遠是對的! 2. 政治家:我們是對的,他們是錯的! 3. 傳教士:我是對的! 4. 檢察官:你是錯的 5. 科學家:我也許錯了!

By Shiangogo
養成習慣的練習

養成習慣的練習

好幾年前吧,我看了《原子習慣》這本書,一兩個月前又再把它看了一遍。我覺得我是看了這本書,瞭解了書中的一些概念沒錯,但就是沒有很認真的把這本書運用在生活中。我想要每天早睡、運動、讀一點書、寫些東西,這些似乎都沒有做到🫠。 今年 2025 年快要過完了,我終於在 12 月中考完了三張 AWS 證照,完成了今年的一大目標,也放下了我心中一個很重的擔子。希望接下來的日子裡,可以透過一些技巧,養成這些好習慣。不要想說把事情做得很好,但一定要鼓勵自己開始做事。千里之行,始於足下,步伐跨得不遠沒有關係,有在努力前進就好! 希望我可以養成每天寫些東西的習慣,即便是一些沒經過整理的幹話,或是生活中的小發現、小心得也好。我相信輸出文章這件事情,對我的思考、學習有很大的益處。

By Shiangogo
一年內考過三張 AWS 助理級證照(SAA-C03、DVA- C02、SOA-C03)心得分享!

一年內考過三張 AWS 助理級證照(SAA-C03、DVA- C02、SOA-C03)心得分享!

大家好!我是一個有兩年工作經驗的菜雞全端工程師,平常的工作內容大多都是在處理後端業務邏輯,以及前端畫面、交互等等。由於我對我們團隊專案的部署架構幾乎不了解,今年年初我就決定來認真學習 Amazon 雲端的相關知識,並且以考到 SAA-C03、DVA-C02、SOA-C02 這三張證照為首要的目標(SOA-C02 在我休假完回來之後就悄悄更新成 SOA-C03 了)。 如果您跟我一樣是轉職仔,或剛入行沒多久,想要學習 AWS 並且考取證照來讓自己的履歷能夠亮眼一點,也許這篇廢文可以幫助到您。至於說網路上好像很多人分享什麼三個月或幾個月考取這三張證照的心得,為什麼我會把時間拉到一年呢?可能就是因為我懶 + 容易分心 + 排了好多出去玩的假期,畢竟休息是為了走更長遠的路嘛,哈哈哈。 這篇文寫到後面感覺是我想講什麼就寫什麼,所以結構可能很亂,還請讀者見諒🙏。 我的學習素材全部來自於 Stephane Maarek 老師在 Udemy 平台上推出的一系列 AWS 課程。這位老師母語應該是法文,英文稍微有點口音不影響理解,我覺得他的課程算滿完整的,除了觀念講解以外,還有實際操作的畫面,更能

By Shiangogo