🚀 Image Captioning and Visual Understanding with VLM

Ever wondered how fast cutting-edge vision-language models can run on Apple Silicon? This script puts Moondream2 to the test with a wide range of visual understanding tasks:

• 📝 Image Captioning — short, detailed, streamed, and non-streamed
• ❓ Visual Queries — ask natural language questions about what’s inside the image
• 🎯 Object Detection — find all instances of a given object
• 📍 Pointing — locate objects in the image by name

It also benchmarks runtime performance of these tasks to compare different Apple Silicon chips (M2 vs M4) using the Metal Performance Shaders (MPS) backend.

Read More

The Dr. Chi start with the histroy of Sequence to sequence model. He have mention the early researchers used RNNs. But what does that mean? It means information is passed step by step, with each step depending on the previous one.

But then came the Transformer model Vaswani et al., 2017. Instead of relying on recursive steps, Transformers carry information forward using matrix multiplications. That changes the computation from linear time to quadratic time (O(n²)). heavier, yes, but much better suited for GPUs.

Read More

修復 macOS iTerm2 非活動（失焦）時出現灰色蒙層的問題
如果你的 iTerm2 在失去焦點（分割視窗或背景視窗）時會出現灰色蒙層，可以透過調整或關閉變暗效果來解決。

操作步驟：

1. 開啟 iTerm2 設定（**Ctrl + ,**）。

2. 進入 Appearance → Dimming。

3. 你可以選擇：

   • 降低 Dimming amount（變暗程度），或
   • 取消勾選 Dim inactive split panes（和／或 Dim background windows）。

這樣就能移除或減弱 iTerm2 在失焦時的灰色蒙層。

Fixing the Gray Overlay Issue in macOS iTerm2 When Inactive (Defocused)
If your iTerm2 shows a gray overlay when losing focus (split panes or background windows), you can fix it by adjusting or disabling the dimming effect.

Steps:

1. Open iTerm2 Settings (Ctrl + ,).

2. Go to Appearance → Dimming.

3. You can either:

   • Decrease the Dimming amount, or
   • Uncheck Dim inactive split panes (and/or Dim background windows).

This will remove or reduce the gray overlay when iTerm2 is inactive.

前言

在上一篇文章中，我們學會了如何在自己的電腦上使用 TAIDE。這次，我們將透過 Anything LLM，簡單地把你的所有資料當作燃料，啟動 AI 的力量。

本次教學建立在上一篇的基礎之上，如果你還沒跟上，可以參考 AI 焦慮？怕被 AI 淘汰？手把手教你在筆電上使用 TAIDE！(Part 1. LM-Studio)。

相關工具介紹

在開始教學之前，讓我們先了解一下會用到的工具:

• 官方模型 TAIDE-LX-7B-Chat (https://huggingface.co/taide/TAIDE-LX-7B-Chat)
  • TAIDE-LX-7B-Chat-GGUF
  • 使用 TAIDE 之前必須了解 TAIDE 的使用者規範
• LM Studio: 一個用於開發、微調和部署大型語言模型的平台。
• Anything LLM: 一個強大的工具，可將你的所有資料與大型語言模型連接，實現 RAG (Retrieval-Augmented Generation)。

Read More

前言

近年來，人工智慧(AI)的快速發展引起了廣泛的關注和討論。許多人對 AI 的崛起感到焦慮，擔心自己的工作可能被 AI 取代，進而影響生計。然而，與其恐懼 AI，不如主動學習並運用 AI 工具來提升自己的工作效率和競爭力。
本文將分為上下兩篇，手把手教你如何在自己的筆記型電腦上使用台灣在地化的語言模型 TAIDE。上篇將介紹如何透過 LM Studio 應用程式在本地端運行 TAIDE 模型；下篇則會進階說明如何利用 AnythingLLM 平台更靈活地使用 TAIDE。
讓我們一起擁抱 AI 浪潮，化危機為轉機，開啟全新的工作與學習體驗吧！

介紹

關於 TAIDE

根據 TAIDE 官方 Huggingface 介紹 「TAIDE計畫 致力於開發符合台灣語言和文化特性的生成式人工智慧對話引擎模型，同時建構可信任的人工智慧環境。結合產學研能量，推動可信任生成式人工智慧的發展，提升台灣在國際競爭中的地位，促進產業發展，避免對外國技術的依賴。」

簡單扼要地說，TAIDE 是一個台灣在地化的語言模型，雖然我習慣使用外語學習，但是使用中文學習起來還是更輕鬆一些。

面對這波的 AI 浪潮，我想藉由這次 TAIDE 模型的釋出，撰寫一篇手把手的教學文章，希望可以幫助大家跟上 AI 的腳步。讓我們一起來學習如何在筆電上使用 TAIDE 吧！

前情提要

Read More

Evaluate with TCEval_v2

Read More

基本概念

1. Minecraft 是一個 Java 軟體，他必須仰賴 Java Development Kits (JDK)，大部分已經要求使用 Java 8 以上的版本。
   • 根據 Minecraft 1.20.2 則升級到 OpenJDK 17.0.8
2. 目前伺服器至少分為三類
   1. 原生伺服器 (Vanilla 版本，原生 Minecraft)
   2. 模組伺服器 (對遊戲最大程度地擴充，但要求玩家都需要安裝相對應的模組。)
   3. 插件伺服器 (以原生 Minecraft 客戶端為底線，提供伺服器端的互動功能。)
3. 他是一個網路上的伺服器
   • 如果你對網路相對不熟悉，建議可以先了解一下 TCP/IP (我有空再寫一篇文章介紹)
   • 如果你想要跟朋友一起玩，並且不知道怎麼設定網路，可以使用虛擬網路 （Virtual Network），如: LogMeIn Hamachi、ZeroTier、Radmin VPN
     • 任何額外的軟體都建議要謹慎評估跟使用，隨意下載可能會造成中毒。
     • 可以參考這篇 虛擬網路比較
   • 設定 Router 將 Port forward 至廣域網路也可以實現讓大家連線。
     • 但也存在相對應的管理風險，如：DDoS、RCE (前陣子的 log4j) 等攻擊。

模組伺服器安裝 (Forge)

Read More

引言

續先前『Modbus Security Part 1』，我們已經對 PDU 的基礎結構有所認識，這次就將目標鎖定在 ADU，並深入討論 Modbus 資料儲存區的結構。

Read More

引言

最近，我讀到了一篇文章，深入探討了新進成員容易遇到的困境，這與我實習的經歷有許多相似之處。
雖然目前尚未有時間分享我自己的實習心得和觀點，但根據我的親身經歷，我想特別對這篇文章分享一些讀後感受。

概要

文章中描述了許多新進同事常犯的錯誤以及應該遵循的方向，實際上，我自己也時常忽略這些要點。
然而，每個人在自己的位置上都有能力做出貢獻，持續反思自己是關鍵所在。

Read More