2026年8月3日

Redis 作者 antirez の自作ローカル推論エンジン。DeepSeek V4 Flash に特化した native 実装で、Metal(96GB 超の Mac)を主対象に CUDA / ROCm も対応。汎用 GGUF ランナーではなく、モデル読込からコーディングエージェントまでを一体で設計・テストしている

なぜ重要か: 汎用対応の逆を張り「最良のオープン重みだけを狭く深く」に絞った設計。著名作者のローカル推論参戦で、エンジン側の競争が一段動く

2.8 兆パラメータの Kimi K3 を MI355X ノードで約 952 tok/s で提供した実測記。1.5TB 超の重みは B200 ノードにも収まらず、大容量 HBM を持つ AMD が性能単価で優位と主張

なぜ重要か: オープンモデルの巨大化で、推論の勝敗が演算性能でなくメモリ容量で決まり始めたという論点。買う側の GPU 選定基準が変わる話

AI エージェントに「ネット全体を見る目」を渡すツール。X / Reddit / YouTube / GitHub / Bilibili の読み取り・検索を 1 つの口に集約する

なぜ重要か: エージェントの実力差が、モデルよりも「届く情報面の広さ」で付き始めたことの象徴。中国圏ソースを最初から含むのも特徴