AI NEWS
NSFW LLMとローカルLLMを中心に、Redditなどの利用者報告を追い、公式情報と照合してまとめます。
毎週月曜日に更新予定
Bonsai 27Bの1-bit量子化、スマホ級ローカル運用の現実
PrismMLのBonsai 27Bを公式資料と利用者報告で確認。3.9GB級の重みで動く一方、長いエージェント処理やランタイム選択には注意が必要です。
読むPi 0.81.0がllama.cppを標準統合、ローカル創作エージェントのモデル管理を短縮
Pi 0.81.0のllama.cppルーター対応を公式資料と利用者報告で確認。GGUFの検索・切り替えが簡単になる一方、VRAMとツール権限は別管理です。
読むQwen3.6-27Bの実運用報告が示す、ローカルLLMは設定と検証までが性能
Qwen3.6-27Bの45日間運用と推測デコード比較を公式仕様と照合。速度だけでなく、文脈、外部検証、推論構成がローカル創作を左右します。
読むLaguna S 2.1公開初日、118Bモデルの高評価とローカル実行の難しさが交錯
Poolsideの118B-A8BモデルLaguna S 2.1を、公式仕様とRedditの初日報告から整理。75GBのQ4、thinking設定、ローカル創作への適性を確認します。
読むGrok Buildのリポジトリ送信問題から考える、本当の「local-first」
Redditで報告されたGrok Buildのリポジトリ送信問題と、その後のオープンソース化を整理。NSFW・ローカルLLM運用で確認すべき範囲を考えます。
読む