PostSieve

誰のための案か

Discourse / Lemmy / Matrix のボランティア・小規模モデレーター(今はキーワードフィルタと手動キュー)

どんな困りごとか

画像レビューの滞留(時間)と、ハラスメント・晒し・違法画像の見逃しによる法的露出

どう作るか

Docker コンテナの REST エンドポイント + Discourse プラグイン + ローカルレビューページ。画像は自サーバーから出ない

なぜまだ無いのか

小型のオープンウェイト・マルチモーダルモデルが実用になったのがつい最近。商用モデレーションはクラウド API と企業契約に閉じ、OSS は単一ラベルの NSFW 判定止まりだった

最初の利用者

Discourse Meta や r/moderators で画像荒らしに苦情を書いている人たち(5 分の Docker セットアップを提示)

作る規模

2 人 × 8 週間

一番のリスク

小型モデルの見逃し・過剰検知。誤検疫がコミュニティを乱すと管理者はオフにする。検疫証拠の保存自体が法的義務を生む

的中の条件(3 つすべて必要)

• JPEG / PNG / WebP(10MB まで)を受ける POST /scan を持つ公開 Docker イメージを提供し、成人向け・ハラスメント・武器・薬物・個人情報・スパムの各カテゴリを数値信頼度付き JSON で返す
• Discourse プラグインまたは webhook 連携を有効化すると、いずれかのカテゴリ信頼度がしきい値(既定 0.8)以上の投稿を検疫・非表示にする
• フラグ付き項目を一覧するモデレーター審査ページを備え、人間の判断(誤検知 / 確定)を項目ハッシュ・カテゴリ・時刻・審査者 ID とともに SQLite に記録する

的中の判定(6ヶ月後)

この形を実装した GitHub repo が 1,000 スター到達、または Product Hunt デイリー Top 5(判定日 2027-02-06)

AI自己確度 52/100 — 判定条件を満たす見込みの自己申告で、事業の成功率ではありません