ローカルJEV互換 + Qwen3 + Flask + PostgreSQL/RAG

1. そもそもJEV（Jev）とは何か

Jev はTypeSafe AIが2026年9月に公開した「System One Model」の最初のモデルです。通常のLLMが文章を生成することを主目的にするのに対し、Jevは入力された状態を見て、型付きの判断と確率を返すことを主目的にしています。

Jevの3種類の判断

2. 今回作るものは「Jevそのもの」ではなく「Jev互換ローカル実装」

TypeSafe公式はPython SDKに加え、LLM APIを使ってJev互換の評価インターフェースを実現する system-one-adapter-python を公開しています。この考え方をローカルQwen3に適用します。

アプリ側ではJev風の共通APIだけを見るようにし、将来は次のように差し替えられる構造にします。

3. 提案する全体構成

基本方針：LLMに全部を任せない。RAGは根拠検索、JEV互換層は判断、Pythonは確定処理を担当する。

4. Ubuntu / Mac を同一設計にする方法

5. 処理の流れ

例：設備点検

{
  "state": {
    "report": "擁壁に新しい斜めクラックを確認。雨天後に湧水あり。",
    "rag_context": [
      "維持管理基準 4.2: 新規クラックと湧水の併発時は詳細確認...",
      "過去点検: 前回はクラックなし..."
    ]
  },
  "questions": {
    "category": {
      "type": "choice",
      "criteria": ["経過観察", "再点検", "専門家確認", "緊急対応"]
    },
    "urgent": {
      "type": "noul",
      "instruction": "早急な対応が必要か"
    },
    "severity": {
      "type": "score",
      "scale": ["軽微", "中", "大", "緊急"]
    }
  }
}

結果が urgent = 0.92 なら、「0.85以上は担当者へ通知」のようにPython側で明示的なルールを実行できます。判断と処理を分離するため、業務システムとして監査しやすくなります。

6. この構成で何ができるか

7. 特に相性が良い使い方

8. 通常の「ローカルLLM + RAG」より何が増えるのか

RAG → Qwen3 → 「確認が必要と思われます」

RAG → Qwen3 Decision
→ {
  "action": "expert_review",
  "probability": 0.91
}
→ Pythonで処理

9. 実装予定のAPI

10. 判断履歴を保存する理由

JEV型の仕組みでは、単に最終回答を保存するだけでなく、何を見て、どの選択肢を何％と評価し、どの閾値によって処理したかを記録できます。

decision_log
├─ id
├─ created_at
├─ model
├─ state_hash
├─ retrieved_document_ids
├─ question_type
├─ choices / score
├─ probabilities
├─ selected_action
├─ threshold
└─ execution_result

これにより、後日「なぜこの処理になったのか」を追跡しやすくなり、精度改善用の評価データにもできます。

11. 初期構成案

12. 精度を上げるための二段階構成

初期版はQwen3に確率分布を構造化出力させます。その後、よりJev型に近づけるために候補トークンのlogits / logprobsを直接利用する方式を追加できます。

13. 実装上の重要原則

14. 最終的に目指す形

                      ┌──────── 通常の回答 ────────┐
ユーザー / センサー → RAG → Qwen3               │
                      │                           ↓
                      └→ JEV互換 Decision → Python → 実行
                              │
                              ├→ 自動処理
                              ├→ 再検索
                              ├→ 別LLMへ依頼
                              ├→ 人へ確認
                              └→ 保留

「話すAI」と「判断するAI」を分け、その判断結果をPythonが安全に実行する。 これが今回のローカルJEV互換基盤の中心です。