Qwen3.7 Max APIとローカルLLMを連携させたハイブリッドAIエージェントの構築方法

所要時間: 約40分 | 難易度: ★★★★☆

この記事で作るもの

Qwen3.7 Maxの圧倒的な推論性能と、ローカルLLM（Ollama）の機密性を使い分ける「コスト最適化型AIエージェント」を構築します。 具体的には、入力されたタスクの難易度をローカル側で判定し、高度な思考が必要な場合のみQwen3.7 Maxにリクエストを飛ばすPythonスクリプトを完成させます。

前提知識として、Pythonの基本的な文法と、ターミナル（コマンドプロンプト）の操作ができることを想定しています。

必要なものは以下の通りです。

• Alibaba Cloud（DashScope）のAPIキー
• Python 3.10以上の環境
• OllamaがインストールされたPC（または外部サーバー）

先に確認するスペック・料金

Qwen3.7 Maxは、Artificial AnalysisのベンチマークにおいてGPT-4oやClaude 3.5 Sonnetに匹敵、あるいは一部上回るスコアを叩き出しています。 API利用料は1,000トークンあたり数円レベルと安価ですが、大量のドキュメントを読み込ませればそれなりにコストが嵩みます。

ローカル環境については、今後リリースが期待されている27B/35Bクラスのモデルを見据えるなら、VRAM 24GB（RTX 3090/4090）が理想です。 現状の7B/14Bクラスであれば、VRAM 8GB〜12GBのミドルレンジGPUや、メモリ16GB以上のMacでも十分に動作します。 もしGPUがない場合は、APIに全振りする構成も可能ですが、この記事の「使い分け」によるメリットは薄れます。

なぜこの方法を選ぶのか

すべてのタスクをQwen3.7 Maxに投げれば精度は保証されますが、APIコストとプライバシーの懸念が残ります。 逆にすべてをローカルLLMで完結させようとすると、複雑な論理構築で「ハルシネーション（嘘）」が混じるリスクが高まります。

Artificial Analysisの結果が示す通り、Qwen3.7 Maxは「極めて複雑な推論」に強いモデルです。 簡単な文章要約や定型文の作成はローカルのQwen 2.5-7Bに任せ、企画立案やコードのデバッグなど、高い推論能力が必要な場面だけMaxを呼び出すのが、現時点での「仕事で使える」最適解です。

Step 1: 環境を整える

まずは必要なライブラリをインストールします。 OpenAI互換のSDKを使うことで、コードの汎用性を高めます。

# 仮想環境の作成（推奨）
python -m venv venv
source venv/bin/activate  # Windowsの場合は venv\Scripts\activate

# 必要なパッケージのインストール
pip install openai python-dotenv

openaiライブラリはQwenのAPI（DashScope）とローカルのOllama両方に接続するために使用します。 python-dotenvは、APIキーをソースコードに直書きしないためのセキュリティ対策です。

⚠️ 落とし穴: Ollamaをインストールした直後は、モデルがダウンロードされていません。 必ず ollama pull qwen2.5:7b を実行して、ベースとなるローカルモデルを手元に用意しておいてください。

Step 2: 基本の設定

プロジェクトのルートディレクトリに .env ファイルを作成し、APIキーを保存します。

# .env
DASHSCOPE_API_KEY=あなたのAPIキー
QWEN_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1

次に、Pythonスクリプト側でクライアントを初期化します。

import os
from openai import OpenAI
from dotenv import load_dotenv

load_dotenv()

# Qwen3.7 Max (クラウド) 用クライアント
cloud_client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url=os.getenv("QWEN_BASE_URL")
)

# Ollama (ローカル) 用クライアント
# デフォルトでは localhost:11434 で動作しているはずです
local_client = OpenAI(
    api_key="ollama", # Ollamaでは任意の文字列でOK
    base_url="http://localhost:11434/v1"
)

APIキーを環境変数から読み込む理由は、GitHubなどに誤ってコードをアップロードした際の事故を防ぐためです。 また、OllamaのURLは環境によって 127.0.0.1 に書き換える必要がある場合もあります。

Step 3: 動かしてみる

まずは両方のモデルが正しく応答するか、最小限のコードで確認します。

def test_connection():
    # ローカルのテスト
    local_res = local_client.chat.completions.create(
        model="qwen2.5:7b",
        messages=[{"role": "user", "content": "こんにちは"}]
    )
    print(f"Local: {local_res.choices[0].message.content}")

    # クラウドのテスト
    cloud_res = cloud_client.chat.completions.create(
        model="qwen3.7-max",
        messages=[{"role": "user", "content": "自己紹介してください"}]
    )
    print(f"Cloud: {cloud_res.choices[0].message.content}")

if __name__ == "__main__":
    test_connection()

期待される出力

Local: こんにちは！何かお手伝いできることはありますか？
Cloud: 私はQwen3.7 Maxです。アリババによって訓練された大規模言語モデルです...

ここでエラーが出る場合、多くはAPIキーの有効期限切れか、Ollamaがバックグラウンドで起動していないことが原因です。 特にOllamaはタスクバーのアイコンを確認してください。

Step 4: 実用レベルにする

ここからが本番です。入力内容の「難易度」を判定し、モデルを自動で切り替えるロジックを実装します。 私が実務で使う際は、プロンプトに「推論スコア」を出力させる手法をよく使います。

def smart_router(user_input):
    # ステップ1: ローカルモデルで難易度を判定
    # 1〜10のスコアで判定させる
    judge_prompt = f"""
    以下のユーザー入力の難易度を1(簡単)から10(非常に複雑)で判定してください。
    出力は数字1文字だけにしてください。
    入力: {user_input}
    """

    score_res = local_client.chat.completions.create(
        model="qwen2.5:7b",
        messages=[{"role": "user", "content": judge_prompt}]
    )

    try:
        score = int(score_res.choices[0].message.content.strip())
    except ValueError:
        score = 5 # 判定失敗時は中間値

    print(f"判定スコア: {score}")

    # ステップ2: スコアに応じてモデルを選択
    # スコア7以上ならQwen3.7 Maxを使用
    if score >= 7:
        print("Qwen3.7 Maxを呼び出します...")
        response = cloud_client.chat.completions.create(
            model="qwen3.7-max",
            messages=[{"role": "user", "content": user_input}]
        )
    else:
        print("ローカルモデルで処理します...")
        response = local_client.chat.completions.create(
            model="qwen2.5:7b",
            messages=[{"role": "user", "content": user_input}]
        )

    return response.choices[0].message.content

# 実行例
user_task = "量子コンピュータのアルゴリズムについて、数式を用いて専門的に解説して"
print(smart_router(user_task))

この「ルーター」の仕組みにより、単なる挨拶や単純な翻訳には0円のローカルLLMを使い、専門的な問いにだけQwen3.7 Maxのパワーを充てることができます。 私がテストした限り、この判定用プロンプト自体のオーバーヘッドは0.5秒程度で、APIコストの削減効果の方が圧倒的に大きいです。

よくあるトラブルと解決法

次のステップ

このハイブリッド構成が組めたら、次は「27B/35Bモデル」の導入を検討してください。 Artificial Analysisの傾向を見る限り、Qwenの27B/35Bクラスは、ローカルでありながら現在のGPT-4クラスに近い推論能力を持つはずです。

具体的な拡張案としては以下のようなものがあります。

1. RAGの統合: ローカルのベクトルデータベースと組み合わせ、社内ドキュメントの検索結果をQwen3.7 Maxに渡して要約させる。
2. 非同期処理: asyncioを使い、ローカルとクラウドへのリクエストを並列化してレスポンス速度を上げる。
3. ストリーミング出力: stream=Trueを設定して、ChatGPTのように文字が順次表示されるUIを構築する。

ローカルとクラウドの境界線をどこに引くかが、これからのエンジニアの腕の見せ所です。

よくある質問

Q1: Qwen3.7 Maxを使うためのAPI料金はどのくらいですか？

執筆時点での目安ですが、100万トークンあたり数百円程度です。GPT-4oよりも安価に設定されていることが多く、同じ予算で2〜3倍の試行回数を確保できるのがQwenシリーズの強みです。

Q2: 27Bや35Bのモデルを動かすのにRTX 4090は必須ですか？

快適な速度（15〜20 tok/s以上）を求めるならRTX 4090がベストです。しかし、4-bit量子化（GGUF形式など）を使えば、VRAM 16GBのRTX 4060 Tiでも、推論速度は落ちますが動作自体は可能です。

Q3: 日本語の能力はどうですか？

Qwen 2.5以降、日本語能力は飛躍的に向上しました。Qwen3.7 Maxであれば、不自然な敬語や漢字の間違いはほぼ見られず、日本の文脈に合わせた技術解説も高精度で行えます。

あわせて読みたい

• Tiny Aya 使い方：101言語対応の超軽量モデルをローカルで動かす
• Open InterpreterでManus級の自律型AIエージェントを自作する方法
• Qwen 3.6 27B と Gemma 4 31B 使い方比較！Pythonでパックマンを作る方法