5×5盤面・重力あり(コネクトフォア型)の3目並べを、DQN(Deep Q-Network) で ゼロから学習させたAIです。人間の棋譜は一切使わず、20,000回の対戦を通じて自力で戦い方を身につけました。
推論はすべてあなたのブラウザ内で実行されています。 サーバーには一切通信していません(ONNX Runtime Web + WebAssembly)。
| 手法 | DQN(CNN + 経験再生 + ターゲットネットワーク) |
|---|---|
| パラメータ数 | 430,533 |
| モデルサイズ | 1.7 MB |
| 学習量 | 20,000エピソード |
| 報酬設計 | 勝敗のみ(±1.0、中間報酬なし) |
このAIは一度失敗作でした。「対ルールベースAI 勝率100%」を達成したのに、 人間が対戦すると簡単に勝ててしまったのです。調べたところ、 300回対戦させても棋譜はわずか2通り、AIが遭遇した盤面は11種類だけでした (状態空間 約6×106 の 0.0002%)。
AIとルールベースAIの両方が決定論的だったため、対局が毎回ほぼ同じ1本道をなぞっていたのです。 「100%」の正体は実力ではなく、11局面の暗記テストで満点を取っただけでした。
対策は「相手を強くする」ではなく「訪問する局面を広げる」こと。
開始局面をランダム化し、対戦相手にも15%のランダム性を混ぜたところ、
訪問局面は 11 → 4,477(407倍)、汎化性能は 66.2% → 83.2% に改善しました。
教訓: DQNの天井を決めるのは「相手の強さ」ではなく「相手が到達する局面の集合」。