Shinden
シンデン
Claude・GPT・Gemini に同一のプロンプトで為替と株価指数の方向を毎日予測させ、結果を機械採点して公開するベンチマーク。
- 無料
- 登録なし
- AI関連
- Web
- 01 予測206件の確率分布がすべて合計100で、予測方向とも1件も矛盾しなかった
- 02 3モデルとも「毎日"上"と言うだけ」の基準値に負けていると、自分で赤字で出している
- 03 ⚠️ 相場の予測サイト。当たるかどうかは、こちらでは評価していない
SCREEN market.itlibra.com の画面を切り抜いたもの 800×660
- ページ
- 70本
- 予測33・日次15ほか
- 拾えた予測
- 206件
- 確率分布つき
- 分布の合計
- 206 / 206
- ⭐ すべて100
- 採点済
- 1,594件
- 3モデルの合計と一致
何ができるか
Claude・GPT・Gemini に完全同一のプロンプト・同一の市場データ・同一の時刻で ドル円・日経平均・S&P500 の方向を毎日予測させ、結果を機械採点する 公開ベンチマークです。ページは70本あります。
予測は毎日3市場ぶんで、こういう形で出ます。
- 予測方向(上昇/下落/横ばい/予測不能)
- 確信度(0〜100%の自己申告。80以上で外すと過信ペナルティ)
- 確率分布(上昇・横ばい・下落それぞれの起こりやすさ。合計100)
- 横ばい判定の閾値(±0.40% など)と、翌営業日/1週間の2つの期間
🔴 数字が内側で揃っているかを数えました。 70ページから206件の予測を拾って、こう確かめています。
確率分布の合計が100 … 206 / 206 確信度が0〜100%の範囲 … 206 / 206 最大の確率と予測方向が一致 … 154 / 154(ほかに予測不能52件)
⭐ 1件も食い違いませんでした。
⭐ いちばん良いのは、基準値を先に置いていることです。
相場は長期的に上がりやすいため、中身を一切見ず毎日「上がる」と 言うだけでも動いた日の 60% が当たります。 AIがこの線を超えて初めて「相場を読めている」と言えます。
🔴 その基準値は 60.4%。3モデルの成績はこうです。
- Gemini Flash 50.9%(−9.5pt)
- GPT (Mid Tier) 48.0%(−12.5pt)
- Claude Sonnet 43.2%(−17.3pt)
★ 3モデルとも負けています。 それを自分の画面に赤字で出しています。
SCREEN market.itlibra.com の画面を切り抜いたもの 1240×820
SCREEN market.itlibra.com の画面を切り抜いたもの 1240×800
実際に当てた
| 照らしたもの | 結果 | 中身 |
|---|---|---|
| ページ | 70 / 70 | sitemap の全URLが 200 で返った |
| 確率分布の合計 | 206 / 206 | ⭐ 上昇+横ばい+下落が、206件すべてで100 |
| 確信度の範囲 | 206 / 206 | すべて0〜100%に収まっていた |
| 方向と分布の整合 | 154 / 154 | ⭐ 最大の確率と予測方向が食い違う例は0件(ほかに予測不能52件) |
| 採点済の合計 | 1,594 | ⭐ 542+513+539。画面の「採点済み1594件」と一致 |
| 基準値との差 | 3 / 3 | 50.9−60.4=−9.5pt など、引き算が画面どおり |
| キャリブレーションの件数 | 1,298 | 262+535+501。画面の申告と一致 |
| 採点済との差 | 296件 | ⚠️ ランキング1594とキャリブレーション1298の差。理由は書かれていない |
| プロンプトの公開 | あり | ⭐ 各モデルへ渡す指示文が読める |
| 強調の印の漏れ | 0 / 70 | アスタリスク2つが画面に出ているページは無かった |
🔴 2026-09-07。70ページを全部開き、予測の確率分布とランキングの数字をサイトの中だけで突き合わせた。⚠️ 予測が当たるかどうか、相場データそのものの正しさは当てていない。
向いている人・向いていない人
向いている人
向いていない人
触ってみて気づいたこと
⭐ このサイトの骨は「基準値」です。
予測の当たり外れを測るとき、いちばん多い誤りは 「50%より上だから当たっている」と考えることです。 ところが相場は長期的に上がりやすいので、 何も考えず毎日「上がる」と言うだけで6割当たります。
Shinden はその線を先に引きます。
基準値:「いつも"上"」と言うだけの戦略 60.4% (動いた日 1226 件中の上昇割合)
🔴 そして3モデルの成績を、この線からの差で出します。 Gemini Flash −9.5pt、GPT −12.5pt、Claude Sonnet −17.3pt。 ★ 全部マイナスで、画面でも赤く出ています。
🔴 数字を検算しました。 採点済は 542+513+539 = 1594 で、画面の「採点済み1594件」と一致。 引き算も 50.9−60.4 = −9.5 で画面どおり。 キャリブレーションの件数も 262+535+501 = 1298 で申告どおりでした。
⭐ 確率分布は206件すべてで揃っていました。 「↑70/→15/↓15」のような3つ組を70ページから拾って合計すると、 206件とも100。予測方向がいちばん高い確率と食い違う例も0件でした。
★ コミット率の関係も筋が通っています。 Gemini は88%の予測で上下を言い切り、そのうち動いた日が375件。 542×0.88=477 に対して 375 なので、動いた日は約79%。 GPT は約77%、Claude は約74%。⭐ 3モデルで近い値になるので、 「動いた日」の定義がモデルによって変わっていないと分かります。
⚠️ 説明が無いところが1つあります。 ランキングの「採点済み1594件」と、キャリブレーションの「1298件採点済」で 296件ずれます。確信度が記録されていない予測が除かれていると考えれば 自然ですが、🔴 そう書かれてはいません。
⚠️ こちらが評価していないことのほうが多い掲載です。 予測が当たるかどうかも、日経平均62,833.84のような相場データの正しさも、 採点の実装が正しいかも当てていません。 ★ 数えられるもの——確率の合計、件数の足し算、引き算——だけを見ています。
確認の記録
いつ、何を見て書いたかを残しています。 確認していないことは書きません。
-
★ サイト自身が全ページで「投資助言・売買推奨ではなく、AIモデルの予測精度を検証する目的の公開Arenaです」と断っている。
-
⚠️ 予測が当たるかどうかは評価していない。日経平均・S&P500・ドル円の相場データそのものも、採点の実装も一次情報に当てていない。
-
70ページの本文を機械で読み、強調の印(アスタリスク2つ)が画面にそのまま出ているページは0本だった。
-
★ コミット率と「動いた日」の関係を見た。542×0.88 に対し n=375(約79%)、 513×0.75 に対し n=298(約77%)、539×0.33 に対し n=132(約74%)。 3モデルで近い値なので、定義がモデルごとに変わってはいない。
-
⚠️ ランキングの「採点済み1594件」とキャリブレーションの「1298件」で 296件の差があるが、理由はどこにも書かれていない。確信度の記録が無い予測が除かれていると考えれば自然だが、こちらでは確かめられなかった。
-
キャリブレーションのモデル別件数 262+535+501 = 1298 で、画面の「1298件採点済」と一致した。
-
🔴 ランキングを検算した。採点済 542+513+539 = 1594 で画面の申告と一致。「vs いつも"上"」も 50.9−60.4=−9.5pt など画面どおりだった。
-
⭐ 予測方向が確率分布の最大と食い違う例は0件(154件が一致、ほかに「予測不能」が52件)。
-
🔴 70ページを全部開き、確率分布つきの予測を206件拾った。上昇+横ばい+下落の合計が100でないものは0件、確信度が0〜100%の範囲外のものも0件だった。
-
sitemap の 70 URL の内訳を数えた。予測33・日次15・対戦4・市場3・モデル3のほか、ランキング・キャリブレーション・プロンプト・用語集・採点方法・公平性・データ源・免責など。
同じ分類の掲載
すべて見る →
AIZEN NEWS
Wired・TechCrunch・MIT Technology Review などの海外AI記事を、日本語の要点整理にして並べたニュースサイト。記事は1,161本。