なぜこの比較を行ったのか
当サイトの無料チャットでは、新規アカウントの最初の3回の返答を Mistral Large 4 で行い、その後は Mistral Small 4 に切り替わります。Pro およびクレジットパックは Large 4 のままです。ベンチマーク表ではなく実際のタスクで、大きいモデルがいつその価格に見合う価値があるのかを知りたかったのです。定価では、Large 4 は入力100万トークンあたり $1.36、出力100万トークンあたり $4.18、Small 4 は $0.15 と $0.60 で、入力で約9倍、出力で約7倍の差があります。
方法:実際の業務のように見える8つのプロンプト(なぞなぞではなく)を、チャット補完API経由で mistral-large-4 と mistral-small-2603 にそれぞれ1回ずつ送信しました。reasoning_effort は none に設定し、temperature 0.2、出力上限は1,500トークンです。時間はアジアの1台のマシンからの実測時間なので、絶対値は異なる場合があります。2つのモデル間の比率が重要です。プロンプトごとに1回の実行なので、小さな差はノイズとして扱ってください。
