スキップしてメイン コンテンツに移動

投稿

ラベル(LLM 가이드)が付いた投稿を表示しています

【AIの豆知識】Gemini 3.5 Flash vs 3.1 Pro、トークンがあっという間に溶ける理由と賢いモデル選択ガイド

【AIの豆知識】Gemini 3.5 Flash vs 3.1 Pro、トークンがあっという間に溶ける理由と賢いモデル選択ガイド こんにちは!最近、Googleの次世代AIラインナップである Gemini 3.5 Flash と Gemini 3.1 Pro を使ってみて、「あれ?なんでこんなにトークン(コスト)がすぐに消えちゃうの?」と慌てた方も多いのではないでしょうか。 少し質問しただけなのにトークン制限に引っかかったり、高額な請求が来たりする泣きたくなる状況…。一体なぜこんなことが起こるのか、そして お財布を守りながらAIの効率を最大化するモデルやオプションの選択基準 を総まとめします! 1. 私のトークンはどこへ?犯人は「Thinkingモード」 Google Gemini 3.xラインナップの最強の武器は、ズバリ「内蔵型の高度な推論(Thinking)機能」です。これは、AIが最終的な答えを出す前に、内部で深く考える段階を経るというものです。 ここに落とし穴があります。 AIが内部で頭をフル回転させながら使った独り言(推論トークン)が、すべて「出力(Output)トークン使用量」に含まれて計算される という点です! Thinking (High) モードの恐ろしさ: ユーザーが1行の質問を投げただけでも、AIは完璧な答えを出すためにバックグラウンドで独自にエージェントループを回し、何万ものトークンを消費してしまいます。見た目は短い回答でも、実際には莫大なトークンが消費されている元凶なのです。 拡大された出力ウィンドウ: Gemini 3.5 Flashは、一度に出力できる上限が 65,536トークン へと大幅に増加しました。モデルが長文を書いたり、深く考え始めたりすると、たった1回の会話でトークンが空っぽになってしまいます。 2. Geminiモデル別「Thinkingレベル」によるトークン消費量の比較 すべてのモデルの最大入力は100万トークン、最大出力は65,536トークンで同じですが、 Thinkingの設定によって内部トークンの配分が完全に変わります。 比率と体格が異なる3つの設定( 3.5 Flash - Medium 、 3.1 Pro - Low 、 従来の3 Flash - High )のトークン使用量を明...

【AIの豆知識】Gemini 3.5 Flash vs 3.1 Pro、トークンがあっという間に溶ける理由と賢いモデル選択ガイド

【AIの豆知識】Gemini 3.5 Flash vs 3.1 Pro、トークンがあっという間に溶ける理由と賢いモデル選択ガイド こんにちは!最近、Googleの次世代AIラインナップである Gemini 3.5 Flash と Gemini 3.1 Pro を使ってみて、「あれ?なんでこんなにトークン(コスト)がすぐに消えちゃうの?」と慌てた方も多いのではないでしょうか。 少し質問しただけなのにトークン制限に引っかかったり、高額な請求が来たりする泣きたくなる状況…。一体なぜこんなことが起こるのか、そして お財布を守りながらAIの効率を最大化するモデルやオプションの選択基準 を総まとめします! 1. 私のトークンはどこへ?犯人は「Thinkingモード」 Google Gemini 3.xラインナップの最強の武器は、ズバリ「内蔵型の高度な推論(Thinking)機能」です。これは、AIが最終的な答えを出す前に、内部で深く考える段階を経るというものです。 ここに落とし穴があります。 AIが内部で頭をフル回転させながら使った独り言(推論トークン)が、すべて「出力(Output)トークン使用量」に含まれて計算される という点です! Thinking (High) モードの恐ろしさ: ユーザーが1行の質問を投げただけでも、AIは完璧な答えを出すためにバックグラウンドで独自にエージェントループを回し、何万ものトークンを消費してしまいます。見た目は短い回答でも、実際には莫大なトークンが消費されている元凶なのです。 拡大された出力ウィンドウ: Gemini 3.5 Flashは、一度に出力できる上限が 65,536トークン へと大幅に増加しました。モデルが長文を書いたり、深く考え始めたりすると、たった1回の会話でトークンが空っぽになってしまいます。 2. Geminiモデル別「Thinkingレベル」によるトークン消費量の比較 すべてのモデルの最大入力は100万トークン、最大出力は65,536トークンで同じですが、 Thinkingの設定によって内部トークンの配分が完全に変わります。 モデルと設定 (Thinking Level) 脳の稼働率 (推論の深さ) 平均的な内部推論トークン消費 特徴と体感 Gemini 3.5 Fl...