プロンプトAPI

「Prompt API」はGoogle提供のオンデバイス大規模言語モデル推論API。内部的にGemini Nanoモデルを活用し、インターネット接続なしでローカル環境において直接テキスト生成やプロンプト処理を実現します。

ユーザーはネイティブアプリケーションのインストールなしに透過的な形でローカル推論機能を利用でき、特に非技術ユーザーの利便性に優れています。HackerNewsのコメントから見える利用事例は多様で、ソーシャルメディアの不毛な言論の応酬を削減する「de-snarkifier」ツール、低スペック環境でのローカルAI推論、プライバシー重視の用途などが挙げられます。

センシティブなデータをサーバーに送信せずに処理できるという点が大きな利点です。性能面では、Gemini Nano-2が56% MMULを達成する一方で、Gemma4 E2B（60.0% MMLU）やGemma4 E4B（69.4% MMLU）といったオープンソースモデルの方がベンチマークスコアで優位にあります。

しかし無料かつ統合が容易という点で、特に非技術ユーザー向けに実用的な価値があります。オンデバイスAI処理、プライバシー保護、低消費電力推論という現代的なニーズに応える重要な技術として注目される一方で、実装面での課題やollama等の既存ソリューションとの使い分けが必要との指摘もあり、完璧ではない現状が認識されています。