Groqは、元Googleのエンジニアが立ち上げたチャット型生成AIサービスです。ChatGPTのように対話しながら回答してくれるAIになります。
特徴
Groqの特徴はなんと言っても、その回答への速度です。ChatGPTの数倍の速度で回答を返してくれます。その理由は、Groqが独自に開発しているLPU（Language Processing Unit）にあります。Groqの開発者自身、元々GoogleでTPUの開発に携わっていたそうです。今後、AI専用チップの開発はますます進んでいくと思われます。
Groqは独自のLLMを持っている訳ではなく、Llama3やGemma、Mixtralなどを指定します。
API
GroqはAPIを提供しています。APIを利用することで、自社のサービスにAIを組み込むことができます。GroqCloudというサービスにて、プレイグラウンドが提供されています。
料金
執筆時点（2024年05月）で、Groqは無料で利用できます。ただし、APIの利用には登録が必要です。たとえばLlama 3 70Bの場合、100万トークンあたり入力が0.59ドル、出力が0.79ドルとなっています。
Accelerating Systems with Real-time AI Solutions - Groq
URL
PREVIOUSPages CMS
NEXTCockroachDB