Groq 免費 API 申請教學:開箱即用 Llama 4、超高速推理免信用卡

一句話總結: Groq 提供完全免費、免綁信用卡的 API,用自家 LPU 晶片跑 Llama 4 等開源模型,速度是傳統 GPU 的 10 倍以上。申請 5 分鐘搞定,適合開發者測試、串接 Side Project。


為什麼 Groq 值得申請?

Groq 免費 API 申請教學

Groq 值得申請的原因很簡單:它讓你免費使用 Llama 4 70B 等開源模型,速度比 RTX 4090 快 20 倍,而且不用綁信用卡。

傳統上要跑 Llama 4 70B 這種大型開源模型,你需要:

  • 一張 RTX 4090(NT$60,000+)→ 跑 8B 模型約 50 tokens/s
  • 或租雲端 GPU(每小時 NT$100+)
  • 或等免費額度緩慢生成

Groq 用自家研發的 LPU(Language Processing Unit) 取代 GPU,在同樣模型下跑出 1,200+ tokens/s 的速度——比 RTX 4090 快 20 倍以上。

而且目前完全免費,不用綁信用卡。


Groq 支援哪些模型?

模型類型速度實測適合場景
Llama 4 70B通用對話~1,200 tokens/s一般問答、寫作
Llama 3.3 70B通用對話~1,000 tokens/s穩定版替代
Mixtral 8x7B專家混合~900 tokens/s多語言、推理
Gemma 2 9BGoogle 輕量~1,500 tokens/s快速測試
Whisper語音轉文字即時錄音檔逐字稿

所有模型都可透過 OpenAI 兼容 API 呼叫,意味著你原本串 ChatGPT 的程式碼,改個網址和金鑰就能換成 Groq。


如何申請 Groq API 金鑰?

申請 Groq API 只要 5 分鐘,到 https://console.groq.com 註冊即可開始。

Step 1:註冊帳號

打開 https://console.groq.com

點右上角 Sign Up,可以用 Google 帳號直接登入,或填 Email 註冊。

不需要綁信用卡。 目前 Groq 仍維持免費政策,註冊即送 API 額度。

Step 2:取得 API Key

登入後,左側選單點 API Keys

Create API Key,輸入名稱(例如「my-project」),複製產生的金鑰字串。

⚠️ 這串金鑰只顯示一次,關掉視窗就看不到。 建議立即存到你的密碼管理器或 .env 檔案。

Step 3:開始呼叫 API

Groq 的 API 格式跟 OpenAI 完全相容。以下是用 curl 測試的範例:

curl https://api.groq.com/openai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer 你的_API_Key" \
  -d '{
    "model": "llama-4-70b",
    "messages": [{"role": "user", "content": "用繁體中文介紹 Groq"}]
  }'

如果返回正確的 JSON 回應,代表設定成功。

Step 4:串接到你的工具

由於 Groq 使用 OpenAI 兼容格式,你可以直接把它設為以下工具的後端:

工具設定方式
NextChat設定自訂 API,URL 改為 https://api.groq.com/v1
Open Interpreter環境變數 OPENAI_API_BASE=https://api.groq.com/v1
自訂 Python 腳本openai.base_url = "https://api.groq.com/v1"
n8n / MakeHTTP Request 節點,指向 Groq 端點
VS Code 擴充支援 OpenAI 格式的擴充都可設定

Groq 速度對比

Groq 和 OpenAI 的費用差多少?

面向GroqChatGPT API
月費免費依用量計費
綁信用卡❌ 不用✅ 需要
速度1,200+ tokens/s中等
可用模型開源模型GPT 專屬
API 相容OpenAI 格式原生
適合測試、Side Project、學術生產環境

使用 Groq 免費 API 有哪些限制?

  1. 免費額度有限制 — Groq 目前有 Rate Limit(每分鐘請求次數限制),大量商用需確認最新政策
  2. 模型品質 vs GPT — Llama 4 70B 已接近 GPT-4 水準,但中文能力仍略遜,建議實測看看
  3. 非生產級 SLA — 免費服務無保證可用性,重要專案建議保留備援方案
  4. 台灣連線速度 — Groq 伺服器在美國,台灣連線延遲約 100-200ms,可接受

拿到 Groq API 後可以做什麼?

拿到 Groq API 後,你可以:

  • 串到 NextChat 當免費 ChatGPT 替代
  • 接到 n8n 做自動化工作流
  • 寫一個 Telegram Bot 用 Llama 4 回覆訊息
  • 測試 Llama 4 的中文能力到底到什麼程度

你有沒有用過 Groq?留言告訴我你打算拿它來做什麼 👇


延伸閱讀