Bỏ qua tới nội dung
Ông T.vn

FreeLLMAPI: gom hàng trăm model AI miễn phí vào một cổng — hướng dẫn cài đặt và dùng

10 phút đọcCập nhật

Bài này là một góc nhìn khác về tashfeenahmed/freellmapi — repo từng đổi tên nên mình viết lại với cách tiếp cận khác. Bài hướng dẫn chính: FreeLLMAPI: gom nhiều LLM miễn phí vào một API — hướng dẫn cài đặt và dùng →

FreeLLMAPI: gom hàng trăm model AI miễn phí vào một cổng — hướng dẫn cài đặt và dùng

Tóm tắt nhanh

FreeLLMAPI là một router chạy trên máy của bạn. Nó gom gói miễn phí của nhiều nhà cung cấp AI thành một endpoint /v1 kiểu OpenAI, tự chọn model và tự chuyển nhà cung cấp khi bị giới hạn. Cài bằng một dòng lệnh Docker hoặc bộ cài .exe cho Windows, khá dễ, nhưng bạn vẫn phải tự lấy key miễn phí ở từng nhà cung cấp.

FreeLLMAPI là một máy chủ nhỏ chạy ngay trên máy bạn. Nó gom gói miễn phí của rất nhiều nhà cung cấp AI (Google, Groq, Cerebras, Mistral, OpenRouter, Cloudflare, NVIDIA, HuggingFace…) và đưa ra một địa chỉ duy nhất theo chuẩn OpenAI: http://localhost:3001/v1. Ứng dụng nào nói chuyện được với OpenAI thì nói chuyện được với nó.

Vấn đề nó giải quyết rất đời thường. Nhà cung cấp nào cũng cho dùng thử miễn phí vài triệu token mỗi tháng hoặc vài nghìn yêu cầu mỗi ngày. Một gói thì nhỏ, nhưng cộng nhiều gói lại thì đủ để thử nghiệm thoải mái. Làm tay thì rất mệt: mỗi nhà một SDK, một giới hạn, một kiểu lỗi. FreeLLMAPI lo hết phần đó. Bạn chỉ việc dán key của từng nhà vào, còn lại nó tự chọn model và tự đổi nhà khi một bên hết lượt.

Repo này hợp với lập trình viên mới muốn có API để học và làm thử, người dùng Claude Code, Codex CLI, Cursor, Cline, Aider muốn cấp "nhiên liệu" miễn phí cho công cụ, và người làm văn phòng muốn tự dựng trợ lý nội bộ để thử nghiệm. Hiện repo có khoảng 51.280 sao và 7.137 fork, giấy phép MIT. Tác giả ghi rõ mục đích là thử nghiệm cá nhân, nên đừng xem nó là hạ tầng chạy sản phẩm thật.

Ứng dụng

tashfeenahmed/freellmapi

FreeLLMAPI gom gói miễn phí của hàng chục nhà cung cấp AI vào một địa chỉ /v1 chuẩn OpenAI, tự chọn model và tự chuyển sang nhà khác khi hết hạn mức.

★ 51kTypeScriptMIT
Xem repo trên GitHub

I.FreeLLMAPI làm được gì

Một địa chỉ cho mọi thứ. Cổng /v1 hỗ trợ chat (/v1/chat/completions), /v1/responses (Codex CLI cần cái này), embeddings, sinh ảnh, sinh video, đọc giọng nói và chuyển giọng nói thành chữ. Bạn không phải học API riêng của từng nhà.

Nói được nhiều "ngôn ngữ" khác nhau. Ngoài chuẩn OpenAI, nó còn có /v1/messages theo kiểu Anthropic (để Claude Code chạy được), /v1beta cho Gemini CLI, và giả lập Ollama (tuỳ chọn) cho các công cụ như Zed hay JetBrains.

Tự chọn model, tự chuyển nhà. Router chấm điểm tốc độ, năng lực và độ ổn định của từng model. Khi một nhà trả lỗi 429 hoặc 5xx, nó thử model kế tiếp, có thời gian chờ và xoay vòng key. Bạn có thể đặt model là auto, auto:fast, auto:smart, tên một hồ sơ (ví dụ chuỗi cho lập trình, chuỗi cho ảnh) hoặc đúng tên model.

Đếm hạn mức cho từng key. Nó theo dõi số yêu cầu và token theo phút, theo ngày trên từng key để bạn không vượt ngưỡng miễn phí.

Fusion. Gọi model ảo tên fusion, router gửi câu hỏi cho nhiều model miễn phí cùng lúc, rồi một model "giám khảo" tổng hợp thành một câu trả lời.

Key được mã hoá. Key của các nhà cung cấp được mã hoá AES-256-GCM trong SQLite. Ứng dụng của bạn chỉ thấy một token chung dạng freellmapi-….

Bảng điều khiển. Có giao diện web để quản lý key, sắp xếp chuỗi dự phòng, thử trực tiếp (playground) và xem thống kê. Giao diện có 60 ngôn ngữ, tự nhận theo trình duyệt của bạn.

Thêm endpoint riêng. Bạn có thể trỏ tới llama.cpp, LM Studio, vLLM, Ollama trên máy hoặc một cổng từ xa, miễn là tương thích OpenAI.

Danh mục model tự cập nhật. Router tải một danh mục có chữ ký từ trang chủ dự án. Bản miễn phí nhận danh mục theo bản chụp hằng tháng, tức là model mới đến chậm khoảng 30 ngày. Có gói trả phí để nhận ngay trong ngày, nhưng router vẫn MIT và dùng miễn phí được.

II.Cần chuẩn bị gì

Theo README và package.json, bạn cần:

  • Hệ điều hành: Windows, macOS, Linux, hoặc cả bo mạch ARM nhỏ như Raspberry Pi. Repo nói chạy được ở mọi nơi có Node 20 trở lên.
  • Node: package.json yêu cầu Node từ 20.18.0 đến dưới 25.0.0. Bạn chỉ cần quan tâm khi chạy từ mã nguồn.
  • Docker: cần cho cách cài một dòng lệnh. README ghi "Docker required".
  • Key của nhà cung cấp: bạn tự đăng ký tài khoản miễn phí ở từng nhà (Google, Groq, OpenRouter…) rồi lấy key. Repo không cấp key giúp bạn.
  • Phần cứng: README không yêu cầu GPU. Router chỉ chuyển tiếp yêu cầu tới nhà cung cấp, và README ghi mức dùng RAM khoảng 40 MB khi nghỉ.

Không cần tài khoản FreeLLMAPI. Bản desktop cũng không cần mật khẩu, thứ duy nhất bạn cần là key chung hiện ở khay hệ thống.

III.Cài đặt từng bước

  1. Cài DockerChuẩn bị Docker trên máy (hoặc chọn bộ cài .exe/.dmg nếu dùng Windows/macOS)
  2. Chạy lệnh càiDán một dòng lệnh để tự tạo thư mục, khoá mã hoá và chạy container
  3. Mở bảng điều khiểnVào http://localhost:3001 trên trình duyệt
  4. Thêm key nhà cung cấpDán key miễn phí của từng nhà ở trang Keys
  5. Lấy key chungCopy key freellmapi-… ở đầu trang Keys
  6. Trỏ ứng dụng vàoĐặt base URL là http://localhost:3001/v1

A.Cài Docker

Cách nhanh nhất theo README cần Docker. Hãy cài Docker Desktop (hoặc Docker Engine trên Linux) và bật nó lên trước khi làm bước tiếp theo. README không hướng dẫn cài Docker, bạn xem hướng dẫn trên trang của Docker.

B.Chạy lệnh cài một dòng

Mở terminal (macOS/Linux) hoặc Git Bash, rồi dán:

Terminal
curl -fsSL https://freellmapi.co/install.sh | bash

Lệnh này tải một script cài đặt rồi chạy luôn. Script sẽ tạo thư mục ~/freellmapi, sinh khoá mã hoá, tải image và khởi động container. Chạy lại lần nữa vẫn an toàn: file .env và khoá mã hoá được giữ nguyên, container cập nhật lên bản :latest. Nếu bạn ngại chạy script không đọc trước, README có dẫn tới nội dung script để bạn xem trước.

Người mới hay vấp: lệnh này là kiểu bash. Trên Windows thuần PowerShell nó sẽ không chạy, hãy dùng bộ cài .exe ở bước dưới.

C.Hoặc dùng bộ cài cho Windows và macOS

Trên Windows, README khuyên dùng bộ cài .exe trong mục Releases của repo. Trên macOS có bản .dmg (chọn arm64 cho Apple Silicon hoặc x64 cho Intel, cần macOS 12 trở lên). Cả hai chạy ngay trên khay hệ thống, kèm một cửa sổ nhỏ hiện thống kê. Không cần tài khoản hay mật khẩu.

D.Các cách cài khác

Docker Compose, chạy từ mã nguồn, cấu hình khi khởi động, build bản production, truy cập qua mạng LAN và sao lưu đều nằm trong file docs/en/install/01-install.md của repo. Bản README mình có chưa chép lệnh cụ thể cho các cách này, nên bạn hãy mở file đó và làm theo, đừng đoán lệnh.

E.Mở bảng điều khiển và thêm key

Mở trình duyệt, vào:

text
http://localhost:3001

Vào trang Keys, thêm key của các nhà cung cấp bạn đã đăng ký. Sau đó có thể sắp xếp lại Fallback Chain (thứ tự dự phòng) theo ý bạn. Ở đầu trang Keys có "unified key" dạng freellmapi-…. Đây là key duy nhất ứng dụng của bạn cần.

Key của nhà cung cấp là thứ nhạy cảm. Đừng gửi vào nhóm chat, đừng đưa lên Git. Key chung freellmapi-… cũng nên giữ riêng. Mặc định hãy chỉ dùng trên máy của bạn, đừng mở cổng ra Internet khi chưa hiểu mình đang làm gì.

IV.Kiểm tra đã chạy được chưa

Có ba dấu hiệu theo tư liệu:

  1. Trang http://localhost:3001 mở ra bảng điều khiển có trang Keys và Fallback Chain.
  2. Sau khi thêm ít nhất một key hợp lệ, bạn dùng được playground trên bảng điều khiển để thử một câu hỏi.
  3. Chạy thử bằng Python (cần thư viện openai) với đoạn mẫu của README:
Python
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-your-unified-key",
)

resp = client.chat.completions.create(
    model="auto",  # let the router pick; or "auto:fast", "auto:smart", a profile, or a model id
    messages=[{"role": "user", "content": "Summarise the fall of Rome in one sentence."}],
)
print(resp.choices[0].message.content)
print("Routed via:", resp.headers.get("x-routed-via"))

Thay freellmapi-your-unified-key bằng key chung của bạn. Nếu in ra được câu trả lời là thành công. Mỗi phản hồi còn có header X-Routed-Via cho biết nhà nào và model nào đã trả lời.

V.Dùng vào việc thật

A.Lập trình viên mới học gọi API mà không muốn trả tiền

Bạn đang làm bài tập hoặc dự án nhỏ, cần gọi một model để tóm tắt hay phân loại văn bản. Bạn đăng ký key miễn phí ở vài nhà, dán vào trang Keys, rồi dùng đúng đoạn Python ở trên. Đặt model="auto" để router tự chọn, hoặc "auto:fast" khi cần phản hồi nhanh. Kết quả: code của bạn chỉ có một base_url, khi nhà này hết lượt thì nhà khác thế chỗ, bạn không phải sửa code.

Mỗi gói miễn phí riêng lẻ chỉ là đồ chơi, nhưng gom lại sau một cổng thì thành một kho để thử nghiệm.

Ông T

B.Người dùng Claude Code muốn chạy bằng pool miễn phí

README có lệnh cấu hình sẵn cho Claude Code, đọc danh mục hiện có, sao lưu cấu hình cũ rồi gộp vào:

Terminal
npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>

Thay <unified-key> bằng key chung của bạn. README cũng nhắc npx freellmapi launch (cho Claude Code) và launch-codex (cho Codex) giúp không để key trong file cấu hình. Mọi lệnh tạo cấu hình đều hỗ trợ --dry-run để xem trước. Kết quả: công cụ lập trình của bạn gọi model qua router miễn phí thay vì tính phí theo token.

C.Chủ shop nhỏ thử viết mô tả sản phẩm hàng loạt

Bạn có một nhân viên hiểu chút Python, cần sinh mô tả cho vài chục sản phẩm. Họ dùng đoạn code mẫu, đổi messages thành câu như "Viết mô tả 50 chữ cho áo thun cotton màu trắng", lặp qua danh sách sản phẩm. Nếu một nhà báo lỗi giới hạn, router tự chuyển sang model khác. Kết quả: bạn có bản nháp để chỉnh. Đây là thử nghiệm, không nên đưa dữ liệu khách hàng nhạy cảm vào.

D.Muốn so sánh câu trả lời của nhiều model

Bạn đang phân vân nên dùng model nào cho một việc, ví dụ tóm tắt biên bản họp. Đặt model="fusion" trong đoạn Python trên. Router gửi câu hỏi cho nhiều model miễn phí cùng lúc, rồi một model giám khảo tổng hợp thành một câu trả lời. Kết quả: bạn nhận một bản tổng hợp thay vì chọn tay từng model. Cách này tốn nhiều lượt hơn trong hạn mức miễn phí, nên dùng có chừng mực.

VI.Lỗi hay gặp và cách xử lý

Lệnh curl ... | bash báo lỗi hoặc không chạy được. Thường do chưa bật Docker, hoặc bạn đang dùng PowerShell thuần trên Windows. Hãy mở Docker Desktop trước, hoặc chuyển sang bộ cài .exe trong mục Releases.

Không vào được http://localhost:3001. Kiểm tra container đã chạy chưa. Cổng mặc định trong README là 3001. File .env.example có biến PORT, nên nếu cổng bị chiếm bạn có thể đã đổi hoặc cần đổi cổng. Chi tiết xem docs/en/install/01-install.md.

Gọi API bị từ chối (401). Thường do dán sai key. Bạn phải dùng key chung freellmapi-… ở đầu trang Keys, không phải key gốc của Google hay Groq.

Báo lỗi hết hạn mức hoặc không có model dùng được. Có thể bạn mới thêm quá ít key, hoặc các key đã chạm giới hạn miễn phí. Thêm key của nhà khác, kiểm tra lại bằng trang Keys, hoặc dùng npx freellmapi keys test để kiểm tra lại các key đã lưu (cần token phiên của bảng điều khiển, xem cli/README.md).

Mất khoá mã hoá sau khi cài lại. Biến ENCRYPTION_KEY nằm trong file .env. Script cài đặt giữ nguyên file này khi chạy lại, nhưng nếu bạn xoá thư mục hoặc tự dựng lại thì key đã lưu có thể không đọc được. Hãy sao lưu file .env ở nơi an toàn.

VII.Có nên dùng không

Điểm mạnh: một địa chỉ cho nhiều nhà, tự chuyển dự phòng, theo dõi hạn mức từng key, key được mã hoá, có bảng điều khiển đẹp, cài nhanh bằng Docker hoặc bộ cài. Chạy cục bộ, yêu cầu máy nhẹ, giấy phép MIT.

Giới hạn: tác giả ghi rõ đây là công cụ cho thử nghiệm cá nhân, thiết kế cho một người dùng. Chất lượng model miễn phí không đều, và nhà cung cấp có thể đổi hạn mức hoặc gỡ model bất kỳ lúc nào. Bạn vẫn phải tự đăng ký key từng nhà. Bản miễn phí nhận model mới chậm khoảng 30 ngày so với bản trả phí. README cũng có mục Limitations liệt kê những gì chưa hỗ trợ, bạn nên đọc trước khi dựa vào.

Khi nên chọn cách khác: nếu bạn cần chạy cho khách hàng thật, cần cam kết ổn định hay xử lý dữ liệu nhạy cảm, hãy dùng gói trả phí chính thức của một nhà cung cấp. Nếu chỉ cần một model, gọi thẳng nhà đó cho đơn giản. Còn để học, thử nghiệm và cấp nhiên liệu miễn phí cho công cụ lập trình, FreeLLMAPI rất đáng thử.

5.0/5 · Ông T chấm

Chưa có độc giả chấm

Bài này có ích với bạn không?

Câu hỏi thường gặp

FreeLLMAPI có miễn phí không?

Router là mã nguồn mở giấy phép MIT và dùng miễn phí. Bạn dùng gói miễn phí của các nhà cung cấp AI bằng key của chính bạn. Dự án có thêm gói Premium tuỳ chọn để nhận danh mục model mới ngay trong ngày, bản miễn phí nhận danh mục chậm khoảng 30 ngày.

Có cần GPU không?

README không yêu cầu GPU. Router chỉ chuyển tiếp yêu cầu tới các nhà cung cấp, và tư liệu ghi mức dùng RAM khoảng 40 MB khi nghỉ. Bạn chỉ cần GPU nếu tự trỏ tới một model chạy cục bộ như llama.cpp hay vLLM, nhưng đó là việc của các công cụ đó.

Chạy trên Windows được không?

Được. README khuyên dùng bộ cài .exe ở mục Releases của repo. Cách cài một dòng lệnh dùng Docker và cú pháp bash, nên trên Windows hãy dùng Git Bash hoặc chọn bộ cài .exe.

Dữ liệu và key của tôi có an toàn không?

README ghi dự án chạy cục bộ, dành cho một người dùng. Key nhà cung cấp được mã hoá AES-256-GCM trong SQLite, còn yêu cầu đi từ máy bạn thẳng tới nhà cung cấp bạn bật. Máy chủ danh mục không thấy prompt, câu trả lời hay key của bạn. Mức độ an toàn tổng thể phụ thuộc cách bạn cấu hình, README cũng nhấn mạnh đây là công cụ thử nghiệm cá nhân.

Công cụ nào dùng được với nó?

Mọi ứng dụng cho phép đặt base URL kiểu OpenAI là http://localhost:3001/v1 đều dùng được. README liệt kê Claude Code, Codex CLI, Gemini CLI, Cursor, Cline, Roo Code, OpenCode, Aider và nhiều công cụ khác. Nhiều công cụ có lệnh tự cấu hình sẵn.

Khác gì việc gọi thẳng API của từng nhà?

Gọi thẳng thì bạn phải viết code riêng cho từng nhà và tự xử lý giới hạn. FreeLLMAPI gom lại sau một endpoint, tự chọn model, tự chuyển nhà khi lỗi 429 hoặc 5xx và đếm hạn mức theo từng key. Đổi lại bạn phải chạy thêm một dịch vụ trên máy.

Có dùng được cho sản phẩm thật không?

Mô tả của tác giả ghi dự án dành cho thử nghiệm cá nhân và thiết kế cho một người dùng. Vì vậy mình không khuyên dùng cho sản phẩm cần ổn định hay có khách hàng thật. README có mục Limitations, bạn nên đọc kỹ trước khi quyết định.

Chuyển nhanh tới mục

  1. I.FreeLLMAPI làm được gì
  2. II.Cần chuẩn bị gì
  3. III.Cài đặt từng bước
    1. A.Cài Docker
    2. B.Chạy lệnh cài một dòng
    3. C.Hoặc dùng bộ cài cho Windows và macOS
    4. D.Các cách cài khác
    5. E.Mở bảng điều khiển và thêm key
  4. IV.Kiểm tra đã chạy được chưa
  5. V.Dùng vào việc thật
    1. A.Lập trình viên mới học gọi API mà không muốn trả tiền
    2. B.Người dùng Claude Code muốn chạy bằng pool miễn phí
    3. C.Chủ shop nhỏ thử viết mô tả sản phẩm hàng loạt
    4. D.Muốn so sánh câu trả lời của nhiều model
  6. VI.Lỗi hay gặp và cách xử lý
  7. VII.Có nên dùng không

Repo & Skill · 13/11/2026 · 11 phút đọc

Garden Skills: bộ skill thiết kế web, tạo ảnh, làm video cho AI — hướng dẫn cài đặt và dùng

Garden Skills là bộ sưu tập Agent Skills (kỹ năng cho AI) của tác giả ConardLi, dùng được với Claude Code, Cursor, Codex và các AI coding agent khác. Mỗi skill dạy agent làm tốt một việc như thiết kế trang web, tạo ảnh, làm video bằng code, biến tài liệu thành bài viết đẹp. Cài không khó, nhưng README có nhiều cách cài nên bạn cần chọn một cách hợp với công cụ đang dùng.

Repo & Skill · 13/11/2026 · 15 phút đọc

thesysdev/openui: xây giao diện AI dạng streaming — hướng dẫn cài đặt và dùng

OpenUI là framework full-stack, độc lập framework, giúp mô hình AI sinh giao diện có cấu trúc và hiển thị dần khi dữ liệu streaming về. Bạn có thể dựng nhanh một ứng dụng chat bằng CLI hoặc cài từng gói cho React, Vue, Svelte, Angular và LangChain. Việc bắt đầu khá đơn giản nếu máy có đúng phiên bản Node; README chưa ghi đầy đủ lệnh chạy ứng dụng sau khi scaffold.

Repo & Skill · 13/11/2026 · 11 phút đọc

Ruflo: điều phối nhóm agent AI cho Claude Code và Codex — hướng dẫn cài đặt và dùng

Ruflo (trước đây là Claude Flow) là một agent harness: lớp công cụ bao quanh Claude Code và Codex, bổ sung nhiều agent chuyên biệt, bộ nhớ qua các phiên và khả năng chia việc cho nhóm agent. Cài bằng một lệnh `npx ruflo@latest init` trong thư mục dự án, cần Node 20 trở lên. Cài khá dễ, nhưng hệ thống rất rộng nên bạn nên bắt đầu từ một tác vụ nhỏ.