PocketPal AI: chạy AI riêng tư trên điện thoại — hướng dẫn cài đặt và dùng
Bài này là một góc nhìn khác về a-ghorbani/pocketpal-ai — repo từng đổi tên nên mình viết lại với cách tiếp cận khác. Bài hướng dẫn chính: PocketPal AI: chạy AI offline ngay trên điện thoại — hướng dẫn cài đặt và dùng →

Tóm tắt nhanh
PocketPal AI là ứng dụng mã nguồn mở giúp bạn trò chuyện với mô hình ngôn ngữ trực tiếp trên điện thoại. Ứng dụng hỗ trợ mô hình GGUF, nhập giọng nói, đọc câu trả lời, Pals và một số công cụ; bạn có thể dùng ngoại tuyến sau khi tải model. Cài app khá đơn giản, còn tự build từ mã nguồn cần môi trường React Native.
PocketPal AI là ứng dụng đưa mô hình ngôn ngữ chạy trực tiếp trên điện thoại. Bạn có thể tải model về máy, trò chuyện, dùng giọng nói và tạo trợ lý riêng mà không cần gửi mọi câu hỏi lên máy chủ bên ngoài.
Ứng dụng phù hợp với chủ shop muốn có trợ lý viết nội dung, nhân viên văn phòng cần AI khi đi công tác, hoặc người quan tâm đến quyền riêng tư. Điểm đáng giá nhất là dữ liệu trò chuyện và tài liệu được giữ trên thiết bị nếu bạn không bật các tính năng trực tuyến. Bạn cũng có thể xem video ngắn bên dưới để hình dung cách ứng dụng hoạt động.
PocketPal AI hỗ trợ iPhone, iPad và Android. Ứng dụng dùng CPU, GPU hoặc NPU phù hợp với thiết bị, đồng thời có thể giảm tải về CPU khi phần cứng không hỗ trợ đầy đủ. Repo hiện có khoảng 9.255 sao và 1.089 fork, dùng giấy phép MIT.
a-ghorbani/pocketpal-ai
PocketPal AI chạy mô hình ngôn ngữ, giọng nói và công cụ ngay trên điện thoại, có thể hoạt động ngoại tuyến và không cần tài khoản.
I.PocketPal AI làm được gì
Trò chuyện với AI ngay trên thiết bị: PocketPal chạy các model dạng GGUF như Gemma, Qwen, Phi và Llama. Sau khi tải model, bạn có thể chat mà không cần mạng hoặc tài khoản.
Giữ dữ liệu riêng tư theo mặc định: prompt, câu trả lời và tài liệu ở lại trên điện thoại, trừ khi bạn chủ động bật web search, đọc trang web, kết nối máy chủ từ xa hoặc dùng giọng nói hệ thống có xử lý trực tuyến.
Tải model từ Hugging Face: bạn có thể tìm model GGUF trong app, chọn bản lượng tử hóa phù hợp với bộ nhớ và dung lượng máy, rồi tải trực tiếp. Model bị giới hạn quyền truy cập cần Hugging Face access token.
Tạo trợ lý riêng bằng Pals: Assistant Pal cho phép chọn model, viết system prompt và chỉnh màu ô nhập. Roleplay Pal có thêm vai trò, địa điểm và các tham số bối cảnh khác.
Dùng PalsHub: bạn có thể khám phá và cài các Pal do cộng đồng chia sẻ. Một số Pal có thể là nội dung trả phí thông qua mua hàng trong ứng dụng.
Nhập giọng nói: PocketPal dùng Whisper chạy trên thiết bị để chuyển lời nói thành văn bản. Tính năng này phù hợp khi bạn đang di chuyển hoặc không muốn gõ trên màn hình nhỏ.
Đọc câu trả lời thành tiếng: ứng dụng hỗ trợ các giọng neural chạy trên thiết bị như Kokoro, Kitten, Supertonic và Phonon ở thiết bị được hỗ trợ, cùng giọng đọc hệ thống của điện thoại.
Trò chuyện bằng giọng nói rảnh tay: bản tải từ App Store và Google Play có PocketPal Plus, là một giao dịch một lần cho chế độ hội thoại bằng giọng nói rảnh tay. Bản tự build từ mã nguồn bao gồm các tính năng Plus.
Gọi công cụ trong lúc chat: Pal có khả năng có thể dùng máy tính, ngày giờ, hiển thị HTML, tìm kiếm web và đọc trang web. Tìm kiếm web và đọc trang là tính năng bật tùy chọn, cần nhà cung cấp được cấu hình.
Đo hiệu năng thiết bị: trang Benchmark cho biết tốc độ token mỗi giây và mức dùng bộ nhớ. Bạn có thể tùy chọn chia sẻ kết quả lên AI Phone Leaderboard.
Tận dụng phần cứng điện thoại: iOS có đường chạy Metal, Android có OpenCL trên Adreno và một số thiết bị có Qualcomm Hexagon. Khi không có backend đầy đủ, ứng dụng có cơ chế chuyển sang phương án phù hợp hơn.
Hỗ trợ nhiều ngôn ngữ: PocketPal có 16 ngôn ngữ, chạy trên điện thoại và máy tính bảng, gồm cả iPad.
II.Cần chuẩn bị gì
Nếu chỉ cài app trên điện thoại, bạn cần một thiết bị iOS, iPadOS hoặc Android và đủ bộ nhớ để tải model. README không nêu một mức RAM hay dung lượng tối thiểu cố định. Khi chọn model từ Hugging Face, hãy chọn bản lượng tử hóa vừa với bộ nhớ và dung lượng còn trống của máy.
Nếu tự build từ mã nguồn, repo yêu cầu:
- Node.js phiên bản
22.21.0. Repo ghim phiên bản này trong.nvmrcvàpackage.json; Node cũ hơn có thể làm lỗi kiểm traengines. - Yarn 1 Classic, phiên bản được ghim là
1.22.22. - Xcode và CocoaPods nếu build cho iOS.
- Ruby và Bundler cho công cụ iOS/Fastlane.
- Xcode
26.6hoặc mới hơn, kèm Metal Toolchain. README đưa lệnh tải toolchain ở phần cài đặt. - Máy Mac Apple silicon nếu muốn build simulator iOS.
- Android Studio cùng Android SDK/NDK nếu build cho Android.
Core chat trên thiết bị không cần backend key. Chỉ các tính năng PalsHub hoặc authentication mới cần cấu hình bổ sung. Repo có file .env.example với các biến liên quan đến store, Firebase, Supabase, PalsHub, URL app, authentication, offline mode và Google client ID, nhưng README được cung cấp không mô tả giá trị cụ thể hay quy trình điền từng biến. Vì vậy, không nên tự đoán giá trị cho các biến này.
Hugging Face access token chỉ cần khi bạn muốn truy cập model bị giới hạn quyền. Token được nhập trong phần Settings của app, không phải là điều kiện bắt buộc cho mọi model.
III.Cài đặt từng bước
- Chọn cách dùngCài app trên điện thoại hoặc chuẩn bị môi trường để tự build
- Chuẩn bị công cụCài Node, Yarn và bộ công cụ iOS/Android tương ứng
- Tải mã nguồnClone repo rồi chuyển vào thư mục dự án
- Cài dependencyChọn đúng Node và chạy yarn install
- Chạy ứng dụngKhởi động Metro rồi build trên iOS simulator hoặc Android emulator
A.Chọn cách dùng phù hợp
Nếu mục tiêu là chat với AI, cách nhanh nhất là cài PocketPal từ App Store hoặc Google Play. README mô tả quy trình dùng app qua ba việc: cài app, tải model trong Menu → Models, rồi Load model và bắt đầu chat.
Nếu bạn là lập trình viên muốn sửa mã nguồn, thêm Talent, thêm engine đọc giọng nói hoặc đóng góp bản dịch, hãy tự build repo. Các bước dưới đây dành cho cách thứ hai.
B.Chuẩn bị môi trường phát triển
Cài Node.js đúng phiên bản repo yêu cầu. README khuyên dùng nvm use để khớp phiên bản được ghim trong .nvmrc. Bạn cũng cần Yarn 1 Classic. Với iOS, mở môi trường trên máy Mac có Xcode, CocoaPods, Ruby và Bundler. Với Android, cài Android Studio cùng Android SDK/NDK.
Nếu thiếu Metal Toolchain, README đưa lệnh sau:
xcodebuild -downloadComponent MetalToolchainLệnh này tải thành phần Metal Toolchain cho Xcode. Nếu bạn chỉ build Android thì phần Xcode không phải bộ công cụ chính, nhưng README không mô tả thêm cấu hình Android cụ thể ngoài Android Studio và SDK/NDK.
C.Tải mã nguồn
Mở Terminal hoặc PowerShell tại thư mục bạn muốn lưu dự án, sau đó chạy:
git clone https://github.com/a-ghorbani/pocketpal-ai
cd pocketpal-aigit clone tải mã nguồn về máy. cd pocketpal-ai chuyển terminal vào thư mục dự án. Lỗi thường gặp ở bước này là mở terminal tại thư mục không có quyền ghi hoặc gõ sai tên thư mục. Bạn có thể dùng pwd trên macOS/Linux hoặc Get-Location trên PowerShell để kiểm tra vị trí hiện tại.
D.Cài dependency JavaScript
Trong thư mục pocketpal-ai, chạy:
nvm use # match the pinned Node version
yarn install # install JS dependencies
(cd ios && pod install) # iOS onlynvm use chọn phiên bản Node mà repo đã ghim. Nếu lệnh này báo chưa có phiên bản tương ứng, hãy cài Node 22.21.0 bằng công cụ quản lý Node của bạn trước.
yarn install cài các dependency JavaScript. Hãy kiểm tra terminal đang ở đúng thư mục có package.json.
(cd ios && pod install) chỉ dành cho iOS. Lệnh chuyển vào thư mục ios, cài các CocoaPods rồi quay lại thư mục ban đầu. Trên Windows, README không cung cấp quy trình build iOS; phần iOS cần Xcode trên macOS.
Nếu bạn đã sửa package.json, native module, thư mục ios/, android/, Podfile hoặc build.gradle, README yêu cầu chạy lại pod install và build lại cả hai nền tảng. Chỉ reload JavaScript sẽ không nạp các thay đổi native.
E.Chạy trên iOS hoặc Android
Sau khi cài dependency, mở một terminal trong thư mục repo và chạy Metro:
yarn start # Metro bundler
yarn ios # build + run on iOS simulator
yarn android # build + run on Android emulatoryarn start khởi động Metro bundler. Bạn giữ terminal này chạy trong lúc build app.
yarn ios build và chạy app trên iOS simulator. Muốn dùng cách này, bạn cần Xcode và môi trường iOS đã chuẩn bị.
yarn android build và chạy app trên Android emulator. Android Studio, SDK và NDK phải được cài sẵn; README không nêu một tên emulator cụ thể.
Không chạy đồng thời tất cả lệnh trong cùng một lần dán nếu bạn chưa hiểu terminal đang xử lý gì. Thông thường, khởi động Metro trước, sau đó mở terminal khác để chạy lệnh iOS hoặc Android.
F.Kiểm tra chất lượng mã nguồn
Nếu mục tiêu là phát triển hoặc mở pull request, chạy các kiểm tra có sẵn:
yarn lint # ESLint
yarn typecheck # tsc --noEmit
yarn test # Jest
yarn l10n:validate # validate locale JSON (placeholders, integrity)
yarn test:perf # render-performance tests (Reassure)
yarn test:perf:compare [base] # render counts of HEAD vs. base (default: merge-base with origin/main)README khuyến nghị chạy tối thiểu chuỗi sau trước khi mở pull request:
yarn lint && yarn typecheck && yarn testNếu app mở được trên simulator hoặc emulator, hãy kiểm tra tiếp màn hình Models, tải một model, Load model và gửi một câu hỏi. Đó là dấu hiệu thực tế cho thấy cả phần UI, model download và inference đã hoạt động.
IV.Kiểm tra đã chạy được chưa
Với người chỉ dùng app, quy trình thành công là:
- Mở PocketPal từ App Store hoặc Google Play.
- Mở Menu bằng biểu tượng ☰ và vào Models.
- Chọn một model phù hợp rồi bấm Download, hoặc thêm model từ Hugging Face hay bộ nhớ cục bộ bằng nút +.
- Bấm Load, hoặc dùng biểu tượng chevron ở bên trái ô nhập chat.
- Mở trang Chat, nhập câu hỏi và nhận câu trả lời.
Sau khi model đã tải, bạn có thể thử tắt mạng và chat lại. README nói app có thể hoạt động ngoại tuyến, nhưng các tính năng như tìm kiếm web, đọc trang web, tải model hoặc một số tính năng trực tuyến sẽ cần mạng.
Với người tự build, dấu hiệu cơ bản là yarn ios hoặc yarn android mở được app trên simulator/emulator. Sau đó hãy kiểm tra chat, tải model và Load model. Nếu bạn sửa mã nguồn, chạy yarn lint, yarn typecheck và yarn test; cả ba lệnh hoàn tất không lỗi là trạng thái kiểm tra cơ bản theo hướng dẫn đóng góp.
V.Dùng vào việc thật
A.Chủ shop tạo trợ lý trả lời khách hàng
Chủ shop có thể tạo một Assistant Pal với model mặc định và system prompt riêng. Ví dụ, system prompt có thể yêu cầu trợ lý trả lời ngắn, lịch sự, nêu rõ giá và hỏi thêm thông tin còn thiếu. Sau đó, bạn đưa vào các câu hỏi như “Khách hỏi sản phẩm này có đổi trả được không, hãy soạn câu trả lời thân thiện”.
PocketPal sẽ tạo câu trả lời ngay trên điện thoại. Nếu nội dung cần giữ riêng, bạn có thể dùng model cục bộ và không bật web search. README không nói rằng app tự kết nối đến hệ thống đơn hàng, nên không nên kỳ vọng Pal tự kiểm tra tồn kho hoặc trạng thái giao hàng.
B.Nhân viên văn phòng soạn nội dung khi không có mạng
Một nhân viên đi công tác có thể tải model trước, rồi dùng PocketPal trên máy bay hoặc nơi sóng yếu. Bạn có thể nhập yêu cầu như “Tóm tắt các ý sau thành email ngắn, giọng lịch sự” hoặc “Viết lại thông báo này cho dễ hiểu”.
Sau khi model được tải và Load, chat có thể chạy ngoại tuyến. Bạn có thể copy toàn bộ câu trả lời bằng biểu tượng copy hoặc nhấn giữ một đoạn để copy riêng đoạn đó. Câu trả lời và tài liệu vẫn ở trên thiết bị, trừ khi bạn bật tính năng trực tuyến.
C.Người dùng tạo trợ lý nhập vai hoặc huấn luyện hội thoại
Bạn có thể tạo Roleplay Pal bằng cách chọn model, viết system prompt, đặt vai trò và bối cảnh. Ví dụ, một người học ngoại ngữ có thể yêu cầu Pal đóng vai khách hàng trong một cuộc hội thoại bán hàng, sau đó phản hồi bằng ngôn ngữ đang luyện tập.
Chuyển Pal bằng Pal picker trên trang chat. Nếu muốn thử trợ lý do cộng đồng tạo, mở PalsHub trong app và cài một Pal phù hợp. Một số Pal có thể là nội dung trả phí qua mua hàng trong ứng dụng.
D.Lập trình viên kiểm tra hiệu năng hoặc thêm công cụ
Lập trình viên có thể mở trang Benchmark, chạy bài đo trên nhiều model rồi xem token mỗi giây và mức dùng bộ nhớ. Kết quả giúp bạn biết model nào phù hợp hơn với thiết bị trước khi dùng cho nhóm người dùng.
Nếu muốn mở rộng repo, bạn có thể thêm một Talent. README mô tả Talent là công cụ mà model có thể gọi giữa cuộc hội thoại. Engine được đăng ký trong TalentRegistry, AgentRunner phát hiện lời gọi, chạy engine rồi đưa kết quả lại cho model. Các hướng mở rộng có sẵn gồm calculator, ngày giờ, render HTML, web search và đọc URL.
AI hữu ích nhất khi chạy đúng nơi bạn cần, kể cả lúc điện thoại không có mạng.
Ông T
VI.Lỗi hay gặp và cách xử lý
A.Node không đúng phiên bản
Nếu yarn install lỗi ở bước kiểm tra engines, nguyên nhân dễ gặp là Node cũ hơn yêu cầu. Chạy nvm use trong thư mục repo để dùng phiên bản được ghim; README nêu phiên bản hiện tại là 22.21.0. Không nên bỏ qua kiểm tra phiên bản bằng cách tự sửa package.json.
B.Dùng sai phiên bản Yarn
Repo ghim Yarn 1 Classic 1.22.22. Nếu hệ thống đang dùng Yarn phiên bản khác, dependency hoặc script có thể hoạt động không giống hướng dẫn. Kiểm tra lại Yarn theo thông tin trong package.json trước khi tìm lỗi ở mã nguồn.
C.iOS không nhận thay đổi native
Sau khi sửa package.json, native module, thư mục ios/, Podfile hoặc build.gradle, reload JavaScript không đủ. Hãy chạy lại pod install cho iOS và build lại cả hai nền tảng theo quy tắc native-change của README.
D.Model tải được nhưng không chạy ổn
Model GGUF phải phù hợp với bộ nhớ và dung lượng của điện thoại. Trong màn hình Models, chọn bản lượng tử hóa phù hợp thay vì chỉ chọn model lớn nhất. README không đưa ra con số RAM chung cho mọi thiết bị, nên cần dựa vào bộ nhớ thực tế và kết quả Benchmark.
E.Không tải được model bị giới hạn
Một số model trên Hugging Face yêu cầu access token. Hãy tạo token trong tài khoản Hugging Face, vào Settings → Set Token trong PocketPal, dán token và lưu. Chỉ nhập token trong app; không đưa token vào prompt hoặc chia sẻ công khai.
PocketPal giữ chat và tài liệu trên thiết bị theo mặc định, nhưng web search, đọc trang web, máy chủ từ xa và một số chế độ giọng nói có thể đưa dữ liệu ra ngoài. Hãy chỉ bật tính năng trực tuyến khi bạn hiểu nơi dữ liệu được gửi. README không nêu mức phí model; PocketPal Plus là giao dịch một lần trong bản store, còn bản tự build bao gồm các tính năng Plus.
VII.Có nên dùng không
PocketPal AI đáng chọn nếu bạn cần một trợ lý AI riêng tư, muốn chat ngoại tuyến hoặc muốn tận dụng điện thoại sẵn có thay vì phụ thuộc vào một dịch vụ đám mây. App có phạm vi tính năng rộng: chat, model GGUF, giọng nói, Pals, PalsHub, benchmark và một số Talent. Mã nguồn TypeScript, giấy phép MIT và có cấu trúc React Native rõ ràng cũng phù hợp với lập trình viên muốn học hoặc đóng góp.
Giới hạn lớn nhất là hiệu năng phụ thuộc vào điện thoại và model. Model lớn có thể cần nhiều bộ nhớ, tốc độ không bằng máy chủ chuyên dụng, còn hỗ trợ GPU/NPU tùy phần cứng. Các tính năng web search, đọc trang, authentication và PalsHub không còn là trải nghiệm hoàn toàn ngoại tuyến.
Nếu bạn chỉ cần câu trả lời nhanh với model rất lớn, cần đồng bộ dữ liệu giữa nhiều thiết bị, hoặc muốn AI kết nối sẵn với nhiều dịch vụ doanh nghiệp, một dịch vụ đám mây có thể phù hợp hơn. Nếu ưu tiên riêng tư, chạy không mạng và kiểm soát model, PocketPal AI là lựa chọn đáng thử.
Câu hỏi thường gặp
PocketPal AI có miễn phí không?
README mô tả PocketPal là miễn phí và mã nguồn mở, không cần tài khoản cho chat, model, giọng nói và công cụ. Bản trên App Store và Google Play có PocketPal Plus là giao dịch một lần cho hội thoại giọng nói rảnh tay; bản tự build bao gồm các tính năng Plus. README không nêu mức giá.
Có cần GPU hoặc NPU để chạy PocketPal AI không?
Không bắt buộc phải có GPU hoặc NPU. PocketPal có đường chạy CPU làm phương án phổ quát, đồng thời tận dụng Metal trên iOS, OpenCL/Adreno trên Android và Qualcomm Hexagon khi thiết bị hỗ trợ. Hiệu năng thực tế phụ thuộc vào phần cứng và model.
PocketPal AI có chạy trên Windows không?
README nói ứng dụng chạy trên iOS, iPadOS và Android. Phần tự build yêu cầu Xcode cho iOS hoặc Android Studio cùng Android SDK/NDK cho Android; README không cung cấp hướng dẫn chạy ứng dụng trên Windows.
Có cần tài khoản để chat không?
Không cần tài khoản cho trải nghiệm chat cốt lõi. Bạn tải model về điện thoại rồi có thể chat ngoại tuyến. Tài khoản hoặc cấu hình bổ sung chỉ liên quan đến các tính năng như model Hugging Face bị giới hạn, PalsHub hoặc authentication.
Dữ liệu trò chuyện có an toàn và nằm trên máy không?
Theo README, prompt, câu trả lời và tài liệu ở lại trên thiết bị theo mặc định. Dữ liệu có thể rời máy khi bạn bật web search, đọc trang web, dùng máy chủ từ xa hoặc dùng giọng nói hệ thống xử lý trực tuyến; các tính năng tải model, PalsHub, mua hàng và gửi phản hồi cũng có hoạt động mạng riêng.
Có thể dùng model riêng từ Hugging Face không?
Có. Trong Menu → Models, bạn có thể tìm model GGUF trên Hugging Face hoặc thêm model từ Hugging Face và bộ nhớ cục bộ. Model bị giới hạn quyền truy cập cần Hugging Face access token, nhập tại Settings → Set Token.
Có thể tự build PocketPal AI từ mã nguồn không?
Có. Repo là ứng dụng React Native và README cung cấp lệnh `yarn install`, `yarn ios` và `yarn android`. Bạn cần Node `22.21.0`, Yarn 1 Classic `1.22.22`, cùng Xcode/CocoaPods cho iOS hoặc Android Studio với SDK/NDK cho Android.


