Bỏ qua tới nội dung
Ông T.vn

Tencent-Hunyuan/Hy-MT2: dịch đa ngôn ngữ nhanh — hướng dẫn cài đặt và dùng

14 phút đọcCập nhật

Bài này là một góc nhìn khác về Tencent-Hunyuan/Hy-MT2 — repo từng đổi tên nên mình viết lại với cách tiếp cận khác. Bài hướng dẫn chính: Hy-MT2: dịch đa ngôn ngữ nhanh — hướng dẫn cài đặt và dùng →

Tencent-Hunyuan/Hy-MT2: dịch đa ngôn ngữ nhanh — hướng dẫn cài đặt và dùng

Tóm tắt nhanh

Tencent-Hunyuan/Hy-MT2 là họ mô hình dịch máy đa ngôn ngữ gồm các bản 1.8B, 7B và 30B-A3B MoE. Mô hình phù hợp cho dịch văn bản, thuật ngữ, nội dung có cấu trúc và yêu cầu giữ nguyên định dạng. Cài đặt không quá khó nếu bạn đã quen Python, nhưng bản 30B-A3B cần môi trường chạy mô hình lớn; README chưa nêu cấu hình phần cứng tối thiểu.

Repo này là Hy-MT2, một họ mô hình dịch máy đa ngôn ngữ của Tencent Hunyuan. Mô hình được thiết kế cho các tình huống dịch thực tế, trong đó câu lệnh có thể yêu cầu giữ thuật ngữ, đổi văn phong, bảo toàn dấu phân cách hoặc chỉ dịch phần văn bản hiển thị.

Hy-MT2 có ba kích thước chính: 1.8B, 7B và 30B-A3B dạng MoE. Các bản này hỗ trợ dịch giữa 33 ngôn ngữ và có thể chạy qua Transformers, vLLM, SGLang hoặc llama.cpp tùy phiên bản mô hình. Bản 1.8B còn có các biến thể GGUF lượng tử hóa, phù hợp hơn cho triển khai trên thiết bị có tài nguyên hạn chế.

Điểm đáng giá nhất là mô hình không chỉ dịch câu thông thường. Bạn có thể đưa vào ví dụ thuật ngữ, yêu cầu phong cách, dữ liệu JSON hoặc nội dung có placeholder rồi yêu cầu mô hình giữ nguyên cấu trúc. Đây là hướng tiếp cận hữu ích cho chủ shop, nhân viên văn phòng, nhóm nội dung và lập trình viên cần tự chạy dịch máy.

Mô hình

Tencent-Hunyuan/Hy-MT2

Hy-MT2 là họ mô hình dịch máy đa ngôn ngữ, hỗ trợ 33 ngôn ngữ và nhiều kiểu dịch theo hướng dẫn.

★ 1.7kPython
Xem repo trên GitHub

I.Hy-MT2 làm được gì

  • Dịch đa ngôn ngữ: README giới thiệu khả năng dịch giữa 33 ngôn ngữ, trong đó có tiếng Việt, tiếng Anh, tiếng Trung, tiếng Nhật, tiếng Hàn, tiếng Thái, tiếng Pháp, tiếng Đức và nhiều ngôn ngữ khác. Bạn có thể dùng cho tài liệu nội bộ, mô tả sản phẩm, email hoặc nội dung hỗ trợ khách hàng.

  • Xử lý yêu cầu dịch bằng nhiều ngôn ngữ: Mô hình có thể nhận hướng dẫn dịch bằng tiếng Trung hoặc tiếng Anh. Điều này thuận tiện khi nhóm của bạn có prompt mẫu bằng tiếng Anh nhưng đầu ra cần là tiếng Việt hoặc ngược lại.

  • Giữ thuật ngữ nhất quán: Bạn có thể đưa trước các cặp câu mẫu, chẳng hạn một thuật ngữ tiếng Anh tương ứng với cách dịch tiếng Việt, rồi yêu cầu mô hình áp dụng cách dùng đó cho phần còn lại. Tính năng này hữu ích với tài liệu kỹ thuật, thương hiệu và tên sản phẩm.

  • Điều khiển văn phong: Prompt có thể yêu cầu bản dịch theo một phong cách cụ thể. Ví dụ, cùng một nội dung có thể được yêu cầu dịch theo giọng trang trọng, ngắn gọn hoặc phù hợp với tài liệu bán hàng.

  • Bảo toàn dấu phân cách: README có mẫu yêu cầu giữ đúng số lượng, vị trí và ký hiệu phân cách. Tính năng này phù hợp khi xử lý nội dung có tab, dấu ngoặc, ký hiệu đặc biệt hoặc mẫu văn bản cần nhập lại vào hệ thống khác.

  • Dịch dữ liệu có cấu trúc: Bạn có thể yêu cầu chỉ dịch phần văn bản hiển thị trong dữ liệu JSON hoặc định dạng khác, đồng thời giữ nguyên key, thuộc tính, thẻ mã và placeholder như {{var}}, ${var}, %s hoặc %d.

  • Nhiều cách triển khai: README có hướng dẫn mẫu cho Transformers, vLLM, SGLang và llama.cpp. Bạn có thể chọn cách chạy trực tiếp bằng Python, mở máy chủ suy luận hoặc dùng mô hình GGUF với llama.cpp.

  • Lượng tử hóa cho thiết bị: Bản 1.8B có các biến thể FP8, GGUF, 2-bit GGUF và 1.25-bit GGUF. README cho biết AngelSlim 1.25-bit có thể giảm dung lượng lưu trữ của bản 1.8B xuống khoảng 440 MB và tăng tốc suy luận 1,5 lần.

  • Huấn luyện và tinh chỉnh: Repo có pipeline huấn luyện hỗ trợ fine-tuning toàn bộ tham số, LoRA, nhiều cấu hình DeepSpeed ZeRO và tích hợp LLaMA-Factory. Phần hướng dẫn chi tiết được tách thành Model Training Guide.

  • Đánh giá khả năng làm theo chỉ dẫn: Repo cũng mở IFMTBench, một benchmark dùng để đánh giá khả năng làm theo hướng dẫn dịch. Đây là phần hữu ích nếu bạn muốn so sánh mô hình trên các yêu cầu dịch phức tạp thay vì chỉ đo chất lượng dịch câu đơn.

II.Cần chuẩn bị gì

README cung cấp các cách chạy dựa trên Python và các công cụ phục vụ suy luận mô hình. Với Transformers, bạn cần phiên bản transformers>=5.6.0 cùng với PyTorch, vì mã mẫu sử dụng torch, AutoModelForCausalLM và AutoTokenizer.

Nếu dùng vLLM, README hướng dẫn tạo môi trường bằng uv, sử dụng Python 3.12 và cài vLLM từ mã nguồn. Nếu dùng SGLang, bạn cần clone mã nguồn SGLang, nâng cấp pip, cài transformers>=5.6.0 và cài phần Python của SGLang.

Nếu dùng llama.cpp, bạn cần CMake và công cụ biên dịch phù hợp với hệ điều hành. README yêu cầu clone llama.cpp, build bằng CMake rồi chạy các chương trình trong thư mục build/bin.

Bạn cũng cần tải một model checkpoint phù hợp. README liệt kê các bản Hy-MT2-1.8B, Hy-MT2-7B và Hy-MT2-30B-A3B, cùng một số bản FP8 và GGUF. Mã mẫu dùng tên model tencent/Hy-MT2-30B-A3B, để thư viện tự tải model theo tên.

README không nêu hệ điều hành được hỗ trợ, cấu hình RAM, dung lượng ổ đĩa, loại GPU tối thiểu hay yêu cầu tài khoản/API key. README cũng không ghi rõ chính sách giấy phép của repo ở phần thông tin được cung cấp. Vì vậy, bạn nên kiểm tra kỹ tài liệu và quyền sử dụng của checkpoint trước khi đưa vào sản phẩm thương mại.

Mô hình không có system_prompt mặc định. Khi gọi model, hãy đưa yêu cầu dịch rõ ràng vào prompt, nhất là yêu cầu chỉ xuất bản dịch và không giải thích thêm. Việc tải model lớn cũng có thể cần nhiều dung lượng và tài nguyên, nhưng README chưa nêu con số tối thiểu.

III.Cài đặt từng bước

  1. Chọn modelChọn bản 1.8B, 7B hoặc 30B-A3B và cách triển khai phù hợp
  2. Lấy mã nguồnClone repo Hy-MT2 nếu cần xem pipeline và tài liệu
  3. Chuẩn bị thư việnCài Transformers, vLLM, SGLang hoặc build llama.cpp
  4. Chạy suy luậnDùng mã Python hoặc khởi động máy chủ theo cách đã chọn
  5. Kiểm tra bản dịchGửi prompt mẫu và đối chiếu đầu ra

A.Chọn model và cách chạy

Bản 1.8B phù hợp để thử nghiệm nhẹ hơn và có các biến thể GGUF cho llama.cpp. Bản 7B là lựa chọn ở giữa. Bản 30B-A3B có kích thước lớn hơn và README cung cấp ví dụ cụ thể với Transformers, vLLM và SGLang.

Nếu bạn chỉ muốn đọc mã nguồn hoặc xem hướng dẫn trong repo, có thể clone repo bằng lệnh phổ thông sau:

Terminal
git clone https://github.com/Tencent-Hunyuan/Hy-MT2.git
cd Hy-MT2

Lệnh đầu tiên tải repo về máy. Lệnh thứ hai đưa terminal vào thư mục repo. Bạn cần mở PowerShell hoặc terminal tại thư mục mà mình muốn lưu dự án. README không cung cấp một lệnh cài đặt duy nhất cho toàn bộ repo; phần triển khai được chia theo từng công cụ.

B.Chạy bằng Transformers

README yêu cầu transformers>=5.6.0. Mã mẫu dưới đây tải tokenizer và model tencent/Hy-MT2-30B-A3B, sau đó gửi một câu tiếng Trung để dịch sang tiếng Anh:

Python
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_path = "tencent/Hy-MT2-30B-A3B"

# Load tokenizer
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

# Load model
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True,
)

model.eval()

# Example inference
prompt = "将以下文本翻译成英语,注意只需要输出翻译后的结果,不要额外解释:\n\n今天天气真好。"
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=4096,
    )
response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True)
print(response)

AutoTokenizer.from_pretrained tải tokenizer của model. AutoModelForCausalLM.from_pretrained tải model với kiểu dữ liệu bfloat16 và tự phân bổ thiết bị bằng device_map="auto". apply_chat_template chuyển tin nhắn thành định dạng mà model hiểu.

Điểm dễ vấp là prompt mẫu đang viết bằng tiếng Trung. Nếu bạn cần dịch sang tiếng Việt, hãy thay nội dung prompt bằng câu lệnh rõ ràng, chẳng hạn yêu cầu dịch sang Vietnamese và chỉ xuất kết quả. Mã dùng trust_remote_code=True, nên bạn cần hiểu rằng thư viện sẽ cho phép mã liên quan đến model được tải và thực thi trong môi trường của mình.

README khuyến nghị tham số suy luận sau cho bản 1.8B và 7B:

JSON
{
  "temperature": 0.7,
  "top_p": 0.6,
  "top_k": 20,
  "repetition_penalty": 1.05,
  "max_tokens": 4096
}

Với bản 30B-A3B, README khuyến nghị:

JSON
{
  "temperature": 0.7,
  "top_p": 1.0,
  "top_k": -1,
  "repetition_penalty": 1.0,
  "max_tokens": 4096
}

Các tham số trên là cấu hình được README khuyến nghị cho suy luận. Mã Python mẫu vẫn truyền max_new_tokens=4096 vào generate.

C.Dựng vLLM từ mã nguồn

README hướng dẫn tạo môi trường Python 3.12 bằng uv, sau đó clone và cài vLLM ở chế độ editable:

Terminal
uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

Sau khi cài xong, khởi động máy chủ bằng:

Terminal
vllm serve tencent/Hy-MT2-30B-A3B --tensor-parallel-size 1

source .venv/bin/activate là cú pháp kích hoạt môi trường theo README. README không cung cấp biến thể PowerShell cho lệnh này, nên người dùng Windows cần xem thêm tài liệu của môi trường mình dùng thay vì tự đoán lệnh tương đương. Cờ --tensor-parallel-size 1 khởi động với một phần song song tensor theo đúng ví dụ của README.

D.Dựng SGLang từ mã nguồn

Clone SGLang, vào thư mục dự án, nâng cấp pip, cài đúng phiên bản Transformers rồi cài phần Python:

Terminal
git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

Khởi động máy chủ bằng:

Terminal
python3 -m sglang.launch_server --model tencent/Hy-MT2-30B-A3B --tp 1

Tham số --model chỉ model cần chạy. --tp 1 đặt mức song song tensor là một theo ví dụ. README không mô tả endpoint, giao diện gọi API hay lệnh gửi request sau khi server chạy, nên phần này cần xem tài liệu SGLang nếu bạn muốn tích hợp vào ứng dụng.

E.Chạy GGUF với llama.cpp

README lưu ý các file GGUF của Hy-MT2 phụ thuộc vào STQ kernel được phát hành trong một pull request của llama.cpp. Vì vậy, không nên mặc định rằng mọi bản llama.cpp đều chạy được các file này.

Clone và build llama.cpp:

Terminal
git clone https://github.com/ggml-org/llama.cpp.git
Terminal
cd llama.cpp
Terminal
cmake -B build
cmake --build build --config Release

Sau khi build, đặt file model vào vị trí phù hợp rồi chạy ví dụ completion:

Terminal
./build/bin/llama-completion \
  --model model.gguf  \
  -p "Translate the following segment into Chinese, without additional explanation:Hello" \
  --jinja \
  -ngl 0 \
  -n 64 -st

Trong ví dụ, --model model.gguf là đường dẫn mẫu đến file GGUF. Bạn phải thay bằng đường dẫn file thật của mình. Prompt yêu cầu dịch câu Hello sang tiếng Trung và không giải thích thêm. README không nói cách tải file GGUF bằng lệnh, nên bạn cần lấy đúng model GGUF từ nơi phân phối model được README nêu.

Để chạy benchmark của llama.cpp:

Terminal
./build/bin/llama-bench -m model_zoo/model.gguf  -ngl 0

Đường dẫn model_zoo/model.gguf cũng là đường dẫn mẫu trong README. Nếu file không nằm ở đó, lệnh sẽ không chạy đúng cho đến khi bạn thay bằng vị trí thực tế.

IV.Kiểm tra đã chạy được chưa

Với Transformers, dấu hiệu cơ bản là tokenizer và model tải xong, chương trình không báo lỗi, rồi terminal in ra một câu trả lời sau print(response). Với prompt mẫu, kết quả mong đợi là bản dịch tiếng Anh của câu tiếng Trung và không có phần giải thích thêm.

Với vLLM hoặc SGLang, dấu hiệu kiểm tra đầu tiên là lệnh vllm serve hoặc python3 -m sglang.launch_server khởi động được mà không dừng vì lỗi model hay thư viện. README không đưa ví dụ request và response HTTP, nên chưa thể xác định thêm một lệnh kiểm tra API chỉ dựa trên tư liệu này.

Với llama.cpp, nếu hai lệnh build hoàn tất và chương trình llama-completion sinh được đầu ra cho prompt mẫu, phần chạy cơ bản đã hoạt động. Nếu benchmark chạy được với file model đúng vị trí, bạn cũng có thể xem tốc độ suy luận theo công cụ của llama.cpp.

Bạn nên kiểm tra thêm ba điểm: model có đúng biến thể không, prompt có yêu cầu ngôn ngữ đích rõ không, và đầu ra có giữ nguyên placeholder hoặc cấu trúc mà bạn yêu cầu không.

V.Dùng vào việc thật

A.Chủ shop dịch mô tả sản phẩm

Một chủ shop có danh sách mô tả tiếng Việt và muốn tạo bản tiếng Anh cho khách hàng quốc tế. Bạn có thể dùng prompt theo mẫu của README:

text
Translate the following text into English. Note that you should only output the translated result without any additional explanation:

[SOURCE_TEXT]

Thay [SOURCE_TEXT] bằng mô tả sản phẩm. Kết quả là phần dịch tiếng Anh riêng, thuận tiện để dán vào trang sản phẩm. Nếu shop có tên dòng sản phẩm hoặc thuật ngữ cố định, hãy thêm các cặp dịch tham khảo trước câu lệnh chính để model giữ cách dùng nhất quán.

B.Nhân viên văn phòng dịch tài liệu theo văn phong

Nhân viên phụ trách đối ngoại có thể yêu cầu bản dịch tiếng Việt theo phong cách trang trọng:

text
Please translate the following text into Vietnamese. Note that the translation style must strictly conform to [formal business communication].

[SOURCE_TEXT]

Cách này phù hợp với email, thông báo hoặc tài liệu gửi đối tác. Sau khi nhận kết quả, vẫn nên kiểm tra tên riêng, số liệu và thuật ngữ quan trọng trước khi gửi.

C.Dev dịch JSON nhưng giữ nguyên key và placeholder

Dev có thể dùng mẫu structured data để dịch nội dung hiển thị mà không phá mã:

text
Translate the user-facing text within the following JSON data into Vietnamese.

Strict Rules:
1. You MUST preserve the original JSON data structure, nesting, hierarchy, and indentation exactly as they are.
2. Translate ONLY the visible, user-facing text content/values.
3. NEVER translate or alter code tags, keys, properties, object names, or variable placeholders. Leave them exactly in their original English/code form.

[JSON_DATA]

Kết quả mong muốn là value dành cho người dùng được dịch, còn key, thuộc tính, tên object và placeholder vẫn giữ nguyên. Đây là tình huống phù hợp cho file ngôn ngữ, nội dung giao diện và mẫu thông báo tự động.

D.Nhóm nội dung dịch hàng loạt có thuật ngữ riêng

Một nhóm nội dung có thể đưa trước các cặp ví dụ như product catalog dịch thành catalog sản phẩm, rồi gửi đoạn văn dài hơn. Sau đó dùng yêu cầu chỉ xuất bản dịch, không giải thích. Cách này giúp giảm việc phải sửa thủ công các thuật ngữ lặp lại trong tài liệu bán hàng hoặc tài liệu kỹ thuật.

Khi prompt nói rõ điều cần giữ nguyên, Hy-MT2 phù hợp hơn với công việc dịch có quy trình và cấu trúc.

Ông T

VI.Lỗi hay gặp và cách xử lý

A.Dùng sai phiên bản Transformers

README yêu cầu transformers>=5.6.0. Nếu cài bản thấp hơn, model hoặc mã tùy biến có thể không hoạt động như ví dụ. Hãy kiểm tra môi trường Python và cài đúng phiên bản được README ghi trước khi thử lại.

B.Model không tải được hoặc tải quá lâu

Các bản 7B và 30B-A3B là model lớn, còn README không nêu cấu hình tối thiểu. Hãy kiểm tra tên model, kết nối đến nơi lưu model và dung lượng khả dụng. Nếu mục tiêu là thử nghiệm nhẹ hơn, cân nhắc bản 1.8B hoặc một biến thể lượng tử hóa được README liệt kê.

C.Đầu ra có thêm lời giải thích

README nhấn mạnh rằng prompt nên yêu cầu chỉ xuất bản dịch, không giải thích thêm. Hãy dùng câu lệnh rõ như only output the translated result without any additional explanation và tránh đưa yêu cầu mâu thuẫn trong cùng prompt.

D.Dịch làm hỏng JSON hoặc placeholder

Đừng chỉ nói chung chung là “dịch JSON”. Hãy nêu rõ phải giữ nguyên cấu trúc, key, thuộc tính, thẻ mã và các placeholder như {{var}}, ${var}, %s, %d. Sau khi chạy, kiểm tra lại JSON bằng công cụ phù hợp trước khi đưa vào ứng dụng.

E.llama.cpp báo lỗi với file GGUF

README ghi rõ GGUF phụ thuộc vào STQ kernel. Hãy kiểm tra phiên bản llama.cpp và phần build có hỗ trợ yêu cầu này hay chưa. Đồng thời kiểm tra lại đường dẫn trong --model; model.gguf và model_zoo/model.gguf chỉ là đường dẫn mẫu.

VII.Có nên dùng không

Nên dùng Hy-MT2 nếu bạn cần tự chạy mô hình dịch, muốn kiểm soát prompt và cần xử lý các trường hợp phức tạp như thuật ngữ, văn phong, placeholder hoặc dữ liệu có cấu trúc. Repo có nhiều kích thước model, nhiều phương án triển khai và có cả pipeline fine-tuning, nên phù hợp từ thử nghiệm đến xây dựng quy trình dịch riêng.

Điểm mạnh là mô hình tập trung vào dịch theo hướng dẫn thay vì chỉ dịch câu đơn. Bản 1.8B có các lựa chọn lượng tử hóa, còn bản lớn hơn hướng đến chất lượng và các tình huống phức tạp hơn. Việc hỗ trợ Transformers, vLLM, SGLang và llama.cpp cũng giúp bạn lựa chọn cách tích hợp.

Giới hạn là README chưa nêu yêu cầu phần cứng tối thiểu, hướng dẫn Windows cụ thể, endpoint API sau khi khởi động server hay quy trình tải model bằng dòng lệnh. Bản 30B-A3B cũng không phải lựa chọn đầu tiên cho máy cá nhân yếu. Giấy phép của repo cũng chưa được ghi rõ trong tư liệu được cung cấp, nên cần kiểm tra trước khi dùng cho sản phẩm hoặc dịch vụ thương mại.

Nếu bạn chỉ cần dịch vài câu và không muốn tự quản lý model, một dịch vụ dịch có sẵn sẽ đơn giản hơn. Nếu bạn cần dữ liệu không rời khỏi môi trường nội bộ, muốn tùy biến thuật ngữ hoặc cần giữ cấu trúc dữ liệu, Hy-MT2 đáng để thử sau khi bạn xác minh tài nguyên máy và quyền sử dụng model.

4.3/5 · Ông T chấm

Chưa có độc giả chấm

Bài này có ích với bạn không?

Câu hỏi thường gặp

Hy-MT2 có miễn phí không?

Tư liệu được cung cấp cho biết repo và các model được mở mã nguồn, nhưng không nêu chính sách giá hay điều khoản giấy phép đầy đủ. Phần thông tin repo cũng ghi giấy phép chưa rõ, nên bạn cần kiểm tra tài liệu và model checkpoint trước khi dùng thương mại.

Hy-MT2 có cần GPU không?

README không nêu GPU tối thiểu hay cấu hình phần cứng bắt buộc. Mã mẫu dùng `bfloat16` và `device_map="auto"`, còn bản 30B-A3B là model lớn, nên bạn cần tự kiểm tra khả năng của môi trường trước khi triển khai.

Có chạy được trên Windows không?

README không ghi rõ hệ điều hành được hỗ trợ và không có hướng dẫn Windows riêng. Các lệnh được cung cấp chủ yếu dùng cú pháp Unix như `source .venv/bin/activate`, vì vậy người dùng Windows cần xem thêm tài liệu của công cụ triển khai.

Hy-MT2 hỗ trợ những ngôn ngữ nào?

README giới thiệu họ model hỗ trợ dịch giữa 33 ngôn ngữ. Danh sách có tiếng Việt, tiếng Anh, tiếng Trung, tiếng Nhật, tiếng Hàn, tiếng Thái, tiếng Pháp, tiếng Đức và nhiều ngôn ngữ khác.

Có thể dùng Hy-MT2 để dịch JSON không?

Có. README có mẫu prompt yêu cầu giữ nguyên cấu trúc, thứ tự, thụt lề, key, thuộc tính, thẻ mã và placeholder, chỉ dịch phần văn bản hiển thị. Bạn vẫn nên kiểm tra lại dữ liệu đầu ra trước khi đưa vào ứng dụng.

Hy-MT2 khác gì một API dịch trực tuyến?

Hy-MT2 là các model có thể tự triển khai qua Transformers, vLLM, SGLang hoặc llama.cpp. Tư liệu không cung cấp bảng so sánh đầy đủ với từng API thương mại, nhưng README cho biết các đánh giá của họ bao gồm cả so sánh với một số dịch vụ thương mại.

Có thể tinh chỉnh Hy-MT2 theo dữ liệu riêng không?

Có. Repo cung cấp pipeline huấn luyện hỗ trợ fine-tuning toàn bộ tham số, LoRA, nhiều cấu hình DeepSpeed ZeRO và tích hợp LLaMA-Factory. README chỉ dẫn tới Model Training Guide để xem chi tiết.

Chuyển nhanh tới mục

  1. I.Hy-MT2 làm được gì
  2. II.Cần chuẩn bị gì
  3. III.Cài đặt từng bước
    1. A.Chọn model và cách chạy
    2. B.Chạy bằng Transformers
    3. C.Dựng vLLM từ mã nguồn
    4. D.Dựng SGLang từ mã nguồn
    5. E.Chạy GGUF với llama.cpp
  4. IV.Kiểm tra đã chạy được chưa
  5. V.Dùng vào việc thật
    1. A.Chủ shop dịch mô tả sản phẩm
    2. B.Nhân viên văn phòng dịch tài liệu theo văn phong
    3. C.Dev dịch JSON nhưng giữ nguyên key và placeholder
    4. D.Nhóm nội dung dịch hàng loạt có thuật ngữ riêng
  6. VI.Lỗi hay gặp và cách xử lý
    1. A.Dùng sai phiên bản Transformers
    2. B.Model không tải được hoặc tải quá lâu
    3. C.Đầu ra có thêm lời giải thích
    4. D.Dịch làm hỏng JSON hoặc placeholder
    5. E.llama.cpp báo lỗi với file GGUF
  7. VII.Có nên dùng không

Repo & Skill · 13/11/2026 · 11 phút đọc

Garden Skills: bộ skill thiết kế web, tạo ảnh, làm video cho AI — hướng dẫn cài đặt và dùng

Garden Skills là bộ sưu tập Agent Skills (kỹ năng cho AI) của tác giả ConardLi, dùng được với Claude Code, Cursor, Codex và các AI coding agent khác. Mỗi skill dạy agent làm tốt một việc như thiết kế trang web, tạo ảnh, làm video bằng code, biến tài liệu thành bài viết đẹp. Cài không khó, nhưng README có nhiều cách cài nên bạn cần chọn một cách hợp với công cụ đang dùng.

Repo & Skill · 13/11/2026 · 15 phút đọc

thesysdev/openui: xây giao diện AI dạng streaming — hướng dẫn cài đặt và dùng

OpenUI là framework full-stack, độc lập framework, giúp mô hình AI sinh giao diện có cấu trúc và hiển thị dần khi dữ liệu streaming về. Bạn có thể dựng nhanh một ứng dụng chat bằng CLI hoặc cài từng gói cho React, Vue, Svelte, Angular và LangChain. Việc bắt đầu khá đơn giản nếu máy có đúng phiên bản Node; README chưa ghi đầy đủ lệnh chạy ứng dụng sau khi scaffold.

Repo & Skill · 13/11/2026 · 11 phút đọc

Ruflo: điều phối nhóm agent AI cho Claude Code và Codex — hướng dẫn cài đặt và dùng

Ruflo (trước đây là Claude Flow) là một agent harness: lớp công cụ bao quanh Claude Code và Codex, bổ sung nhiều agent chuyên biệt, bộ nhớ qua các phiên và khả năng chia việc cho nhóm agent. Cài bằng một lệnh `npx ruflo@latest init` trong thư mục dự án, cần Node 20 trở lên. Cài khá dễ, nhưng hệ thống rất rộng nên bạn nên bắt đầu từ một tác vụ nhỏ.