Bỏ qua tới nội dung
Ông T.vn

cs249r_book: giáo trình hệ thống ML mở của Harvard — hướng dẫn cài đặt và dùng

9 phút đọcCập nhật

Bài này là một góc nhìn khác về harvard-edge/cs249r_book — repo từng đổi tên nên mình viết lại với cách tiếp cận khác. Bài hướng dẫn chính: cs249r_book: học hệ thống Machine Learning từ gốc — hướng dẫn cài đặt và dùng →

cs249r_book: giáo trình hệ thống ML mở của Harvard — hướng dẫn cài đặt và dùng

Tóm tắt nhanh

cs249r_book là kho GitHub của giáo trình Machine Learning Systems (Harvard CS249r), gồm sách nhiều tập và các công cụ đi kèm như TinyTorch, MLSys·im, Labs, Hardware Kits, StaffML. Bạn có thể đọc sách online mà không cần cài gì. Muốn chạy công cụ thì phải vào từng thư mục con, và README gốc không có một lệnh cài chung.

cs249r_book là kho mã nguồn của bộ giáo trình mở "Machine Learning Systems" từ môn CS249r ở Harvard. Đây không phải một phần mềm cài một lần là chạy. Nó là một bộ giáo trình: sách nhiều tập, kèm các công cụ để thực hành, đo đạc và giảng dạy.

Repo giải quyết một vấn đề khá thực tế. Nhiều người biết huấn luyện một mô hình AI, nhưng ít người hiểu hệ thống chạy mô hình đó: bộ nhớ, độ trễ, điện năng, chuyện máy hỏng giữa chừng. Tác giả gọi đó là "kỹ thuật AI" (AI engineering). Cả giáo trình xoay quanh một ý: ràng buộc quyết định kiến trúc.

Bạn nên xem repo này nếu là sinh viên, lập trình viên mới hay người đi làm muốn hiểu AI chạy thật ra sao. Giảng viên cũng có sẵn đề cương và slide. Điểm đáng giá nhất là mọi thứ nằm chung một nơi: sách để hiểu, TinyTorch để tự xây, bộ kit phần cứng để thử trên thiết bị thật. Hiện repo có khoảng 30.180 sao và 3.742 fork, và vẫn được cập nhật trong 3 tháng gần đây.

Danh sách tuyển chọn

harvard-edge/cs249r_book

Bộ giáo trình mở của Harvard CS249r về cách xây hệ thống machine learning, kèm TinyTorch, trình mô phỏng, bộ kit phần cứng, lab và câu hỏi luyện tập.

I.cs249r_book làm được gì

Repo gồm nhiều thành phần. README nói chúng được thiết kế để dùng cùng nhau nhưng không thành phần nào bắt buộc phải có các thành phần khác. Bạn chỉ cần chọn phần mình cần.

A.Sách giáo trình bốn tập

  • Tập I nói về chạy mô hình hiệu quả trên một máy. Tập này đã phát hành và README ghi là sắp in với MIT Press.
  • Tập II nói về mở rộng ra cụm máy và trung tâm dữ liệu. Tập này đang ở bản xem trước.
  • Tập III nói về hệ thống "agentic", tức AI tự hành động nhiều bước. Tập IV nói về AI vật lý, tức AI điều khiển thiết bị trong thế giới thật.

Tập III và IV vẫn là bản nháp đang viết. Chính tác giả dặn chưa nên trích dẫn hay đem ra giảng dạy.

B.TinyTorch

Bạn tự xây một framework ML từ đầu qua 20 module nối tiếp nhau, từ tensor đến transformer. Tự tay viết ra sẽ hiểu sâu hơn nhiều so với chỉ gọi thư viện có sẵn.

C.MLSys·im

Đây là trình mô phỏng các giới hạn về bộ nhớ, tính toán, mạng và năng lượng. Nó dành cho những hệ thống quá lớn để chạy thử trong lớp học. README còn nói các phép tính trong sách đều được tính bằng mã Python đi kèm chứ không gõ tay, nên số liệu giữa các chương không bị lệch nhau.

D.Hardware Kits

Bạn đưa mô hình lên thiết bị Arduino, Seeed, Grove và Raspberry Pi. Thiết bị thật có giới hạn bộ nhớ, ngân sách điện và độ trễ thật, nên bạn thấy ngay chỗ mô hình bị "gãy".

E.Labs

Đây là các notebook Marimo tương tác, chạy trong trình duyệt, đi cùng từng chương sách. Bạn dự đoán kết quả, đổi một tham số, rồi xem điều gì hỏng. Phần này đang ở bản phát hành sớm.

F.StaffML, Instructor Hub, slide và hai thử nghiệm

  • StaffML có hơn 9.000 câu hỏi thiết kế hệ thống (cloud, edge, mobile, TinyML), kèm bài luyện và phỏng vấn thử.
  • Instructor Hub có đề cương từng môn, bài đọc theo tuần và slide.
  • Lecture Slides là bộ slide Beamer cho từng chương.
  • Hai thử nghiệm giai đoạn đầu là SocratiQ (gia sư AI hỗ trợ đọc có hướng dẫn, câu hỏi và ôn lặp lại) và MLPerf EDU (bộ benchmark dạy học theo MLPerf).

II.Cần chuẩn bị gì

Tư liệu README mà mình có không liệt kê yêu cầu chung cho cả repo. Những gì chắc chắn:

  • Chỉ đọc sách: bạn cần trình duyệt và trang chủ mlsysbook.ai. Không cần cài gì.
  • Python: file pyproject.toml của repo yêu cầu Python từ 3.10 trở lên. Tên gói khai báo là mlsysbook. Repo cũng có file requirements.txt.
  • Git: nếu muốn tải cả repo về máy.
  • Phần cứng: chỉ cần khi dùng Hardware Kits. Thiết bị là Arduino, Seeed, Grove hoặc Raspberry Pi.
  • Hệ điều hành, GPU, API key: tư liệu chưa nói. Mình không đoán. Hãy xem README riêng của từng thành phần.

Trước khi chạy bất kỳ script nào tải từ repo, hãy đọc README của thư mục đó. Repo rất lớn và có nhiều thành phần độc lập. Lệnh cài của TinyTorch có thể khác lệnh cài của MLSys·im.

III.Cài đặt từng bước

  1. Chọn phần cần dùngQuyết định bạn chỉ đọc sách hay cần chạy công cụ
  2. Đọc onlineMở mlsysbook.ai để đọc Tập I, không cần cài gì
  3. Tải repo vềDùng git clone nếu muốn xem mã hoặc chạy công cụ
  4. Vào thư mục thành phầncd vào tinytorch, mlsysim, labs hoặc kits
  5. Làm theo README riêngMỗi thành phần có hướng dẫn cài của nó

A.Chọn phần bạn cần

Nếu chỉ muốn học lý thuyết, bạn dừng ở bước đọc online. Nếu muốn tự viết framework thì cần TinyTorch. Nếu muốn mô phỏng hệ thống lớn thì cần MLSys·im. Muốn thử trên phần cứng thật thì vào kits.

B.Đọc sách online (không cần cài)

Mở trình duyệt, vào trang chủ dự án:

Terminal
https://mlsysbook.ai

Đây là địa chỉ để dán vào trình duyệt, không phải lệnh để gõ vào terminal. Ở trang này bạn chọn Tập I để đọc.

C.Tải repo về máy

Mở terminal. Trên Windows bạn có thể dùng PowerShell hoặc Git Bash. Trên macOS/Linux dùng Terminal. Rồi chạy:

Terminal
git clone https://github.com/harvard-edge/cs249r_book.git
cd cs249r_book

Lệnh đầu tải toàn bộ repo về một thư mục mới. Lệnh sau đưa bạn vào thư mục đó. Repo khá lớn vì có sách, slide, công cụ và nhiều thứ khác, nên có thể mất một lúc.

D.Xem các thư mục thành phần

Ở gốc repo có các thư mục: tinytorch, mlsysim, labs, kits, instructors, slides, staffml, socratiq, mlperf-edu. Bạn liệt kê ra để nhìn:

Terminal
ls

Trên PowerShell lệnh này cũng chạy được. Bạn sẽ thấy các thư mục kể trên.

E.Làm theo README của thành phần

README gốc mà mình có không ghi lệnh cài cho từng thành phần. Nó chỉ trỏ tới các liên kết "Get started" và "Repo guide". Vì vậy bạn mở file README trong thư mục bạn chọn, ví dụ:

Terminal
cd tinytorch

Rồi đọc README ở đó để biết lệnh cài. Repo có sẵn requirements.txt và pyproject.toml ở gốc, nhưng tư liệu không nói rõ chúng dùng cho phần nào. Đừng chạy pip theo thói quen khi chưa đọc hướng dẫn.

IV.Kiểm tra đã chạy được chưa

Tư liệu không có một lệnh kiểm tra chung. Bạn tự kiểm theo từng trường hợp:

  • Đọc sách: trang mlsysbook.ai mở được và thấy danh sách các tập sách.
  • Đã clone: thư mục cs249r_book có các thư mục con kể trên. Bạn kiểm tra bằng lệnh ls.
  • Chạy Python: gõ lệnh sau để biết phiên bản. Kết quả phải từ 3.10 trở lên.
Terminal
python --version
  • Với TinyTorch, MLSys·im, Labs: dùng đúng ví dụ hoặc bài đầu tiên trong README của thư mục đó. Nếu chạy ra kết quả như README mô tả là bạn đã cài đúng.

V.Dùng vào việc thật

A.Sinh viên tự học hệ thống ML

Bạn là sinh viên CNTT đã biết huấn luyện mô hình, nhưng chưa hiểu vì sao mô hình tốn bộ nhớ hay chậm khi phục vụ nhiều người. Bạn đọc Tập I online theo thứ tự chương, rồi thử lab tương ứng. README mô tả mạch học này là: biết huấn luyện mô hình thì học tiếp cách mở rộng trên cụm máy; biết transformer thì học vì sao KV cache chiếm nhiều bộ nhớ khi suy luận. Kết quả là bạn giải thích được các giới hạn của hệ thống thay vì chỉ chạy được mô hình.

Ràng buộc quyết định kiến trúc, nên hiểu ràng buộc trước rồi hãy chọn mô hình.

Ông T

B.Lập trình viên tự xây framework để hiểu sâu

Bạn dùng framework quen tay nhưng không biết bên trong nó làm gì. Bạn vào thư mục tinytorch, làm theo README, đi qua các module từ tensor đến transformer. Sau khoảng 20 module, bạn có một framework nhỏ do chính mình viết. Việc đọc stack trace hay tối ưu hiệu năng sẽ dễ hơn nhiều.

C.Chuẩn bị phỏng vấn thiết kế hệ thống AI

Bạn đang xin việc ở vị trí kỹ sư ML hạ tầng. Bạn dùng StaffML để làm các câu hỏi thiết kế hệ thống về cloud, edge, mobile và TinyML, rồi thử phỏng vấn mô phỏng. Kết quả là bạn quen cách trả lời bằng con số và ràng buộc thay vì nói chung chung. Ngân sách độ trễ và bộ nhớ là loại con số bạn cần nắm.

D.Giảng viên dựng môn học

Bạn dạy một môn về ML systems hoặc TinyML. Bạn mở Instructor Hub, chọn môn (giới thiệu, mở rộng, TinyML, Edge AI), rồi lấy đề cương, bài đọc theo tuần và slide Beamer. Nếu muốn có bài thực hành trên thiết bị thật, bạn kết hợp thêm Hardware Kits. Kết quả là một khung môn học đã có sẵn, bạn chỉ cần chỉnh theo lớp của mình.

VI.Lỗi hay gặp và cách xử lý

A.Không biết bắt đầu từ đâu

Đây là lỗi phổ biến nhất vì repo quá lớn. Cách xử lý: đừng cố cài mọi thứ. Mở bảng "Start Here" trong README gốc. Sinh viên tự học bắt đầu từ Tập I, giảng viên bắt đầu từ Instructor Hub.

B.Chạy pip ở gốc repo nhưng gặp lỗi

Gốc repo có requirements.txt và pyproject.toml, nhưng tư liệu không nói chúng dành cho phần nào. Nếu cài thất bại, bạn đừng ép. Hãy vào thư mục của thành phần bạn cần và đọc README riêng. Nên dùng môi trường ảo Python để không làm hỏng Python hệ thống.

C.Phiên bản Python quá cũ

pyproject.toml yêu cầu Python 3.10 trở lên. Nếu máy bạn dùng bản cũ hơn, hãy cài bản mới hơn rồi chạy lại.

D.Trích dẫn hoặc dạy từ Tập III và IV

Đây là bản nháp, chương được thêm, sắp xếp lại và viết lại liên tục. Tác giả nhắc chưa nên trích dẫn hay đem ra giảng dạy. Nếu cần nội dung ổn định, hãy dùng Tập I.

E.Bản dịch lỗi thời

README có bản tiếng Trung, Nhật, Hàn nhưng ghi rõ chúng theo một phiên bản cũ hơn. Chưa thấy bản tiếng Việt. Nếu cần nội dung mới nhất, hãy đọc bản tiếng Anh.

VII.Có nên dùng không

Điểm mạnh:

  • Nội dung đi từ nguyên lý đầu tiên và có số liệu tính lại được, vì các phép tính do mã Python tạo ra.
  • Bộ công cụ đủ cho một lộ trình học trọn vẹn: sách, tự xây, mô phỏng, phần cứng thật, luyện phỏng vấn.
  • Được nhiều giảng viên ở các trường đại học dùng, theo README, và vẫn được cập nhật đều.
  • Có thể chọn từng phần, không bắt buộc dùng hết.

Giới hạn:

  • Đây là tài liệu học bằng tiếng Anh. Người mới cần kiên nhẫn với thuật ngữ.
  • Không có lệnh cài chung. Bạn phải tự đọc README từng phần, và mình chưa biết yêu cầu hệ điều hành hay phần cứng chi tiết.
  • Labs và StaffML mới ở bản phát hành sớm. SocratiQ và MLPerf EDU là thử nghiệm giai đoạn đầu. Tập III và IV còn là bản nháp.
  • Giấy phép: repo có file LICENSE.md, nhưng tư liệu mình có không nói rõ nội dung. Nếu định dùng lại tài liệu cho mục đích thương mại hoặc giảng dạy, hãy đọc file đó.

Khi nào chọn cách khác: nếu bạn chỉ cần học cách dùng API của một mô hình AI để làm app nhanh, giáo trình này sâu hơn mức cần thiết. Nó phù hợp khi bạn muốn hiểu hệ thống bên dưới.

4.7/5 · Ông T chấm

Chưa có độc giả chấm

Bài này có ích với bạn không?

Câu hỏi thường gặp

cs249r_book có miễn phí không?

Sách được mô tả là giáo trình mở và đọc online được tại mlsysbook.ai. Repo có file LICENSE.md nhưng tư liệu mình có không nêu rõ giấy phép cụ thể. Nếu định dùng lại nội dung, bạn nên đọc file đó trong repo.

Tôi cần cài gì để đọc sách?

Chỉ cần trình duyệt và vào mlsysbook.ai. Bạn không cần cài Python hay clone repo nếu chỉ đọc. Tập I đã phát hành, còn Tập III và IV vẫn là bản nháp.

Cần Python phiên bản nào?

File pyproject.toml của repo yêu cầu Python từ 3.10 trở lên, và tên gói khai báo là mlsysbook. Yêu cầu riêng của từng thành phần như TinyTorch hay MLSys·im thì tư liệu chưa nói, bạn xem README trong thư mục đó.

Có cần GPU không, và chạy được trên Windows không?

Tư liệu chưa có thông tin về GPU hay hệ điều hành. Labs được mô tả là notebook Marimo chạy trong trình duyệt. Bạn nên đọc README của thành phần định dùng để biết yêu cầu cụ thể.

Repo này khác gì một cuốn sách ML thông thường?

Nó đi kèm công cụ thực hành. Bạn có TinyTorch để tự xây framework, MLSys·im để mô phỏng giới hạn hệ thống, kit phần cứng để thử trên thiết bị thật và StaffML để luyện câu hỏi. Các con số trong sách được tính bằng mã Python đi kèm chứ không gõ tay.

Có bản tiếng Việt không?

README liệt kê bản tiếng Anh, Trung, Nhật và Hàn, và ghi rằng các bản dịch theo một phiên bản cũ hơn. Chưa thấy bản tiếng Việt trong tư liệu.

Dữ liệu của tôi có an toàn không?

Tư liệu không nói gì về việc thu thập dữ liệu. Nếu chỉ đọc sách online hoặc chạy mã trên máy mình thì không có gì bắt bạn nhập khóa hay tài khoản trong phần README mình có. Với SocratiQ hoặc các dịch vụ web khác, bạn nên xem chính sách riêng của chúng.

Chuyển nhanh tới mục

  1. I.cs249r_book làm được gì
    1. A.Sách giáo trình bốn tập
    2. B.TinyTorch
    3. C.MLSys·im
    4. D.Hardware Kits
    5. E.Labs
    6. F.StaffML, Instructor Hub, slide và hai thử nghiệm
  2. II.Cần chuẩn bị gì
  3. III.Cài đặt từng bước
    1. A.Chọn phần bạn cần
    2. B.Đọc sách online (không cần cài)
    3. C.Tải repo về máy
    4. D.Xem các thư mục thành phần
    5. E.Làm theo README của thành phần
  4. IV.Kiểm tra đã chạy được chưa
  5. V.Dùng vào việc thật
    1. A.Sinh viên tự học hệ thống ML
    2. B.Lập trình viên tự xây framework để hiểu sâu
    3. C.Chuẩn bị phỏng vấn thiết kế hệ thống AI
    4. D.Giảng viên dựng môn học
  6. VI.Lỗi hay gặp và cách xử lý
    1. A.Không biết bắt đầu từ đâu
    2. B.Chạy pip ở gốc repo nhưng gặp lỗi
    3. C.Phiên bản Python quá cũ
    4. D.Trích dẫn hoặc dạy từ Tập III và IV
    5. E.Bản dịch lỗi thời
  7. VII.Có nên dùng không

Repo & Skill · 13/11/2026 · 11 phút đọc

Garden Skills: bộ skill thiết kế web, tạo ảnh, làm video cho AI — hướng dẫn cài đặt và dùng

Garden Skills là bộ sưu tập Agent Skills (kỹ năng cho AI) của tác giả ConardLi, dùng được với Claude Code, Cursor, Codex và các AI coding agent khác. Mỗi skill dạy agent làm tốt một việc như thiết kế trang web, tạo ảnh, làm video bằng code, biến tài liệu thành bài viết đẹp. Cài không khó, nhưng README có nhiều cách cài nên bạn cần chọn một cách hợp với công cụ đang dùng.

Repo & Skill · 13/11/2026 · 15 phút đọc

thesysdev/openui: xây giao diện AI dạng streaming — hướng dẫn cài đặt và dùng

OpenUI là framework full-stack, độc lập framework, giúp mô hình AI sinh giao diện có cấu trúc và hiển thị dần khi dữ liệu streaming về. Bạn có thể dựng nhanh một ứng dụng chat bằng CLI hoặc cài từng gói cho React, Vue, Svelte, Angular và LangChain. Việc bắt đầu khá đơn giản nếu máy có đúng phiên bản Node; README chưa ghi đầy đủ lệnh chạy ứng dụng sau khi scaffold.

Repo & Skill · 13/11/2026 · 11 phút đọc

Ruflo: điều phối nhóm agent AI cho Claude Code và Codex — hướng dẫn cài đặt và dùng

Ruflo (trước đây là Claude Flow) là một agent harness: lớp công cụ bao quanh Claude Code và Codex, bổ sung nhiều agent chuyên biệt, bộ nhớ qua các phiên và khả năng chia việc cho nhóm agent. Cài bằng một lệnh `npx ruflo@latest init` trong thư mục dự án, cần Node 20 trở lên. Cài khá dễ, nhưng hệ thống rất rộng nên bạn nên bắt đầu từ một tác vụ nhỏ.