Cả bài trong một trang: ý chính, sơ đồ, điểm phỏng vấn.
Giao tiếp trong system design, phần 1: đường đi của một message, Protobuf, REST hay gRPC
1Năm điều cần cân nhắc
Khi hai thành phần nói chuyện, hỏi năm câu trước khi chọn công nghệ. Trong thực tế đừng đặt hiệu năng lên đầu: nhanh hơn 20% mà đội không debug được là lựa chọn tồi.
Delivery guarantee: không retry là at-most-once, có retry là at-least-once
Tương thích: client cũ, server mới sống chung khi rolling deploy
Hiệu năng, xử lý lỗi (timeout, retry, circuit breaker)
Bảo mật: TLS hoặc mTLS giữa service
2Đường đi của một message
Mỗi lần gọi đi qua cùng một chuỗi tầng ở hai phía, mỗi tầng gánh một mối lo. Phía nhận đi ngược lại.
flowchart TD
A["Logic: timeout, retry"] --> B["Serialization: JSON, Protobuf"]
B --> C["Protocol: HTTP/1.1, HTTP/2"]
C --> D["Mô hình xử lý: thread, Reactor"]
D --> E["Network I/O: blocking, epoll"]
E --> F(("Mạng"))
3Reactor không phải Actor
Reactor tách việc chờ I/O (event loop) khỏi việc tính toán (worker pool). Actor model là mô hình lập trình đồng thời khác hẳn; slide gọi chúng là một là sai.
Reactor
Actor model
Loại
Mẫu xử lý I/O
Mô hình lập trình đồng thời
Đơn vị
Kết nối và sự kiện I/O
Actor và message
Ví dụ
Netty, event loop
Akka, Erlang
4JSON hay Protobuf
JSON là text, đọc được, tương thích dễ. Protobuf là binary, nhỏ và nhanh hơn vài lần, nhưng cần schema và giữ luật tương thích nghiêm ngặt.
message User {
int64 id = 1; // field nhận diện bằng SỐ
string name = 2;
reserved 3; // field đã xoá: giữ số
reserved "email"; // và giữ cả tên
string phone = 4; // thêm field số mới: an toàn
}
5REST hay gRPC
REST hợp API công khai và trình duyệt; gRPC (HTTP/2 + Protobuf) hợp service nội bộ tải cao, cần streaming, cần hợp đồng chặt. Cái giá của gRPC nằm ở vận hành.
REST
gRPC
Tương thích
Mọi trình duyệt, công cụ
Trình duyệt cần gRPC-Web
Debug
curl được
Cần grpcurl, reflection
Cân bằng tải
L4 hay L7 đều được
Cần L7 hoặc phía client
💡 Ghi nhớ
HTTP/2: multiplexing, nén header HPACK, binary framing.
HTTP/2 server push đã bị Chrome gỡ từ bản 106.
REST trên HTTP/2 lấy multiplexing mà không đổi code.
Virtual thread: code blocking, runtime multiplex lên epoll.
⭐ Điểm phỏng vấn
Tự trả lời trước, rồi bấm từng câu để xem đáp án.
Khi nào chọn gRPC?
Service nội bộ tải cao, streaming, hợp đồng chặt.
Luật vàng Protobuf?
Không đổi số thứ tự hay kiểu field đã có.
Reactor khác Actor?
Reactor xử lý I/O, Actor là mô hình đồng thời.
Xong phần tự kiểm tra, bài này đã được đánh dấu đã học ✓
⚠️ Lỗi thường gặp
gRPC qua ClusterIP dồn tải vào một pod vì connection HTTP/2 sống lâu.
Dùng lại số field Protobuf đã xoá, đọc nhầm dữ liệu cũ.
Chọn giao thức chỉ vì nhanh hơn, bỏ qua chi phí vận hành.
Chọn cách giao tiếp giữa các thành phần là quyết định kiến trúc khó đổi nhất sau database. Bài này tách một lần gọi thành từng tầng để biết mỗi tầng quyết định điều gì, rồi đi vào hai lựa chọn đồng bộ hay gặp nhất: định dạng dữ liệu (JSON hay Protobuf) và giao thức giữa backend (REST hay gRPC).
1. Năm điều cần cân nhắc
Ý chính: khi hai thành phần nói chuyện, hãy hỏi: message có tới được không (delivery guarantee), đổi interface có làm vỡ bên kia không (tương thích), nhanh và tiết kiệm tới đâu (hiệu năng), lỗi thì sao (xử lý lỗi), ai được nghe (bảo mật).
Delivery guarantee: gọi đồng bộ không retry là at-most-once (tối đa một lần, có thể mất). Có retry thành at-least-once (có thể trùng). Muốn hiệu quả như exactly-once thì bên nhận phải idempotent (xem idempotency trong hệ phân tán).
Tương thích: client cũ và server mới phải sống chung trong lúc triển khai cuốn chiếu (rolling deploy).
Hiệu năng, hiệu quả: latency, throughput, CPU cho serialize, băng thông.
Bảo mật: TLS hoặc mTLS giữa service, xác thực, phân quyền.
Khoá học nhấn mạnh: trong thực tế đừng đặt hiệu năng lên đầu. Một giao thức nhanh hơn 20% mà đội không debug được thì là lựa chọn tồi.
2. Đường đi của một message
Ý chính: mỗi lần gọi đi qua cùng một chuỗi tầng ở hai phía, và mỗi tầng gánh một mối lo khác nhau. Khi chọn công nghệ, quyết định theo thứ tự: mô hình network I/O → mô hình xử lý → protocol → serialization.
flowchart LR
subgraph Client
A[Logic] --> B[Serialization]
B --> C[Protocol]
C --> D[Mô hình xử lý]
D --> E[Network I/O]
end
E --> N((Mạng))
subgraph Server
F[Network I/O] --> G[Mô hình xử lý]
G --> H[Protocol]
H --> I[Deserialization]
I --> J[Logic]
end
N --> F
Tầng
Gánh mối lo
Ví dụ lựa chọn
Logic
Xử lý lỗi
Timeout, retry, fallback
Serialization
Tương thích, hiệu năng
JSON, Protobuf, Avro
Protocol
Delivery guarantee, hiệu quả, bảo mật
HTTP/1.1, HTTP/2, AMQP, Kafka protocol, MQTT
Mô hình xử lý
Hiệu năng
Thread-per-request, Reactor, virtual thread
Network I/O
Hiệu quả
Blocking, non-blocking, multiplexing (epoll)
Network I/O. Năm mô hình I/O của Unix và epoll đã có bài riêng: I/O model, epoll và file descriptor. Điều cần nhớ ở đây: multiplexing I/O (một system call theo dõi nhiều kết nối) là nền của mọi server chịu tải cao.
Mô hình xử lý. Có hai kiểu chính:
Thread-per-request (truyền thống): mỗi request một thread, thread vừa đọc socket (blocking) vừa xử lý. Đơn giản, nhưng số thread bị giới hạn bởi pool, và nhiều thread thì tốn context switch.
Reactor: tách việc chờ I/O khỏi việc tính toán. Main reactor nhận kết nối mới; sub reactor (event loop) theo dõi đọc/ghi trên nhiều kết nối; việc decode, tính toán, encode được giao cho worker pool. Netty, Nginx, Redis đều theo kiểu này.
Virtual thread của Java 21 là con đường thứ ba: viết code kiểu blocking, runtime tự multiplex lên epoll. Chi tiết Tomcat, Netty và virtual thread ở bài I/O model.
Protocol. HTTP/2 mang lại bốn thứ so với HTTP/1.1: multiplexing (nhiều request trên một connection TCP), nén header (HPACK), binary framing, và server push. Bảng so sánh HTTP/1.1, 2, 3 đầy đủ ở bài web và HTTP.
3. Serialization: JSON hay Protobuf
Ý chính: JSON là text, đọc được, schema tuỳ chọn, tương thích dễ. Protobuf là binary, nhỏ và nhanh hơn nhiều, nhưng cần schema định nghĩa trước, khó debug, và có luật tương thích nghiêm ngặt.
JSON (text)
Protobuf (binary)
Tương thích
Cao: thêm field thoải mái nếu bên đọc bỏ qua field lạ
Cao nếu giữ luật; đổi số thứ tự hay kiểu field là vỡ
Độ phức tạp
Thấp, schema tuỳ chọn, đọc bằng mắt được
Cao hơn: cần file .proto, sinh code, khó debug
Hiệu năng
Chậm hơn, to hơn
Nhỏ hơn vài lần, parse nhanh hơn
Khi nào dùng
Yêu cầu hiệu năng không quá cao, API công khai
Service nội bộ tải cao, message trong Kafka với schema registry
Luật tương thích của Protobuf, tóm gọn:
Trên đường truyền, field được nhận diện bằng số thứ tự, không phải tên. Đổi số = đổi nghĩa dữ liệu.
Thêm field mới với số mới: an toàn, bên cũ bỏ qua field lạ.
Xoá field: đánh dấu reserved cả số lẫn tên để không ai dùng lại.
Đổi kiểu field: hầu như luôn vỡ (vài cặp như int32 và int64 đọc được nhau nhưng có thể bị cắt số).
Một thay đổi Protobuf an toàn và một thay đổi phá vỡ
Phiên bản 1:
syntax = "proto3";message Order { string id = 1; int64 amount = 2; // đơn vị nhỏ nhất của tiền tệ string note = 3;}
Phiên bản 2 an toàn: xoá note nhưng giữ chỗ, thêm field mới với số mới.
message Order { reserved 3; reserved "note"; string id = 1; int64 amount = 2; string currency = 4; // client cũ không biết field 4, bỏ qua optional string coupon = 5; // optional để phân biệt "không gửi" với chuỗi rỗng}
Phiên bản phá vỡ: đổi amount sang số 4, hoặc đổi kiểu sang string. Client cũ gửi số tiền ở field 2, server mới đọc field 4 và thấy 0, hoặc parse lỗi. Bắt lỗi này tự động bằng buf breaking trong CI, hoặc để schema registry chặn ở chế độ BACKWARD.
Về phía JSON trong Spring Boot: ObjectMapper do Spring Boot cấu hình đã tắt FAIL_ON_UNKNOWN_PROPERTIES, nên client bỏ qua field lạ. Nhưng một new ObjectMapper() tự tạo thì vẫn bật, và một field mới phía server sẽ làm client đó ném lỗi. Đây là lỗi tương thích JSON hay gặp nhất.
4. Giữa backend: REST hay gRPC
Ý chính: REST tương thích với mọi thứ (trình duyệt, load balancer, mọi ngôn ngữ) và đủ nhanh cho đa số trường hợp. gRPC nhanh hơn nhờ HTTP/2 và Protobuf, có streaming và hợp đồng chặt, đổi lại cần sinh code và cân bằng tải khó hơn.
REST
gRPC
Tương thích
Trình duyệt, load balancer, công cụ, mọi ngôn ngữ đều hiểu
Trình duyệt cần gRPC-Web và proxy; công cụ ít hơn
Hiệu năng
Thường trên HTTP/1.1 với JSON
HTTP/2, Protobuf, gọi bất đồng bộ, streaming hai chiều
Độ phức tạp
Thấp
Cần file .proto, sinh code, quản lý phiên bản schema
Cân bằng tải
Load balancer L4 hay L7 đều được
Cần load balancer L7 hoặc cân bằng phía client
Khi nào dùng
Yêu cầu hiệu năng không quá cao, API công khai
Service nội bộ tải cao, cần streaming, đa ngôn ngữ cần hợp đồng chặt
Một hướng giữa: REST trên HTTP/2 (Spring Boot bật bằng server.http2.enabled=true) lấy được multiplexing và nén header mà không đổi cách lập trình.
Deadline và lỗi khi gọi gRPC từ Java
gRPC truyền deadline (hạn chót tuyệt đối) qua mọi bước gọi, nên service phía sau biết còn bao nhiêu thời gian và tự bỏ việc khi hết hạn. Đây là cách làm “timeout theo ngân sách” mà REST phải tự xây bằng header.
OrderReply reply = orderStub .withDeadlineAfter(300, TimeUnit.MILLISECONDS) // cả chuỗi gọi phía sau dùng chung hạn chót này .getOrder(OrderRequest.newBuilder().setId(id).build());
Khi gọi lỗi, client nhận StatusRuntimeException:
UNAVAILABLE: server không tới được, an toàn để retry với backoff.
DEADLINE_EXCEEDED: hết hạn chót; retry chỉ khi thao tác idempotent và còn ngân sách thời gian.
INVALID_ARGUMENT, NOT_FOUND, FAILED_PRECONDITION: lỗi nghiệp vụ, không retry.
gRPC có sẵn cấu hình retry trong service config (số lần, mã lỗi được retry, backoff), nhưng chỉ nên bật cho method idempotent. Cách thiết kế timeout và retry chung ở bài timeout, retry và circuit breaker.
Bài tập
Bài 1: Chọn giao thức cho ba tình huống
Đề (tự đặt): chọn REST hay gRPC, JSON hay Protobuf, và giải thích: (a) API cho đối tác bên ngoài tích hợp thanh toán; (b) service định giá được 5 service Java khác gọi tổng cộng 30K RPS, mỗi lần trả về vài trăm byte; (c) ứng dụng mobile tải danh sách sản phẩm.
Lời giải bài 1
(a) REST + JSON. Đối tác dùng đủ loại ngôn ngữ và công cụ, cần đọc được tài liệu OpenAPI, thử bằng curl. Tương thích và dễ tích hợp quan trọng hơn vài mili giây. Thêm idempotency key và chữ ký request.
(b) gRPC + Protobuf. Nội bộ, tải cao, message nhỏ: lợi ích về CPU serialize và multiplexing rõ rệt. Hợp đồng chặt giúp 5 đội không vỡ nhau. Nhớ bật cân bằng tải theo request (mục 4) và đặt deadline.
(c) REST + JSON qua HTTP/2 là mặc định an toàn: CDN, cache HTTP, công cụ debug đều sẵn. Chỉ cân nhắc gRPC hoặc Protobuf nếu đo thấy băng thông di động là vấn đề thật; khi đó vẫn cần một lớp gateway cho web.
Bài 2: Review một thay đổi file .proto
Đề (tự đặt): một PR đổi message sau. Thay đổi nào phá vỡ client cũ?
// trướcmessage User { string id = 1; string name = 2; int32 age = 3; string email = 4; }// saumessage User { string id = 1; string full_name = 2; string age = 3; string phone = 4; }
Lời giải bài 2
name → full_name cùng số 2: không vỡ trên đường truyền binary (số giữ nguyên), nhưng vỡ nếu có ai dùng JSON mapping của Protobuf, vì tên field JSON đổi.
age từ int32 sang string cùng số 3: vỡ. Kiểu wire khác nhau, client cũ parse sai hoặc bỏ qua.
email bị thay bằng phone dùng lại số 4: vỡ nặng nhất, vì client cũ sẽ đọc số điện thoại vào field email mà không có lỗi nào báo.
Sửa: giữ age là int32, nếu cần chuỗi thì thêm field mới số 5; xoá email bằng reserved 4; reserved "email"; và thêm phone = 6. Thêm buf breaking vào CI để PR kiểu này bị chặn tự động.
Ghi nhớ
Kể được năm điều cân nhắc khi chọn cách giao tiếp, và vì sao không đặt hiệu năng lên đầu.
Vẽ được đường đi của một message và nói mỗi tầng gánh mối lo gì.
Phân biệt được Reactor pattern với Actor model.
Nêu được luật tương thích của Protobuf: số thứ tự, thêm, xoá với reserved, đổi kiểu.
Giải thích được vì sao gRPC trên Kubernetes dồn tải vào một pod và ba cách sửa.
Câu hỏi phỏng vấn
Junior
JSON và Protobuf khác nhau thế nào?
JSON là text, đọc được bằng mắt, không bắt buộc schema; Protobuf là binary, nhỏ và nhanh hơn, nhưng cần file schema và sinh code.
JSON hợp với API công khai và debug; Protobuf hợp với service nội bộ tải cao và message trong Kafka.
HTTP/2 cải thiện gì so với HTTP/1.1?
Multiplexing nhiều request trên một connection TCP, nén header, và khung nhị phân thay cho text.
Nó hết nghẽn đầu hàng ở tầng HTTP nhưng vẫn còn ở tầng TCP; HTTP/3 trên QUIC giải nốt phần đó.
Mid
Khi nào bạn chọn gRPC thay vì REST?
Khi gọi nội bộ giữa service với tải cao và message nhỏ, khi cần streaming, hoặc khi nhiều ngôn ngữ cần một hợp đồng chặt.
Cho API công khai, trình duyệt, đối tác thì REST vẫn tốt hơn vì ai cũng gọi được và công cụ đầy đủ.
Làm sao thêm field vào một message Protobuf mà không vỡ client cũ?
Thêm field với số thứ tự mới chưa từng dùng; client cũ sẽ bỏ qua field lạ. Không đổi số hay kiểu của field cũ.
Khi xoá field, đánh dấu reserved cả số và tên. Đưa buf breaking hoặc schema registry vào CI để chặn thay đổi phá vỡ.
Reactor pattern hoạt động thế nào?
Một hoặc vài event loop dùng epoll theo dõi rất nhiều kết nối; khi một kết nối sẵn sàng thì gọi handler, còn việc nặng giao cho worker pool.
Main reactor nhận kết nối, sub reactor xử lý đọc/ghi, worker làm decode, tính toán, encode. Quy tắc sống còn: không chặn event loop.
Senior
Bạn scale service gRPC từ 3 lên 10 pod nhưng 7 pod mới gần như không nhận request. Vì sao?
Kubernetes Service cân bằng theo connection, mà client gRPC giữ một connection HTTP/2 lâu dài, nên mọi request vẫn đi vào các pod cũ.
Sửa bằng headless Service với client round_robin, hoặc proxy L7/service mesh, hoặc đặt MAX_CONNECTION_AGE để client kết nối lại định kỳ.
Một request đi qua 4 service gọi đồng bộ. Bạn thiết kế timeout thế nào?
Đặt một ngân sách thời gian cho cả request và truyền deadline xuống từng bước, mỗi bước dùng phần còn lại, thay vì mỗi service tự đặt timeout cố định.
gRPC có sẵn deadline propagation; với REST thì tự truyền qua header. Retry chỉ ở một tầng và chỉ cho thao tác idempotent, để không nhân số lần gọi lên theo cấp số.
Từ vựng tiếng Anh
Term
Phát âm
Nghĩa
Ví dụ câu tiếng Anh dùng trong phỏng vấn
serialization
/ˌsɪr.i.ə.ləˈzeɪ.ʃən/
chuyển object thành byte
“Protobuf serialization is smaller and faster than JSON.”
backward compatible
/ˈbæk.wɚd kəmˈpæt.ə.bəl/
tương thích ngược
“Adding a new field with a new number is backward compatible.”
breaking change
/ˈbreɪ.kɪŋ tʃeɪndʒ/
thay đổi phá vỡ
“Reusing a field number is a breaking change.”
event loop
/ɪˈvent luːp/
vòng lặp sự kiện
“Never block the event loop with a JDBC call.”
multiplexing
/ˈmʌl.tɪ.plek.sɪŋ/
ghép nhiều luồng trên một kênh
“HTTP/2 multiplexes many requests over one connection.”
head-of-line blocking
/hed əv laɪn ˈblɑː.kɪŋ/
nghẽn đầu hàng
“QUIC removes TCP-level head-of-line blocking.”
client-side load balancing
/ˈklaɪ.ənt saɪd loʊd ˈbæl.ən.sɪŋ/
cân bằng tải phía client
“We enabled client-side load balancing with round robin.”