Xong phần tự kiểm tra, bài này đã được đánh dấu đã học ✓
⚠️ Lỗi thường gặp
Visibility timeout ngắn hơn thời gian xử lý.
Cấp quyền S3 cho execution role thay vì task role.
Queue không có DLQ, message lỗi quay vòng mãi.
Đã có Docker image của service Spring Boot, câu hỏi tiếp theo là “chạy nó ở đâu trên AWS, và các service nói chuyện bất đồng bộ bằng gì?”. Bài này giúp bạn chọn nơi chạy, rồi đi qua SQS, Lambda, CloudWatch và nơi cất secret.
Ý chính: ECR là kho image riêng. Trong ECS, task definition là bản mô tả (image, CPU, RAM, biến môi trường, role), task là một bản đang chạy, service giữ đủ số task và nối chúng vào ALB.
Deploy: đăng ký task definition mới, cập nhật service; ECS chạy task mới, đợi health check đạt rồi dừng task cũ (rolling). Chiến lược khác ở bài chiến lược deploy.
Mạng và scale: mỗi task có IP và security group riêng (VPC); auto scaling theo CPU hoặc độ dài queue.
3. SQS và SNS: hàng đợi và fan-out
Ý chính: SQS là hàng đợi được quản lý: producer gửi, consumer kéo về, xử lý xong thì xoá. Bên nhận chậm hay chết không kéo sập bên gửi.
Standard
FIFO
Giao message
ít nhất một lần, có thể trùng
khử trùng trong 5 phút
Thứ tự
không đảm bảo
đúng trong một MessageGroupId
Thông lượng
gần như không giới hạn
thấp hơn
Visibility timeout (mặc định 30 giây): message vừa được nhận bị ẩn với consumer khác. Không xoá kịp thì nó hiện lại và được giao lần nữa.
DLQ (dead-letter queue): queue phụ nhận message đã bị nhận quá maxReceiveCount lần. Đặt alarm trên DLQ; sửa lỗi xong thì redrive về queue chính.
Long polling (WaitTimeSeconds tới 20 giây): consumer chờ message thay vì hỏi liên tục.
SNS là pub/sub: publish một lần vào topic, mỗi queue đăng ký nhận một bản.
@SqsListener("orders-created")void handle(OrderCreated event) { if (processed.existsById(event.orderId())) return; // đã xử lý: bỏ qua invoiceService.createFor(event);} // trả về bình thường: xoá message; ném exception: message hiện lại
Message có thể tới hai lần nên consumer phải idempotent. Khác Kafka, SQS không đọc lại được message đã xoá; cách chọn ở bài message broker.
4. Lambda và cold start với Java
Ý chính: Lambda chạy code khi có sự kiện (HTTP, message SQS, file mới trên S3, lịch) và tính tiền theo thời gian chạy. Lần gọi đầu của một môi trường mới phải khởi động JVM và framework: đó là cold start.
Với Spring Boot, cold start thường là vài giây (ước lượng, tuỳ số bean); các lần sau dùng lại môi trường đã ấm. Cách giảm:
SnapStart: Lambda chụp ảnh bộ nhớ sau khi khởi tạo xong lúc publish version, lần sau khôi phục từ ảnh đó.
Provisioned concurrency: trả tiền giữ sẵn N môi trường luôn ấm.
Tăng memory (CPU tăng theo), bớt dependency.
Lambda đọc SQS qua event source mapping: AWS kéo message theo lô và gọi hàm. Hàm nối RDS nên đi qua RDS Proxy (RDS).
5. CloudWatch: logs, metrics, alarms
Ý chính: CloudWatch nhận log và metric của mọi dịch vụ AWS. App chỉ ghi log ra stdout; driver awslogs của ECS đẩy vào một log group.
Logs: log group (một service) chứa nhiều log stream (một task). Mặc định log không bao giờ hết hạn: tự đặt retention. Ghi log JSON để dễ lọc (structured log).
Metrics: có sẵn CPU, memory của service, số lỗi 5xx của ALB, ApproximateAgeOfOldestMessage của SQS. Metric riêng của app đẩy qua Micrometer.
Alarms: metric vượt ngưỡng thì gửi SNS (email, on-call) hoặc kích hoạt auto scaling.
Ba alarm đầu tiên nên có: 5xx của ALB, tuổi message cũ nhất, DLQ có message.
6. Secrets Manager và Parameter Store
Ý chính: cấu hình đến từ môi trường, không nằm trong image (12-factor). Secret nằm ở Secrets Manager hoặc Parameter Store, được tiêm vào task lúc khởi động.
Secrets Manager
Parameter Store (SSM)
Dùng cho
mật khẩu DB, API key
cấu hình thường, secret đơn giản (SecureString)
Xoay tự động
có, tích hợp sẵn với RDS
không có sẵn
Chi phí
tính theo mỗi secret
tier standard không tính phí lưu
Hai cách đưa vào Spring Boot: khai báo secrets trong task definition (phần 2) để ECS tiêm thành biến môi trường, hoặc app tự đọc bằng Spring Cloud AWS:
spring: config: import: aws-secretsmanager:prod/orders/db # cần quyền đọc trên task role
Đào sâu: secret chỉ được đọc lúc khởi động và giới hạn của SnapStart
SnapStart dùng được cho Java 11 trở lên, chỉ trên version đã publish, và không dùng chung với provisioned concurrency. Vì nhiều môi trường khôi phục từ cùng một ảnh, giá trị sinh lúc khởi tạo (ID ngẫu nhiên, kết nối mạng, credential tạm) phải được tạo lại sau khi khôi phục.
Bài tập
Đề. Viết chuỗi lệnh CLI để đưa bản mới của service orders lên ECS: image gắn tag theo commit, đẩy lên ECR, deploy rolling và chờ tới khi ổn định. Nêu điều kiện để deploy không làm rớt request.
Lời giải: build, push lên ECR, đăng ký task definition và cập nhật service
Chưa chạy trên tài khoản AWS thật; lệnh viết theo tài liệu AWS CLI v2.
--task-definition orders không kèm số revision sẽ lấy revision ACTIVE mới nhất.
Không rớt request cần: health check của target group trỏ vào /actuator/health/readiness; minimumHealthyPercent 100 và maximumPercent 200 để task mới lên trước khi task cũ dừng; server.shutdown=graceful; deregistration delay của ALB không dài hơn stopTimeout quá nhiều.
Bật deployment circuit breaker để ECS tự rollback khi task mới không khoẻ.
Trong thực tế chuỗi này nằm trong pipeline CI/CD, chạy bằng một role tạm qua OIDC chứ không dùng access key.
Ghi nhớ
Nói được vì sao chọn ECS Fargate, EKS hay Lambda cho một bài toán cụ thể.
Phân biệt task definition, task, service; execution role và task role.
Giải thích được visibility timeout, DLQ và vì sao consumer phải idempotent.
Biết cold start là gì và ba cách giảm với Java.
Câu hỏi phỏng vấn
Bạn deploy một service Spring Boot lên AWS bằng cách nào?
Đóng gói thành Docker image, đẩy lên ECR, chạy bằng ECS service trên Fargate sau một ALB; cấu hình và secret tiêm qua biến môi trường.
CI build và test, đẩy image gắn tag theo commit, đăng ký task definition mới rồi cập nhật service để rolling. Database là RDS trong private subnet, log ra CloudWatch. Team đã có Kubernetes thì thay ECS bằng EKS; phần còn lại giống nhau.
SQS standard và FIFO khác nhau thế nào?
Standard giao ít nhất một lần, không đảm bảo thứ tự, thông lượng gần như không giới hạn; FIFO giữ thứ tự trong từng message group và khử trùng, đổi lại thông lượng thấp hơn.
Chọn standard cho phần lớn việc nền và làm consumer idempotent. Chọn FIFO khi thứ tự là bắt buộc, ví dụ các sự kiện của cùng một đơn hàng, với MessageGroupId là mã đơn.
Task role và task execution role của ECS khác nhau thế nào?
Execution role là quyền ECS dùng để dựng task: kéo image, ghi log, đọc secret. Task role là quyền code trong container dùng khi gọi dịch vụ AWS.
AWS SDK trong app tự lấy credential tạm của task role, nên không cần access key. Tách hai role giúp giữ quyền tối thiểu: code không cần quyền kéo image, hạ tầng không cần quyền đọc bucket nghiệp vụ.
Cold start của Lambda là gì và giảm thế nào với Java?
Là độ trễ của lần gọi đầu trên một môi trường mới: tải code, khởi động JVM và khởi tạo framework. Giảm bằng SnapStart, provisioned concurrency và làm phần khởi tạo nhẹ đi.
SnapStart khôi phục từ ảnh bộ nhớ đã khởi tạo; provisioned concurrency giữ sẵn môi trường ấm và tốn tiền kể cả khi không có request. Ngoài ra: tăng memory để có thêm CPU, bớt dependency, khởi tạo client SDK một lần ngoài handler.
Một message làm consumer lỗi mãi. Chuyện gì xảy ra và bạn thiết kế thế nào?
Không có DLQ thì message hiện lại sau mỗi visibility timeout và bị thử lại tới khi hết hạn lưu giữ, tốn tài nguyên và che mất lỗi. Cần DLQ với maxReceiveCount.
Sau số lần nhận quy định, SQS chuyển message sang DLQ. Đặt alarm khi DLQ có message, ghi log đủ để tìm nguyên nhân, sửa rồi redrive về queue chính. Với FIFO, message lỗi còn chặn cả message group phía sau nó.
Thiết kế xử lý sau khi đặt hàng: gửi email, xuất hoá đơn, cập nhật kho, không làm chậm API.
API ghi đơn rồi publish một sự kiện vào SNS topic; mỗi việc có một SQS queue riêng đăng ký topic đó, mỗi queue có consumer và DLQ riêng.
Fan-out tách ba việc: email chậm không ảnh hưởng kho; thêm việc thứ tư chỉ là thêm một queue.
Ghi DB và publish không cùng transaction: dùng outbox để không mất sự kiện.
Consumer idempotent theo orderId; visibility timeout lớn hơn thời gian xử lý.
Scale consumer theo độ dài queue; alarm trên tuổi message cũ nhất và DLQ.
Email thưa và ngắn có thể là Lambda; xuất hoá đơn nặng chạy worker ECS.
Từ vựng tiếng Anh
Term
Phát âm
Nghĩa
Ví dụ câu tiếng Anh dùng trong phỏng vấn
task definition
/tæsk ˌdef.əˈnɪʃ.ən/
bản mô tả task
“Each deploy registers a new task definition revision.”
execution role
/ˌek.səˈkjuː.ʃən roʊl/
role để dựng task
“The execution role pulls the image and reads secrets.”
visibility timeout
/ˌvɪz.əˈbɪl.ə.t̬i/
thời gian message bị ẩn
“The visibility timeout must exceed the processing time.”
dead-letter queue
/ˌded ˈlet̬.ɚ kjuː/
queue chứa message lỗi
“After five receives the message moves to the dead-letter queue.”
fan-out
/ˈfæn.aʊt/
phát một sự kiện ra nhiều nơi
“We fan out through SNS to one queue per consumer.”
at-least-once delivery
/dɪˈlɪv.ɚ.i/
giao ít nhất một lần
“Delivery is at-least-once, so consumers are idempotent.”
cold start
/koʊld stɑːrt/
khởi động nguội
“SnapStart cut our Java cold start to under a second.”
rolling deployment
/ˈroʊ.lɪŋ/
thay dần từng task
“ECS starts new tasks before draining the old ones.”
Ghi chép tự tổng hợp từ tài liệu chính thức và kinh nghiệm thực tế.