Đến nội dung chính
Sổ ôn Backend

Tìm kiếm

Git, DevOps & ToolingMid14 phút đọc

Triển khai Spring Boot trên AWS: ECS Fargate, Lambda, SQS, CloudWatch và Secrets Manager

Ôn 10 thẻ
Trong bài này

Cả bài trong một trang: ý chính, sơ đồ, điểm phỏng vấn.

Triển khai Spring Boot trên AWS: ECS Fargate, Lambda, SQS, CloudWatch và Secrets Manager

1Chạy Spring Boot ở đâu

AWS lo càng nhiều thì bạn kiểm soát càng ít. Với service web thường, ECS trên Fargate là điểm cân bằng.

Cách chạy Bạn quản lý Hợp khi
EC2 Máy, OS, deploy Cần toàn quyền với máy
ECS Fargate Chỉ container Service web, worker
EKS Cluster Kubernetes Team đã dùng Kubernetes
Lambda Chỉ hàm Việc theo sự kiện, ngắn

2Từ image tới ECS

CI build image, đẩy lên ECR. Task definition mô tả container; service giữ đủ số task và thay dần khi deploy.

flowchart TD
  A["CI: build image"] --> B["ECR"]
  B --> C["Task definition mới"]
  C --> D["ECS service: rolling"]
  D --> E["Task Fargate sau ALB"]

3SQS hoạt động thế nào

Consumer nhận message, message bị ẩn trong visibility timeout. Xử lý xong thì xoá; không xoá kịp thì nó hiện lại.

  • Standard: ít nhất một lần, không đảm bảo thứ tự
  • FIFO: đúng thứ tự trong một message group
  • Nhận quá maxReceiveCount lần: sang DLQ
  • SNS + nhiều queue: một sự kiện, nhiều người nhận

4Listener trong Spring Boot

Spring Cloud AWS cho @SqsListener: hàm trả về bình thường thì message bị xoá, ném exception thì message hiện lại. Hàm phải idempotent.

@SqsListener("orders-created")
void handle(OrderCreated e) {
  if (processed.existsById(e.orderId())) return;
  invoices.createFor(e);
}

5Cấu hình và quan sát

Secret không nằm trong image hay application.yml. Log ghi ra stdout, CloudWatch thu lại và báo động.

Dịch vụ Dùng cho
Secrets Manager Mật khẩu DB, có xoay tự động
Parameter Store Cấu hình thường, secret đơn giản
CloudWatch Log, metric, alarm

💡 Ghi nhớ

  • Mặc định: ECS Fargate + ECR + ALB.

  • Execution role cho hạ tầng, task role cho code.

  • Consumer SQS luôn idempotent, luôn có DLQ.

⭐ Điểm phỏng vấn

Tự trả lời trước, rồi bấm từng câu để xem đáp án.

  • Chọn ECS hay Lambda?

    Chạy liên tục: ECS; theo sự kiện, ngắn: Lambda.

  • Visibility timeout là gì?

    Thời gian message bị ẩn khi đang xử lý.

  • Giảm cold start Java?

    SnapStart, provisioned concurrency, ít dependency.

⚠️ Lỗi thường gặp

  • Visibility timeout ngắn hơn thời gian xử lý.

  • Cấp quyền S3 cho execution role thay vì task role.

  • Queue không có DLQ, message lỗi quay vòng mãi.

Đã có Docker image của service Spring Boot, câu hỏi tiếp theo là “chạy nó ở đâu trên AWS, và các service nói chuyện bất đồng bộ bằng gì?”. Bài này giúp bạn chọn nơi chạy, rồi đi qua SQS, Lambda, CloudWatch và nơi cất secret.

Sơ đồ tóm tắt

flowchart LR
  U["Người dùng"] --> ALB["ALB"]
  ALB --> T["ECS service: task Fargate"]
  ECR["ECR image"] -.-> T
  T --> DB["RDS"]
  T -->|"publish"| SNS["SNS topic"]
  SNS --> Q1["SQS: hoá đơn"]
  SNS --> Q2["SQS: email"]
  Q1 --> W["Worker ECS"]
  Q2 --> L["Lambda"]
  Q1 -.->|"lỗi 5 lần"| DLQ["DLQ"]

1. Các cách chạy Spring Boot trên AWS và cách chọn

Ý chính: các lựa chọn khác nhau ở chỗ ai lo phần máy chủ. Với phần lớn service web, chọn ECS trên Fargate.

Cách chạy Là gì Đổi lại
EC2 máy ảo, tự cài Java, tự deploy tự vá OS, tự scale (EC2 và ALB)
Elastic Beanstalk đưa jar lên, AWS dựng EC2 + ALB ít linh hoạt
ECS trên Fargate chạy container, không thấy máy không SSH vào host
EKS Kubernetes được quản lý phải vận hành Kubernetes
Lambda chạy hàm theo sự kiện, trả theo lần gọi cold start, tối đa 15 phút mỗi lần

2. ECS trên Fargate với ECR

Ý chính: ECR là kho image riêng. Trong ECS, task definition là bản mô tả (image, CPU, RAM, biến môi trường, role), task là một bản đang chạy, service giữ đủ số task và nối chúng vào ALB.

{
  "family": "orders", "cpu": "512", "memory": "1024",
  "taskRoleArn": "arn:aws:iam::111122223333:role/orders-task",
  "executionRoleArn": "arn:aws:iam::111122223333:role/orders-exec",
  "containerDefinitions": [{
    "name": "app",
    "image": "111122223333.dkr.ecr.ap-southeast-1.amazonaws.com/orders:sha-a1b2c3",
    "portMappings": [{ "containerPort": 8080 }],
    "secrets": [{ "name": "DB_PASSWORD",
      "valueFrom": "arn:aws:secretsmanager:ap-southeast-1:111122223333:secret:prod/orders/db-AbCdEf:password::" }],
    "logConfiguration": { "logDriver": "awslogs",
      "options": { "awslogs-group": "/ecs/orders", "awslogs-region": "ap-southeast-1", "awslogs-stream-prefix": "app" } }
  }]
}
  • Deploy: đăng ký task definition mới, cập nhật service; ECS chạy task mới, đợi health check đạt rồi dừng task cũ (rolling). Chiến lược khác ở bài chiến lược deploy.
  • Tắt êm: ECS gửi SIGTERM, chờ stopTimeout (mặc định 30 giây) rồi SIGKILL; bật server.shutdown=graceful.
  • Mạng và scale: mỗi task có IP và security group riêng (VPC); auto scaling theo CPU hoặc độ dài queue.

3. SQS và SNS: hàng đợi và fan-out

Ý chính: SQS là hàng đợi được quản lý: producer gửi, consumer kéo về, xử lý xong thì xoá. Bên nhận chậm hay chết không kéo sập bên gửi.

Standard FIFO
Giao message ít nhất một lần, có thể trùng khử trùng trong 5 phút
Thứ tự không đảm bảo đúng trong một MessageGroupId
Thông lượng gần như không giới hạn thấp hơn
  • Visibility timeout (mặc định 30 giây): message vừa được nhận bị ẩn với consumer khác. Không xoá kịp thì nó hiện lại và được giao lần nữa.
  • DLQ (dead-letter queue): queue phụ nhận message đã bị nhận quá maxReceiveCount lần. Đặt alarm trên DLQ; sửa lỗi xong thì redrive về queue chính.
  • Long polling (WaitTimeSeconds tới 20 giây): consumer chờ message thay vì hỏi liên tục.
  • SNS là pub/sub: publish một lần vào topic, mỗi queue đăng ký nhận một bản.
@SqsListener("orders-created")
void handle(OrderCreated event) {
  if (processed.existsById(event.orderId())) return;   // đã xử lý: bỏ qua
  invoiceService.createFor(event);
}   // trả về bình thường: xoá message; ném exception: message hiện lại

Message có thể tới hai lần nên consumer phải idempotent. Khác Kafka, SQS không đọc lại được message đã xoá; cách chọn ở bài message broker.

4. Lambda và cold start với Java

Ý chính: Lambda chạy code khi có sự kiện (HTTP, message SQS, file mới trên S3, lịch) và tính tiền theo thời gian chạy. Lần gọi đầu của một môi trường mới phải khởi động JVM và framework: đó là cold start.

Với Spring Boot, cold start thường là vài giây (ước lượng, tuỳ số bean); các lần sau dùng lại môi trường đã ấm. Cách giảm:

  • SnapStart: Lambda chụp ảnh bộ nhớ sau khi khởi tạo xong lúc publish version, lần sau khôi phục từ ảnh đó.
  • Provisioned concurrency: trả tiền giữ sẵn N môi trường luôn ấm.
  • Tăng memory (CPU tăng theo), bớt dependency.

Lambda đọc SQS qua event source mapping: AWS kéo message theo lô và gọi hàm. Hàm nối RDS nên đi qua RDS Proxy (RDS).

5. CloudWatch: logs, metrics, alarms

Ý chính: CloudWatch nhận log và metric của mọi dịch vụ AWS. App chỉ ghi log ra stdout; driver awslogs của ECS đẩy vào một log group.

  • Logs: log group (một service) chứa nhiều log stream (một task). Mặc định log không bao giờ hết hạn: tự đặt retention. Ghi log JSON để dễ lọc (structured log).
  • Metrics: có sẵn CPU, memory của service, số lỗi 5xx của ALB, ApproximateAgeOfOldestMessage của SQS. Metric riêng của app đẩy qua Micrometer.
  • Alarms: metric vượt ngưỡng thì gửi SNS (email, on-call) hoặc kích hoạt auto scaling.

Ba alarm đầu tiên nên có: 5xx của ALB, tuổi message cũ nhất, DLQ có message.

6. Secrets Manager và Parameter Store

Ý chính: cấu hình đến từ môi trường, không nằm trong image (12-factor). Secret nằm ở Secrets Manager hoặc Parameter Store, được tiêm vào task lúc khởi động.

Secrets Manager Parameter Store (SSM)
Dùng cho mật khẩu DB, API key cấu hình thường, secret đơn giản (SecureString)
Xoay tự động có, tích hợp sẵn với RDS không có sẵn
Chi phí tính theo mỗi secret tier standard không tính phí lưu

Hai cách đưa vào Spring Boot: khai báo secrets trong task definition (phần 2) để ECS tiêm thành biến môi trường, hoặc app tự đọc bằng Spring Cloud AWS:

spring:
  config:
    import: aws-secretsmanager:prod/orders/db   # cần quyền đọc trên task role
Đào sâu: secret chỉ được đọc lúc khởi động và giới hạn của SnapStart

SnapStart dùng được cho Java 11 trở lên, chỉ trên version đã publish, và không dùng chung với provisioned concurrency. Vì nhiều môi trường khôi phục từ cùng một ảnh, giá trị sinh lúc khởi tạo (ID ngẫu nhiên, kết nối mạng, credential tạm) phải được tạo lại sau khi khôi phục.

Bài tập

Đề. Viết chuỗi lệnh CLI để đưa bản mới của service orders lên ECS: image gắn tag theo commit, đẩy lên ECR, deploy rolling và chờ tới khi ổn định. Nêu điều kiện để deploy không làm rớt request.

Lời giải: build, push lên ECR, đăng ký task definition và cập nhật service

Chưa chạy trên tài khoản AWS thật; lệnh viết theo tài liệu AWS CLI v2.

REPO=111122223333.dkr.ecr.ap-southeast-1.amazonaws.com
SHA=$(git rev-parse --short HEAD)

aws ecr get-login-password --region ap-southeast-1 \
  | docker login --username AWS --password-stdin $REPO
docker build -t $REPO/orders:sha-$SHA .
docker push $REPO/orders:sha-$SHA

# taskdef.json trỏ tới image vừa đẩy
aws ecs register-task-definition --cli-input-json file://taskdef.json
aws ecs update-service --cluster prod --service orders --task-definition orders
aws ecs wait services-stable --cluster prod --services orders
  • --task-definition orders không kèm số revision sẽ lấy revision ACTIVE mới nhất.
  • Không rớt request cần: health check của target group trỏ vào /actuator/health/readiness; minimumHealthyPercent 100 và maximumPercent 200 để task mới lên trước khi task cũ dừng; server.shutdown=graceful; deregistration delay của ALB không dài hơn stopTimeout quá nhiều.
  • Bật deployment circuit breaker để ECS tự rollback khi task mới không khoẻ.
  • Trong thực tế chuỗi này nằm trong pipeline CI/CD, chạy bằng một role tạm qua OIDC chứ không dùng access key.

Ghi nhớ

  • Nói được vì sao chọn ECS Fargate, EKS hay Lambda cho một bài toán cụ thể.
  • Phân biệt task definition, task, service; execution role và task role.
  • Giải thích được visibility timeout, DLQ và vì sao consumer phải idempotent.
  • Biết cold start là gì và ba cách giảm với Java.

Câu hỏi phỏng vấn

Bạn deploy một service Spring Boot lên AWS bằng cách nào?

Đóng gói thành Docker image, đẩy lên ECR, chạy bằng ECS service trên Fargate sau một ALB; cấu hình và secret tiêm qua biến môi trường.

CI build và test, đẩy image gắn tag theo commit, đăng ký task definition mới rồi cập nhật service để rolling. Database là RDS trong private subnet, log ra CloudWatch. Team đã có Kubernetes thì thay ECS bằng EKS; phần còn lại giống nhau.

SQS standard và FIFO khác nhau thế nào?

Standard giao ít nhất một lần, không đảm bảo thứ tự, thông lượng gần như không giới hạn; FIFO giữ thứ tự trong từng message group và khử trùng, đổi lại thông lượng thấp hơn.

Chọn standard cho phần lớn việc nền và làm consumer idempotent. Chọn FIFO khi thứ tự là bắt buộc, ví dụ các sự kiện của cùng một đơn hàng, với MessageGroupId là mã đơn.

Task role và task execution role của ECS khác nhau thế nào?

Execution role là quyền ECS dùng để dựng task: kéo image, ghi log, đọc secret. Task role là quyền code trong container dùng khi gọi dịch vụ AWS.

AWS SDK trong app tự lấy credential tạm của task role, nên không cần access key. Tách hai role giúp giữ quyền tối thiểu: code không cần quyền kéo image, hạ tầng không cần quyền đọc bucket nghiệp vụ.

Cold start của Lambda là gì và giảm thế nào với Java?

Là độ trễ của lần gọi đầu trên một môi trường mới: tải code, khởi động JVM và khởi tạo framework. Giảm bằng SnapStart, provisioned concurrency và làm phần khởi tạo nhẹ đi.

SnapStart khôi phục từ ảnh bộ nhớ đã khởi tạo; provisioned concurrency giữ sẵn môi trường ấm và tốn tiền kể cả khi không có request. Ngoài ra: tăng memory để có thêm CPU, bớt dependency, khởi tạo client SDK một lần ngoài handler.

Một message làm consumer lỗi mãi. Chuyện gì xảy ra và bạn thiết kế thế nào?

Không có DLQ thì message hiện lại sau mỗi visibility timeout và bị thử lại tới khi hết hạn lưu giữ, tốn tài nguyên và che mất lỗi. Cần DLQ với maxReceiveCount.

Sau số lần nhận quy định, SQS chuyển message sang DLQ. Đặt alarm khi DLQ có message, ghi log đủ để tìm nguyên nhân, sửa rồi redrive về queue chính. Với FIFO, message lỗi còn chặn cả message group phía sau nó.

Thiết kế xử lý sau khi đặt hàng: gửi email, xuất hoá đơn, cập nhật kho, không làm chậm API.

API ghi đơn rồi publish một sự kiện vào SNS topic; mỗi việc có một SQS queue riêng đăng ký topic đó, mỗi queue có consumer và DLQ riêng.

  • Fan-out tách ba việc: email chậm không ảnh hưởng kho; thêm việc thứ tư chỉ là thêm một queue.
  • Ghi DB và publish không cùng transaction: dùng outbox để không mất sự kiện.
  • Consumer idempotent theo orderId; visibility timeout lớn hơn thời gian xử lý.
  • Scale consumer theo độ dài queue; alarm trên tuổi message cũ nhất và DLQ.
  • Email thưa và ngắn có thể là Lambda; xuất hoá đơn nặng chạy worker ECS.

Từ vựng tiếng Anh

Term Phát âm Nghĩa Ví dụ câu tiếng Anh dùng trong phỏng vấn
task definition /tæsk ˌdef.əˈnɪʃ.ən/ bản mô tả task “Each deploy registers a new task definition revision.”
execution role /ˌek.səˈkjuː.ʃən roʊl/ role để dựng task “The execution role pulls the image and reads secrets.”
visibility timeout /ˌvɪz.əˈbɪl.ə.t̬i/ thời gian message bị ẩn “The visibility timeout must exceed the processing time.”
dead-letter queue /ˌded ˈlet̬.ɚ kjuː/ queue chứa message lỗi “After five receives the message moves to the dead-letter queue.”
fan-out /ˈfæn.aʊt/ phát một sự kiện ra nhiều nơi “We fan out through SNS to one queue per consumer.”
at-least-once delivery /dɪˈlɪv.ɚ.i/ giao ít nhất một lần “Delivery is at-least-once, so consumers are idempotent.”
cold start /koʊld stɑːrt/ khởi động nguội “SnapStart cut our Java cold start to under a second.”
rolling deployment /ˈroʊ.lɪŋ/ thay dần từng task “ECS starts new tasks before draining the old ones.”

Ghi chép tự tổng hợp từ tài liệu chính thức và kinh nghiệm thực tế.