운영 backend는 SPRING_PROFILES_ACTIVE=local로 돈다. application-local.yml은 외부 인프라 없이 혼자 뜨도록 값을 스스로 정하는 완결형 설정이라, env로 덮지 않은 값이 개발용으로 남는다. 가명화 salt가 개발용 고정값이고, dev.caskeleton 로그가 DEBUG로 고정이고, forward-headers가 none이고, JWT issuer가 localhost다. prod 시작 검사(스키마·Flyway 안전값, 오류 상세 금지, DB TLS verify-full, H2 금지)도 꺼져 있다. deploy/production/prod-profile에 Kustomize component를 둔다. 기본 경로에는 넣지 않는다. 켜면 SPRING_PROFILES_ACTIVE=prod, application.yml의 기본값 없는 placeholder 중 빠진 값(ConfigMap techlog-backend-prod-env), DB URL sslmode=verify-full과 CNPG CA 마운트, Secret에서 오는 비밀번호·salt가 들어간다. PRESENTATION_API_BASE_PATH=/api를 꼭 준다. application.yml의 기본값이 /v1이라, 빠지면 모든 /api 경로가 사라진다. 버린 대안: local에 env를 더 얹어 증상만 고치기. prod 검사가 계속 꺼져 있고, local.yml이 직접 정한 값(로그 수준, forward-headers)은 env로 덮이지 않는다. 기본 경로에서 바로 prod로 바꾸기도 버렸다. 새 Secret 키와 CA ConfigMap이 없을 때 적용되면 backend가 뜨지 못한다. 위험·한계: CNPG는 CA를 스스로 갱신한다(지금 만료 2027-01-11). 복사한 CA ConfigMap을 갱신 때 다시 만들지 않으면 DB 연결이 끊긴다. salt를 바꾸면 이전 로그의 가명과 이어지지 않는다. 아직 적용하지 않았다. 검증: component를 켠 렌더가 kubectl apply --dry-run=server를 통과한다. desktop Docker에서 운영 이미지 46b1cc7을 이 env로 띄웠다(uid 1000, cap-drop ALL, 비밀 값은 가짜). profile prod로 property 결합과 prod 시작 검사를 모두 지났다. 운영 DB에 TLS verify-full로 붙어 CA와 호스트 이름 검증을 통과한 뒤, Flyway 단계에서 "password authentication failed"로 멈췄다(가짜 비밀번호라 예상한 결과). Redis·S3·OIDC 경로는 실제 비밀 값 없이는 시험할 수 없어 하지 않았다.
127 lines
7.1 KiB
Markdown
127 lines
7.1 KiB
Markdown
# hyeonworks.com 운영 매니페스트
|
|
|
|
`hyeonworks-prod` namespace의 앱 쪽 객체 정본이다(소유자 결정 2026-11-11: 앱 쪽은 tech-log repo
|
|
`deploy/`). 플랫폼 쪽(Namespace, techlog DB Role·Database, 다른 namespace의 NetworkPolicy·Probe·
|
|
경보·대시보드)은 platform-core `services/tenants/techlog`가 맡는다. `hyeonworks-secrets` Secret은
|
|
Git 밖에서 만든다.
|
|
|
|
| 파일 | 객체 |
|
|
| --- | --- |
|
|
| `backend-*.yaml` | `techlog-backend` Deployment, Service `techlog-backend`·`techlog-management`, ServiceMonitor, ConfigMap `techlog-logging` |
|
|
| `redis-*.yaml` | 세션 저장소 `redis` Deployment·Service(저장 안 함, 재시작하면 로그인이 풀린다) |
|
|
| `frontend-*.yaml` | `techlog-frontend` Deployment·Service |
|
|
| `ingress.yaml` | `hyeonworks.com` 경로: `/api`·`/oauth2`·`/login`·`/logout` → backend, 나머지 → frontend |
|
|
| `network-policies.yaml` | namespace 안 기본 거부와 허용 여섯 |
|
|
|
|
## 이미지와 실행 사용자
|
|
|
|
| 컨테이너 | 이미지 | pull | 사용자 |
|
|
| --- | --- | --- | --- |
|
|
| backend | `git.learn.hyeonworks.com/donghyeon.kang/tech-log-backend:46b1cc7` | `IfNotPresent` | uid 1000(이미지의 `app`), 권한 전부 버림 |
|
|
| frontend | `git.learn.hyeonworks.com/donghyeon.kang/tech-log-frontend:7a4e201` | `IfNotPresent` | root(nginx). `allowPrivilegeEscalation: false`만 |
|
|
| redis | `redis@sha256:c5d34a98…`(지금 운영이 쓰는 `redis:7-alpine`의 digest) | `IfNotPresent` | uid 999(이미지의 `redis`), 권한 전부 버림 |
|
|
|
|
- 예전에는 `imagePullPolicy: Never`로 노드에 직접 넣은 이미지를 썼다. 2026-11-09 디스크 사고 때
|
|
kubelet 이미지 GC가 그 이미지를 지웠고, 다시 받을 곳이 없어 운영이 내려갔다. 이제 Gitea 컨테이너
|
|
레지스트리에서 다시 받는다.
|
|
- 세 파드 모두 `priorityClassName: platform-critical`(platform-core `services/priority-classes`)이고
|
|
seccomp는 `RuntimeDefault`다.
|
|
- **frontend non-root는 남은 일이다.** nginx 공식 이미지는 root로 시작해 80번을 열고 worker를
|
|
`nginx`로 내린다. 권한을 버리거나 non-root로 돌리려면 이미지를 비특권 nginx(8080)로 바꾸고 Service
|
|
`targetPort`와 probe를 같이 바꿔야 한다.
|
|
|
|
## 적용
|
|
|
|
전제(하나라도 없으면 적용하지 않는다):
|
|
|
|
1. 두 이미지가 Gitea 레지스트리에 있다. 익명 pull이 되는지 노드에서 확인한다.
|
|
`sudo k3s crictl pull git.learn.hyeonworks.com/donghyeon.kang/tech-log-backend:46b1cc7`
|
|
(frontend도 같다). 미리 받아 두면 backend(Recreate)가 멈추는 시간이 짧아진다.
|
|
2. PriorityClass `platform-critical`이 있다: `kubectl get priorityclass platform-critical`.
|
|
3. Secret `hyeonworks-prod/hyeonworks-secrets`가 있다.
|
|
|
|
```bash
|
|
curl -s -o /dev/null -w '%{http_code}\n' https://hyeonworks.com/
|
|
kubectl diff -k deploy/production
|
|
kubectl apply -k deploy/production
|
|
kubectl -n hyeonworks-prod rollout status deploy/techlog-backend deploy/techlog-frontend deploy/redis
|
|
curl -s -o /dev/null -w '%{http_code}\n' https://hyeonworks.com/
|
|
curl -s -o /dev/null -w '%{http_code}\n' https://hyeonworks.com/api/v1/public/home
|
|
```
|
|
|
|
- backend는 `Recreate`라 새 파드가 준비될 때까지 API가 멈춘다(1분 안팎).
|
|
- redis가 다시 시작되면 로그인 세션이 모두 풀린다.
|
|
|
|
되돌리기: `kubectl -n hyeonworks-prod rollout undo deploy/<이름>`. 그 뒤 이 폴더를 되돌리는 커밋을 만든다.
|
|
|
|
## backend prod profile (`prod-profile/`, 아직 켜지 않음)
|
|
|
|
운영 backend는 `SPRING_PROFILES_ACTIVE=local`로 돈다. `application-local.yml`은 외부 인프라 없이 혼자
|
|
뜨는 완결형 설정이라, env로 덮지 않은 값이 개발용으로 남는다. `prod-profile/`은 이것을 `prod`로 바꾸는
|
|
Kustomize component다. **기본 경로(`kubectl apply -k deploy/production`)에는 들어 있지 않다.**
|
|
|
|
### 바꾸면 달라지는 것 (이미지 `46b1cc7` 기준)
|
|
|
|
| 항목 | 지금(`local`) | `prod` |
|
|
| --- | --- | --- |
|
|
| 시작 검사 | 꺼짐 | 켜짐: `ddl-auto` none/validate, Flyway 안전값, 오류 상세·본문 로깅 금지, H2 금지, DB TLS `verify-full` |
|
|
| DB 연결 | TLS 검증 없음(pgJDBC 기본 `prefer`) | `sslmode=verify-full`, CNPG CA로 인증서와 호스트 이름을 검증 |
|
|
| 가명화 salt | 개발용 고정값 `__LOCAL_DEV_…`(보안·감사 로그의 사용자 가명이 예측 가능) | Secret의 무작위 값. 이전 로그의 가명과 이어지지 않는다 |
|
|
| 앱 로그 수준 | `dev.caskeleton` DEBUG 고정(env `APP_LOG_LEVEL_APP`가 먹지 않음) | env `APP_LOG_LEVEL_APP`(INFO) |
|
|
| `X-Forwarded-*` | `none` 고정(env가 먹지 않음) | env `APP_SERVER_FORWARD_HEADERS_STRATEGY`(framework) |
|
|
| JWT issuer | `http://localhost:8081/realms/ca-skeleton` | `https://id.learn.hyeonworks.com/realms/prod` |
|
|
| 시작 배너 | 출력 | 끔 |
|
|
|
|
API 경로(`/api`), 공개 경로, CORS, Redis 세션, object storage(s3), OIDC client는 그대로다.
|
|
`application.yml`의 API 기본 경로가 `/v1`이라 `PRESENTATION_API_BASE_PATH=/api`를 꼭 준다.
|
|
|
|
`backend-prod-env.yaml`은 `application.yml`의 기본값 없는 placeholder 67개 중 Deployment가 아직 주지
|
|
않는 값을 담는다. 비밀 값은 담지 않는다.
|
|
|
|
### 전제 (모두 있어야 켠다)
|
|
|
|
1. **Secret 키 둘** `hyeonworks-prod/hyeonworks-secrets`(소유자가 만든다):
|
|
- `APP_DB_PASSWORD`: 이미 있다.
|
|
- `APP_PRIVACY_PSEUDONYMIZATION_SALT`: 새로 만든다. 값은 화면에 남기지 않는다.
|
|
|
|
```bash
|
|
salt="$(openssl rand -hex 32)"
|
|
kubectl -n hyeonworks-prod patch secret hyeonworks-secrets --type merge \
|
|
-p "{\"stringData\":{\"APP_PRIVACY_PSEUDONYMIZATION_SALT\":\"${salt}\"}}"
|
|
unset salt
|
|
```
|
|
|
|
2. **ConfigMap `hyeonworks-prod/platform-postgres-ca`**: CNPG CA의 공개 인증서다.
|
|
|
|
```bash
|
|
kubectl -n platform-data get secret platform-postgres-ca -o jsonpath='{.data.ca\.crt}' | base64 -d \
|
|
| kubectl -n hyeonworks-prod create configmap platform-postgres-ca --from-file=ca.crt=/dev/stdin
|
|
```
|
|
|
|
CNPG는 이 CA를 스스로 갱신한다(2026-11-11 기준 만료 2027-01-11). 갱신되면 이 ConfigMap을 같은
|
|
명령으로 다시 만들고 backend를 재시작해야 한다. 안 하면 DB 연결이 끊긴다. 오래 가는 CA를 CNPG에
|
|
주거나 자동으로 복사하는 방법은 플랫폼 쪽(platform-core) 남은 일이다.
|
|
3. 위 「적용」의 전제(레지스트리 이미지, PriorityClass)가 갖춰져 있다.
|
|
|
|
### 켜기
|
|
|
|
`../kustomization.yaml`에 아래를 더하는 커밋을 만들고 적용한다.
|
|
|
|
```yaml
|
|
components:
|
|
- prod-profile
|
|
```
|
|
|
|
```bash
|
|
kubectl diff -k deploy/production
|
|
kubectl apply -k deploy/production
|
|
kubectl -n hyeonworks-prod rollout status deploy/techlog-backend
|
|
kubectl -n hyeonworks-prod logs deploy/techlog-backend | grep -m1 'profile is active'
|
|
curl -s -o /dev/null -w '%{http_code}\n' https://hyeonworks.com/api/v1/public/home
|
|
```
|
|
|
|
로그에 `"prod"`가 보이고 마지막 줄이 200이어야 한다. 그 뒤 Studio 로그인을 한 번 해 본다.
|
|
|
|
되돌리기: `kubectl -n hyeonworks-prod rollout undo deploy/techlog-backend`. 그다음 `components`를 빼는
|
|
커밋을 만든다. ConfigMap `techlog-backend-prod-env`는 남아 있어도 해가 없다.
|