문제: web-advanced의 계약 문서와 코드가 다섯 곳에서 갈렸다. - patch 거부가 세 코드로 갈렸다. 형식 오류는 PATCH_REJECTED(400), 빈 문서·연산 모양 오류·merge 깊이 초과는 IllegalArgumentException이라 BAD_PARAMETER(400), 너무 깊은 pointer는 권한 거절 PATCH_PATH_FORBIDDEN(403) 이었다. JSON이 아닌 본문과 결과가 대상 타입으로 읽히지 않는 patch는 Jackson 예외로 catch-all에 닿아 500 INTERNAL_ERROR였다. - patch-contract.md는 결과를 문서 전체로 검증한다고 했지만 두 applier는 검증기를 받지 않았다. - streaming-contract.md는 서버가 위치 증가를 강제하고 heartbeat·idle·max age·버퍼 상한·drain 재연결을 한다고 했다. MvcStreamWriter는 그 어느 것도 하지 않았다. - commit 뒤 Failure 기록이 어디에도 등록되지 않은 DEPENDENCY_FAILURE로 고정이라, STREAM_ITEM_TOO_LARGE 같은 carrier 코드가 사라졌다. - virtual thread profile은 503 + Retry-After를 약속했지만 admission guard는 bean만 있었고 요청 경로에서 아무도 부르지 않았다. - web AGENTS B2는 merge patch를 쓰지 않는다고 했고 patch-contract는 필드 변경에 merge patch를 쓰라고 했다(정본 충돌). 고른 방법: - 형식이 틀린 patch 문서는 모두 JsonPatchRejectedException(PATCH_REJECTED) 이다. 본문 파싱과 결과 변환은 PatchBodies가 감싼다. 너무 깊은 pointer는 권한 검사 앞에서 400으로 거절한다. 대상 타입이 객체가 아닌 것은 서버 결함이라 IllegalStateException이다. - 두 applier가 Bean Validation Validator를 받아 결과 객체 전체를 검증한다. 위반은 @Valid 본문과 같은 ConstraintViolationException → VALIDATION_FAILED. - writer는 위치가 앞 항목보다 크지 않으면 그 항목을 쓰지 않고 INTERNAL_ERROR Failure 기록으로 끝낸다. Failure 기록은 cause 사슬의 carrier 코드, 없으면 INTERNAL_ERROR, 문구는 category 고정 문구다. - writer가 할 수 없는 것(heartbeat, idle·max age, 버퍼, drain)은 계약 문서를 고쳐 누가 하는지(WebStreamPolicy·Registry·DrainCoordinator를 쓰는 서비스) 적었다. 요청 thread의 동기 writer라 heartbeat를 넣으려면 thread 모델을 바꿔야 해서 버렸다. - VirtualThreadAdmissionFilter가 모든 요청을 guard 아래 둔다(request-id filter 바로 뒤). async 요청은 async가 끝날 때 permit을 돌려준다. guard에 Permit API를 더했다. - 정본 충돌은 리뷰 README 6절 ③대로 patch-contract를 정본으로 두고 web AGENTS B2가 그쪽을 가리킨다. 위험·한계: patch를 쓰는 서비스는 applier 생성자에 Validator를 넘겨야 컴파일된다. client가 보는 patch·stream 오류 코드가 바뀐다. virtual thread profile을 켠 배포는 처음으로 상한에 걸릴 수 있다(upgrade 안내 1~5). BREAKING CHANGE: JsonMergePatchApplier·JsonPatchApplier 생성자가 Validator를 받는다. patch 거부는 모두 PATCH_REJECTED(400), 결과 제약 위반은 VALIDATION_FAILED, stream Failure 코드는 실패의 코드나 INTERNAL_ERROR다. 할 일은 docs/upgrade/2026-11-round9-contracts.md. Refs: RR9-03-23, RR9-03-24, RR9-03-25, RR9-03-26, RR9-03-27, RR9-03-28
4.6 KiB
Virtual thread MVC profile
바꾸는 것과 바꾸지 않는 것
virtual thread는 스레드가 기다리는 비용을 없앤다. 기다림에 상한을 둔 이유는 없애지 않는다.
platform 스레드 MVC 배포에는 숨은 동시성 상한이 있다. 스레드 pool이다. 아무도 그것을 허가 정책으로 적지 않았지만, DB pool, 외부 HTTP bulkhead, 모든 하류 서비스를 전체 도착률로부터 지켜 온 것이 그것이다.
virtual thread로 바꾸면 그 상한이 사라지고, 그것에 기대던 것은 하나도 사라지지 않는다. 결과는 느린 시스템이 아니다. 동시 요청 만 개를 받아 connection 스무 개짜리 pool에 모두 줄 세우고, 쓸모 있는 일은 하나도 못 한 채 모두 시간 초과를 내는 시스템이다. 예전에 앞문에서 버리던 부하를 받는 비용을 치른 뒤 뒷문에서 버린다.
켜기
profile은 기본 조립에 없는 adapter:inbound:web-advanced에 있다. 서비스에 그 leaf를 더하고, 설정 둘을 준다. profile은
하나만 주면 만들어지기를 거부한다.
app:
web:
advanced:
mvc-virtual-threads:
enabled: true
admission-limit: 100 # 필수
database-pool-size: 20 # 밝혀 둔다. 바뀌지 않는다
outbound-bulkhead: 20 # 밝혀 둔다. 바뀌지 않는다
하류 숫자를 profile에 싣는 것은, 핵심이 바로 그 숫자가 늘지 않았다는 데 있기 때문이다.
VirtualThreadProfile.admissionFitsDownstreamBudgets()가 허가 상한이 그것을 넘으면 보고한다. 거부하지는 않는다. 일이
모두 DB에 묶이지 않았으면 배포가 pool보다 많이 허가하는 것도 정당하다. 다만 그 선택을 선택으로 만든다.
상한은 스레드가 아니라 use case를 제한한다
VirtualThreadAdmissionGuard는 pool이 아니라 공정한 semaphore다. 스레드를 제한하면 기다림을 되돌려 놓고 virtual
thread로 얻은 것을 버리게 된다. virtual thread 만 개가 있어도 백 개만 허가를 쥐고 나머지는 문 앞에서 거부된다.
상한은 VirtualThreadAdmissionFilter가 모든 요청에 건다. request-id filter 바로 뒤, 보안 chain보다 앞이라 거부된 요청은
아무 일도 하지 않는다. async 요청은 async 일이 끝날 때까지 허가를 쥔다. 넘겨준 순간 돌려주면 넘기는 일만 제한하고 정작
하류 pool을 쓰는 일은 제한하지 못한다.
거부는 Retry-After가 붙은 503(ADMISSION_REFUSED)이고, 상한이 만들려는 결과가 바로 그것이다. 1밀리초 만에 거부된 요청이, 받아들여진 뒤
가득 찬 pool 뒤에서 30초 뒤에 시간 초과가 난 같은 요청보다 client에게 확실히 낫다.
semaphore는 일부러 공정하다. 불공정한 것이 빠르지만, 새로 온 요청이 기다리던 요청을 앞지르게 두고, 앞지름당한 client는 그것을 무작위 시간 초과로 겪는다.
볼 것
| 신호 | 이유 |
|---|---|
jdk.VirtualThreadPinned JFR event |
blocking 호출을 가로질러 쥔 synchronized 블록은 carrier 스레드를 고정한다. carrier pool은 CPU 수로 제한되므로 고정된 carrier가 충분하면 deadlock이다. thread dump로는 잘 보이지 않는다. |
| carrier pool 큐 깊이 | 같은 문제를 반대쪽에서 본 것이다. |
| 허가 거부 | 부하가 오르면 같이 올라야 한다. 오르지 않으면 상한이 적용되지 않고 있다. |
| 하류 대기 시간 | 허가가 pool이 받을 수 있는 것보다 많이 허가하고 있다는 신호다. |
VirtualThreadProfile.requiredObservations()가 코드로 된 같은 목록이다.
시험하기
VirtualThreadAdmissionGuard.peakActive()는 부하 시험이 상한이 적용됐음을 단언할 수 있게 하려고 있다. 처리량으로는 보이지
않는다. 처리량만 재는 부하 시험은 guard를 빼도 통과한다. 이 profile이 막으려는 실패가 바로 그것이다.
중요한 시험은 두 가지를 함께 단언한다. 최대 동시성이 상한 이하이고, 그리고 만든 스레드가 상한보다 많다. 둘째가 없으면 virtual thread를 아예 쓰지 않은 배포에서도 시험이 통과한다.
되돌리기
enabled: false로 두거나 leaf를 뺀다. 되돌리기 시험은 그때 Stable 동작이 같은지 단언한다. 같지 않으면 그 기능은 처음부터
선택 사항이 아니었고 모든 배포가 그것을 가지고 있다.
이것은 쓰지 않는 요청에도 영향을 주는 유일한 web Advanced capability다. 그래서 되돌리기 시험이 가장 중요하다.