문제: H12는 cwd의 main checkout도 rm 허용 폴더에 넣는다. 그래서
main checkout 안 worktree(.claude/worktrees/…)에서 worktree 자신
(`rm -rf ./*`), 옆 worktree(`rm -rf ../w2`), 그 안(`../w2/src`)을
지우는 것이 통과한다(docs/retro/2026-11-08.md C6). 앱은 worktree
세션의 CLAUDE_PROJECT_DIR를 main checkout으로 주므로 실제 세션이 이
경우다.
고친 방법: 허용 폴더는 그대로 두고 지킬 checkout을 따로 센다. 작업
폴더와 그 repo에 `git worktree list`로 등록된 모든 worktree다. /tmp·앱
임시 작업 폴더 밖에서는 checkout 자신이나 그것을 품은 폴더를 통째로
지우면 막는다. 이 세션 작업 폴더와 같지도, 품지도, 그 안에 있지도
않은 checkout(옆 worktree)은 그 안을 지워도 막는다. 「이 세션 작업
폴더」는 cwd의 checkout을 먼저 본다. 프로젝트 폴더를 먼저 보면 main
checkout이 내 것이 되어 옆 worktree 안이 열린다(실제 세션에서 확인).
main checkout 안 다른 자리(worktree 밖)와 main checkout 세션이
worktree 안을 치우는 일은 전처럼 통과한다.
버린 대안: worktree 세션에서 main checkout을 허용 폴더에서 빼기(설계
문구에는 맞지만 지금 통과하는 일을 더 많이 막는다. 근거 없이 넓히지
않았다), `.claude/worktrees` 이름으로 판정(다른 곳에 둔 worktree를
놓친다).
위험: 판정마다 git을 한 번 더 부른다(`worktree list`, 시간 제한
5초). 등록되지 않은 폴더(지운 worktree의 남은 폴더)는 지켜지지
않는다. /tmp 아래 worktree는 일부러 그대로 허용한다. 훅 동작이 바뀌어
harness 0.3.1로 올린다. 같은 판정이 전역 ~/.claude/hooks/guard_bash.py
에도 있어 같이 고쳤다. 이 repo가 병합되고 main checkout을 받고 플러그인을
0.3.1로 올리기 전까지 전역 훅 시험의 사본 비교 2줄은 다르다고 나온다.
검증: 새 시험을 main 훅에 돌려 실패를 먼저 봤다(worktree `./*`,
main checkout `.claude/worktrees`, 프로젝트 폴더가 main일 때
`../w2/src`). 고친 뒤 scripts/check.sh 통과(harness 28·redteam 21·
템플릿 11, expectedFailure 없음). 새 규칙 둘을 하나씩 끄면 각각 시험이
실패한다. 소유자 기계 세션 기록의 rm -r 647개를 프로젝트 폴더 없이,
또 main checkout으로 주고 옛·새 판정을 비교해 바뀐 것은 이 작업의
확인 명령 1개뿐이었다.
Refs: docs/retro/2026-11-08.md C6
문제: test_rm_whole_checkout_or_sibling_is_blocked가 이 repo의 checkout을
cwd로 쓴다. H12는 /tmp 아래 rm을 일부러 허용하므로, checkout이 /tmp
아래(scratchpad worktree)에 있으면 `rm -rf ./*`가 통과해 main에서도
시험이 실패한다. main checkout 안의 worktree에서는 main checkout 허용
때문에 통과해 expectedFailure로 돌렸다. 같은 코드가 놓인 자리에 따라
통과·실패·예상 실패로 갈린다.
고른 방법: 시험이 /tmp 밖(/var/tmp, 못 쓰면 HOME)에 빈 checkout과 그
안의 worktree(.claude/worktrees/w)를 직접 만들어 cwd로 넘긴다.
checkout에서는 자신·옆 폴더 삭제가 막히는지 보고, worktree의 알려진
빈틈은 늘 expectedFailure로 둔다. 두 곳에서 `rm -rf build`가 통과하는
시험을 더해, 막히는 이유가 위치를 몰라서가 아님을 확인한다. /tmp 밖
폴더를 못 찾으면 건너뛰지 않고 오류로 멈춘다.
버린 대안: /tmp 아래면 건너뛰기(/tmp에서 이 판정을 시험하지 못한다),
H12 허용 폴더를 환경 변수로 바꾸게 하기(시험 때문에 훅 입력을 늘린다).
위험: 시험이 /var/tmp(또는 HOME)에 h12-test-* 임시 폴더를 만들고 끝나면
지운다. 시험 프로세스가 중간에 죽으면 그 폴더가 남을 수 있다. 훅
동작은 바꾸지 않아 플러그인 버전은 그대로 둔다.
검증: main(8583353)을 /tmp 아래 worktree에서 돌리면 이 시험이 실패하는
것을 먼저 봤다. 고친 뒤 /tmp 아래 worktree와 원래 위치 아래 worktree
두 곳에서 scripts/check.sh 통과. 훅을 두 가지로 망가뜨리면(허용 폴더
자신 허용, cwd 상위 폴더 허용) 새 시험이 실패한다.
문제: redteam-scan.sh secrets 모드가 gitleaks를 --redact 없이 불러,
찾은 비밀 값 원문이 secrets.json에 그대로 남는다. 이 파일은 redteam
스킬이 다음 단계에서 읽으므로 비밀 값이 에이전트 컨텍스트에 들어간다.
또 ZAP(dast-baseline·dast-api)은 기본으로 call home(텔레메트리·업데이트
확인·뉴스)을 한다. semgrep에는 --metrics=off를 걸었지만 ZAP에는 같은
장치가 없었다. NVIDIA SkillSpector 2.13.4 정적 스캔(PE3 secrets.json)과
그 뒤 의미 검토에서 찾았다.
고른 방법: gitleaks에 --redact를 더한다. 위치(파일·줄·커밋·규칙)는
남으니 고칠 곳 찾기에는 지장이 없다. ZAP 두 모드에 -z "-silent"를
더한다(ZAP FAQ: -silent는 call home을 막는다). 가짜 docker로 실제로
넘기는 인자를 확인하는 시험을 더했다(semgrep --metrics=off도 함께 고정).
버린 대안: 결과 파일 이름 secrets.json 바꾸기(스캐너 경고만 줄고 결과를
읽는 문서·에이전트 계약이 깨진다), -notel(텔레메트리만 끄고 업데이트
확인은 남는다).
위험: docker로 실제 이미지를 돌려 보지 않았다. 고정 digest의 ZAP
2.16.1에서 'ZAP is Out of Date' 규칙이 -silent 아래서도 업데이트 확인을
한 적이 있다(ZAP 블로그 2025-10-21). schemathesis 4의 원격 전송 여부는
확인하지 못했다. 플러그인 동작이 바뀌어 redteam 버전을 0.1.2로 올린다.
검증: 고치기 전 스크립트에서 새 시험 2개 실패(RED), 고친 뒤
scripts/check.sh 통과(harness 24·redteam 21·템플릿 11, 매니페스트 3개).
Refs: design-docs harness/2026-11-12-skill-specter-audit.md
프론트 repo #15가 docs/styling/design-system-platform.md를 docs/design/의 설계 기록으로 옮겼다. 7.4절이 옛 경로를 가리키고 이 repo 문서처럼 읽혀서, 프론트 repo의 새 경로로 바꿨다. 검증: scripts/check.sh 통과.
문제: 템플릿 상태 실측(7.3)에서 분야 스킬이 목록에 떠도 부른 세션은 셋 중
하나였다. 설계 9절 F1의 "절반 아래"에 걸렸다. 프론트 구현 과제(B)는 아직
돌리지 않았다.
고른 방법: 두 템플릿 규칙에 "처음 Edit·Write 전에 Skill 도구로, 문서를 읽었어도"와
고칠 것 → 스킬 짝을 적고(백엔드 5feb5a1b, 프론트 6805ed62) 실제 세션으로 다시
쟀다. 7.4절에 결과를, 9절에 과다 호출을 볼 F7을 더했다. 장부에 eval 12줄.
버린 대안: leaf AGENTS.md마다 한 줄(파일 수십 개), 강조어(과다 호출).
위험: 프론트 과제 B는 세 판 모두 9/9라 정답률 차이를 보여 주지 못한다. 프론트
채점 검사 둘은 첫 결과를 본 뒤 넓혔다(세 판에 같게 적용).
검증: scripts/check.sh 통과, ledger.py compare --task harness-v2-eval-real로 표 값 대조.
문제: 백엔드만 실제 세션 시작 비용을 쟀다. 프론트에 지식 스킬 9개와
reviewer를 넣은 뒤의 값이 장부에 없다.
고른 방법: 프론트 main 38c0dc7d와 그 위 분야 전문가 커밋 b5e7f54b를
scratchpad에 복제해 같은 짧은 질문으로 opus-5-5 세션을 두 번씩 열고 첫 호출
입력 토큰을 eval 줄 4개로 남긴다. 47,424 → 47,891(+1.0%).
위험: 없음(장부만). 첫 측정은 v1 복제가 로컬의 낡은 main(d1b9c087)에서
떠져 버렸다.
검증: ledger.py compare --task harness-v2-eval-real에 start-context-fe 줄이 보인다.
red team 수정 절차에 "커밋 전 바뀐 파일에 대상 repo 포맷터를 돌린다"
단계가 없었다. 그래서 백엔드 템플릿 수정 PR에서 모듈 시험만 돌리고
push했다가 runner pr / gradle의 :app-bootstrap:spotlessJavaCheck에서
깨졌다. 같은 실수가 반복되지 않게 절차에 못 박는다.
skills/redteam SKILL.md §6(고침과 재실행)과 CAMPAIGN.md §4(발견 처리)에
각각 한 줄을 더한다: 자바 템플릿은 ./gradlew spotlessApply 뒤
spotlessCheck. 스킬 지시가 바뀌므로 plugin.json version 0.1.0 → 0.1.1
(받는 쪽은 버전이 바뀌어야 갱신된다).
위험·한계: 문서·버전만 바뀐다. 훅·스크립트 동작 변화 없음.
검증: scripts/check.sh 통과(harness·redteam·template 시험, manifest validate).
W4 Round 2에서 모든 도구 이미지를 받아 실제 digest를 뽑았다. 아직 '-'(미고정)이던
osv-scanner·hadolint·zap·nuclei·schemathesis·trufflehog에 digest를 넣고, 받다가
없는 태그로 드러난 둘을 고친다:
- hadolint: `2.14.0-debian`(없음) → `2.15.1`.
- nuclei: `v3.4.11`(없음) → `v3.11.1`.
이제 열 개 모두 image@digest로 오프라인 검증이 가능하다(TOFU 완료). redteam-scan.sh는
digest가 있으면 그 digest로 받아 대조한다.
검증: scripts/check.sh rc=0(tools.lock 형식 시험 포함).
문제: 7.2의 실제 평가는 평가용 플러그인으로 판을 만들어, 지식 스킬이
플러그인 스킬(paths가 있어도 시작 목록에 듦)로 실렸다. 실제 템플릿은
프로젝트 스킬이라 시작 비용과 발동이 다를 수 있다.
고른 방법: 백엔드에 적용한 브랜치(c611b06f)와 그 기준(relayout 123fc0bf)을
scratchpad에 복제해 실제 세션(claude -p, opus-5-5, 사용자 전역 설정 그대로,
Slack 도구 막음)으로 시작 컨텍스트 2번과 구현 과제 3번씩을 돌렸다.
결과: 시작 47,689 → 48,088(+0.8%), 규칙 검사 v1 6/8 ×3, v2 8/8 ×3, 동시
인덱스 규칙 0/3 → 3/3. v2는 호출 1.35배·출력 1.5배를 썼다. 장부 eval 줄 10개.
버린 대안: 원래 worktree 경로에서 재기. 그 경로에 걸린 프로젝트 메모리가 한
쪽에만 실려 +4.7%로 잘못 나왔다.
위험: 판마다 3번이다. 사용자 전역 설정(superpowers 등)이 양쪽에 같이 실려
절대값은 이 기계 기준이다.
검증: plugins·template 시험은 바뀐 것이 없다(문서·장부만). ledger.py compare
--task harness-v2-eval-real로 표를 다시 뽑았다.
한 번의 즉흥 공격이 아니라, 빈칸 없는 기준표(ASVS L2 × API Top 10 × 진입점)를
두 회차 연속 새 발견 0까지 반복하는 절차를 적는다. 공격 표면 목록·기준표·세 축
공격(정적·수동·동적)·발견 처리(근본 원인→전 코드 같은 모양→막는 시험)·재실행과,
AI 침투 에이전트 조사 결과(자동 투입 안 함·방법 차용)를 담는다. 다음 교전이 같은
깊이로 돌게 하는 것이 목적이다. SKILL.md에서 가리킨다.
실측 중 `sast` 모드가 rc=1로 비어 나왔다. tools.lock의 `opengrep/opengrep`
이미지가 Docker Hub·GHCR에 없다(pull access denied). 공식 컨테이너 이미지가
없어 핀을 걸 수 없었다.
SAST를 공식 `semgrep/semgrep` 이미지(엔진 LGPL-2.1)로 바꾼다. 룰은 레지스트리
에서 런타임에 받고 커밋하지 않으며, `--config p/default --config p/secrets
--metrics=off`로 돌린다. `--config auto`는 metrics를 켜야 작동해, 프로젝트
정보가 semgrep.dev로 나가므로 쓰지 않는다.
버린 대안:
- 비공식 opengrep 서드파티 이미지(wollomatic·codacy 등) → 공급망 위험.
- `--config auto` → 룰 자동 선택이 편하나 코드 메타데이터를 밖으로 보낸다.
위험·한계: 레지스트리 룰은 Semgrep Rules License(내부 실행 허용, 재배포 금지)
라 커밋하지 않고 런타임에만 받는다. 실제로 받아 digest를 확인한 4개
(gitleaks·semgrep·trivy·checkov)를 tools.lock에 고정했고, 아직 안 받은 것은
`-`(첫 실행 pin으로 채운다).
검증: desktop에서 semgrep 1.184.0이 Java 139파일에 룰 167개를 돌렸다(rc=0,
--metrics=off). scripts/check.sh rc=0(시험·매니페스트 그대로 통과).
문제: 첫 평가(7.1)는 헤드리스 인증이 없어 이 세션의 서브에이전트로 판을
흉내 냈다. 실제 세션의 스킬 목록·paths 발동·도구 제한과 다를 수 있다.
소유자가 노트북 CLI에 로그인해 claude plugin eval을 쓸 수 있게 됐다.
고른 방법:
- 판마다 평가용 플러그인을 만들었다(평가는 대상 플러그인만 싣고 프로젝트
.claude/·CLAUDE.md를 읽지 않는다). CLAUDE.md·AGENTS.md는
append_system_prompt로, 작업 폴더는 scaffold로 백엔드 로컬 복제를 깔았다.
opus-5-5 고정, 판정 sonnet.
- 과제 셋: A 리뷰(결함 6), A2 리뷰(repo 고유 규칙 결함 6), 구현(우선순위
컬럼·인덱스·설정 키를 repo 규칙대로, 정규식 채점 8개). 판 셋: none(플러그인
없음), v1, v2. 리뷰는 판마다 2번, 구현은 v1·v2 5번, none 2번.
- 결과: 리뷰는 none도 12/12로 천장. 구현은 v2 37/40(92.5%), v1 30/40(75%),
none 12/16. 동시 인덱스 규칙은 v2 3/5, v1 0/5. lead는 다분야 리뷰 4번과
단순 질문 4번 모두 불리지 않았다. 시작 컨텍스트는 샌드박스에서 v2가
13% 컸다(플러그인 스킬은 paths가 있어도 목록에 든다. 프로젝트 스킬은
안 든다는 것을 실제 세션으로 따로 확인했다).
- harness-eval 스킬에 실제 세션으로 돌리는 법(판을 플러그인으로, 리뷰보다
구현 과제, 5번씩, 기록 뽑는 곳)을 더한다. 장부에 eval 줄 24개.
버린 대안: claude -p로 각 복제 폴더에서 돌리기. 사용자 전역 설정·훅·스킬이
섞여 판 차이를 가린다.
위험: 표본이 작다(구현 한쪽 검정 p≈0.08). v2가 be-persistence를 부른 것은
다섯 번 중 둘이라 효과를 그 스킬 하나로 설명하지 못한다. 평가용 판은
지식 스킬을 플러그인으로 실었고 실제 템플릿은 프로젝트 스킬이라 발동
조건이 다르다.
검증: scripts/check.sh 통과. ledger.py compare --task harness-v2-eval-real.
문제: 착수 때 예측(작업 중 40/55/85분, 호출 100/150/230, 출력
17만/25만/36만)과 견줄 실측 줄이 없다.
고른 방법: ledger.py actual 초안에 커밋과 이유를 채운다. 시간은 p80 안
(63분). 호출·출력은 서브에이전트 16개를 더해 크게 넘었다. 예측 근거가
"서브에이전트는 세션 기록에 안 잡힌다"고 잘못 봤다(usage는 subagents/를
더한다). 메인만 보면 p50 근처다. 결과는 partial(템플릿 적용 전).
위험: 없음(장부 한 줄). 이 줄은 회고 대기로 잡힌다(why가 있다).
검증: ledger.py pending에 이 작업이 회고 대기로 보인다.
문제: 첫 판 비교(과제 A: 48줄짜리 기능 커밋에 분야마다 결함 하나씩 6개를
심은 백엔드 리뷰, 판마다 2번)에서 렌즈 리뷰어 셋에 나눈 v2가 혼자 본
v1과 같은 6/6을 찾고, 틀린 발견은 둘 다 0, 출력 토큰은 2.08배를 썼다.
리드 창 최대는 0.75배로 작았다. 미리 정한 기준(심은 결함 +2 이상)을
못 넘었다. 렌즈 수로 리뷰어 수를 정하던 규칙이 작은 변경에 과하다.
고른 방법: lead ①에서 리뷰어 수를 변경 크기와 누가 고쳤나로 정한다.
남이 쓴 300줄 아래 변경은 0명(리드가 이미 새 눈, 렌즈 스킬을 직접 읽음),
리드가 고친 300줄 아래 변경은 1명(렌즈가 셋 넘으면 2명), 300줄 이상이나
파일 10개 이상은 2~4명. 크기(작음·중간·큼)는 일의 무게로만 쓴다.
설계 7.1절에 결과 표와 기준 대조를, 장부에 이 작업의 estimate 줄,
eval 줄 넷(v1·v2 각 둘), retro 줄(fix lens-small-diff)을 더한다.
버린 대안: v2 되돌리기. 품질은 같았고 과제가 천장이라 렌즈 리뷰의
이득을 잴 수 없었다. 변별력 있는 과제 A2·B로 다시 본다.
위험: 서브에이전트로 판을 흉내 냈다(헤드리스 인증 없음). 실제 세션의
스킬 목록·paths 발동과 다를 수 있다. 실행 수가 판마다 2번뿐이다.
검증: scripts/check.sh 통과. ledger.py compare --task harness-v2-eval로
표를 다시 뽑았다.
문제: 이 대화를 모르는 서브에이전트에게 lead·명단 양식·new-expert·설계
일부만 주고 리뷰를 시켰더니(cold-read) 짐작한 곳 22개가 나왔다. 실질적인
것: 크기 기준이 없음, 물결과 라운드가 같은지 모름, 사실 다툼과 가치
충돌의 순서, 남의 브랜치를 리드가 고쳐도 되나, 넓은 paths로 렌즈가
다섯 붙음, 렌즈를 묶는 기준, 시험 파일을 누구 렌즈에, 심각도 단계,
reviewer·arch-reviewer·verify·simplifier를 언제, 기준 커밋 정의,
리뷰어가 시험을 돌려도 되나, 소유자가 누구인가, 멈춤 조건.
고른 방법: lead에 물결·라운드 정의와 그림, 크기 기준(brief 우선),
merge-base 기준 커밋, 렌즈는 후보이고 상관없는 것은 뺌, 묶는 기준
(같은 물음끼리, 반대 입장은 나눔), 시험 파일 배정, 리뷰어 종류,
심각도 네 단계, 사실 먼저 반증 → 가치 충돌만 순위, 소유자 정의, 남의
브랜치는 돌려줌, 멈춤 조건을 넣는다. 명단 양식에는 말뜻(렌즈·물결·
라운드·하위 세션·게이트)과 소유자 단서를 넣는다. 설계 4절에 규칙 셋,
5.1에 초안이 실제 repo로 맞춘 백엔드 경로를 반영한다.
버린 대안: 말뜻을 lead 스킬 안에 모두 두기. 스킬 본문이 길어지고 repo마다
쓰는 이름이 달라 명단 문서가 맞는 자리다.
위험: lead 본문이 약 120줄로 늘었다(상한 500줄 안). 프론트 경로는 아직
실제 repo와 맞추지 않았다.
검증: python3 -m unittest discover -s tests → 11건 통과,
claude plugin validate --strict plugins/harness → 통과.
문제: `"|---|---|---|%s" % "---|" * n`에서 %가 *보다 먼저 묶여 구분선
문자열 전체가 n번 되풀이됐다. 마크다운 표가 깨진다. 첫 실제 평가
(harness-v2-eval v1 두 줄)에서 보였다.
고른 방법: 문자열을 더하기로 잇는다. 시험이 구분선을 단언한다.
위험: 없음(출력 모양만).
검증: 새 단언이 고치기 전에 실패하고 고친 뒤 통과. plugins 시험 24건 통과.
문제: 루트 AGENTS.md 지도와 README 검증 절이 0.2.0의 스킬 셋만 적어,
이 repo를 고치는 세션이 lead·new-expert·harness-eval과 docs/experts.md,
docs/research/를 지도에서 찾지 못한다.
고른 방법: 지도 두 줄과 README 검증 한 줄만 고친다. 설명은 다시 쓰지
않고 정본(docs/experts.md, 각 SKILL.md)을 가리킨다.
위험: 없음에 가깝다. 루트 40줄 상한 시험이 그대로 돈다(29줄).
검증: python3 -m unittest discover -s tests → 11건 통과.
문제: new-project.sh로 만든 프로젝트에는 분야 전문가를 어디에 적고,
리드가 바뀐 경로로 무엇을 고르고, 넘김과 충돌을 어떻게 남기는지 정한
자리가 없다. lead 스킬은 그 repo의 docs/work/experts.md를 읽는다.
고른 방법: template/docs/work/experts.md(큰 그림 읽는 순서, 명단,
경로 → 렌즈, 넘김 지도, 정해 둔 충돌, 비용 재는 법)를 빈 양식으로 두고,
루트 AGENTS.md 「일하는 방식」에 한 줄, CLAUDE.md에 플러그인 새 스킬과
전문가 모양 한 줄을 더한다. 루트 40줄 상한은 그대로 지킨다.
버린 대안: 빈 .claude/skills·agents 예시 파일. 예시가 그대로 남으면
모든 세션 목록에 들어가는 빈 전문가가 된다.
위험: 양식만이라 채우기 전에는 lead가 경로표 없이 고른다(스킬이
그때는 바뀐 경로와 위험 신호로만 고르게 되어 있다).
검증: python3 -m unittest discover -s tests → 11건 통과
(새 시험: 양식의 여섯 절, AGENTS.md·CLAUDE.md가 가리키는지).
문제: 여러 분야에 걸친 변경을 리뷰할 때 누구에게 무엇을 맡기고, 결과를
어떻게 합치고, 의견이 부딪치면 누가 정하는지 정한 절차가 없다. 전문가를
더하는 모양과 하네스 판을 비교하는 절차도 없다.
고른 방법:
- lead: 바뀐 경로·위험으로 분야 지식 스킬(렌즈)을 고르고, 고정 칸 brief로
새 눈 reviewer를 병렬로 띄우고, High는 반증해 살아남은 것만 남기고,
넘김은 한 번만 더, 충돌은 정한 일곱 순서로, 리뷰-수정은 세 번까지
(두 번째부터 고친 diff만). 근거: Anthropic 위임 4요소, 공식 code-review의
반증 필터, Claude Code 팀의 리뷰 라운드 상한.
- new-expert: 전문가 = paths 지식 스킬(함정이 맨 앞). 서브에이전트는 세
조건(긴 출력, 버려도 되는 병렬, 지시 충돌·자기 리뷰) 중 하나를 보일 때만.
- harness-eval: 정답을 아는 과제를 판마다 돌려 장부 eval 줄로 비교.
시킬 때만 돈다는 것을 설명에 쓴다.
- 13절 Q9(새 스킬은 모두 모델 호출, 발동 조건을 설명에)를 지킨다.
- 시험: 플러그인 스킬 목록을 고정하고, 설명이 1,024자 안이며
PROACTIVELY·MUST·CRITICAL·IMPORTANT·<example>이 없는지 본다.
- 버린 대안: 분야 에이전트·범용 리뷰어를 플러그인에 싣기. 플러그인
에이전트는 harness: 아래 이름이라 템플릿 것과 둘 다 목록에 뜬다.
위험: 세 스킬 설명(약 400~500자)이 모든 세션의 스킬 목록에 더해진다.
스킬 목록이 예산 근처인 기계에서는 덜 쓰는 스킬 설명이 먼저 잘린다.
검증: python3 -m unittest discover -s tests → 10건 통과,
claude plugin validate --strict plugins/harness → 통과.
문제: 소유자는 두 템플릿에 분야별 전문가 서브에이전트·스킬과 리드
역할, 협업 매뉴얼을 넣으라고 했다. 지금 하네스는 장치의 자리만 있고
분야 지식과 분야 사이 협업 규칙이 없다. 무엇을 어떤 장치로 둘지
근거가 필요하다.
고른 방법:
- 조사 기록(docs/research/2026-11-11-harness-v2.md): 공식 문서 14쪽,
Anthropic 글 25편, 제작자 발언 13건(Cherny·Wu·Hollman·Shihipar 등),
공개 repo 6곳, 2차 3건, 이 기계 실측. 격차 표 17행.
- 설계(docs/experts.md): 분야 전문가는 paths를 건 지식 스킬(함정 → 점검표
→ 검증 순서), 서브에이전트는 분야가 아니라 일마다(렌즈를 받는 새 눈
reviewer 하나 + 있는 실행 검증), 리드는 메인 세션. 공용(플러그인)은
협업 장치만, 분야 지식은 각 템플릿에.
- 버린 대안: 분야마다 서브에이전트(첫 초안, 템플릿당 9개). Anthropic
2026-10-22·2026-01-23·2026-04-07 글과 현행 best practices가 분야·역할
분리를 반대하고, 에이전트 설명은 모든 세션과 서브에이전트마다 다시
든다. agent teams는 실험 기능이고 팀원에 skills가 실리지 않는다.
- docs/README.md에 이 repo에서 새로 정한 것 셋(12~14)을 더한다.
위험: 소유자 요청("분야별 서브에이전트")과 다르다. 이유를 설계 0절에
밝히고 평가(7절)에서 렌즈 리뷰어가 v1보다 못하면 다시 시험한다.
paths 스킬이 목록에서 빠지는 것은 CLI 바이너리 문자열로만 확인했다.
검증: 문서만. 링크와 출처 번호를 손으로 대조했다.
문제: 하네스 v2(분야 전문가 협업)를 v1과 견주려면 같은 과제를 판마다
돌린 실행을 한 줄씩 남기고 비교해야 하는데, 장부에는 예측·실측만 있다.
실측도 시간·호출·토큰뿐이라 모든 세션의 시작 비용(첫 호출 입력 토큰)과
서브에이전트가 메인에 돌려준 양(컨텍스트 비용)을 볼 수 없다.
고른 방법:
- usage에 start_context(본 기록 첫 호출), subagents·subagent_output_tokens,
agent_calls(Agent·Task 호출), agent_return_chars를 더한다. 반환 글자는
Agent 도구 결과와, 백그라운드 결과가 들어오는 대기열 알림
(queued_command의 <agent-message·<task-notification 머리)을 센다.
2026-11-11 세션 기록에서 백그라운드 결과가 tool_result가 아니라
알림으로 오는 것을 확인했다.
- 새 줄 종류 eval(arm·case 필수)과 명령 eval(초안)·compare(과제·판별
중앙값, 마지막 판/첫 판 비율). precedents는 eval만 있는 작업을 세지 않는다.
- Stop 훅이 0.2.0이 저장한 상태 파일을 이어 읽어도 깨지지 않게 새 칸은
setdefault로 채운다.
- 버린 대안: eval을 actual 줄에 arm 칸으로 붙이기. 같은 작업의 판 여럿이
by_task에서 덮이고 회고 대기 계산에 섞인다.
위험: 대기열 알림 모양은 앱 내부 형식이다. 바뀌면 agent_return_chars가
조용히 줄어든다(시험이 지금 모양을 고정한다).
검증: python3 -m unittest discover -s plugins/harness/tests → 24건 통과
(알려진 실패 1). 조건을 하나씩 끈 변이 9개가 모두 시험에 걸렸다.
템플릿의 보안 결함은 거기서 나온 모든 서비스로 복제된다. 반복 가능한 red
team 장치가 없어, 공격을 사람이 매번 즉흥으로 했다.
새 플러그인 `redteam`을 더한다. harness와 역할이 달라 훅은 두지 않고(상시 실행은
컨텍스트를 오염시킨다) 요청할 때만 스킬·서브에이전트로 돈다.
- agents/ 역할 6: recon·authz·input·deps·config·frontend
- skills/redteam/ 교전 오케스트레이션(범위→정찰→공격→수집→보고→고침→재실행)
- scripts/redteam-scan.sh 핀 고정 도구 실행 래퍼(desktop), tools.lock
- scripts/finding.py 발견 정규화·검사·정렬·보고(심각도·재현·영향·고치는 법)
버린 대안:
- 룰셋·CVE 데이터 vendoring → 공개 repo 라이선스 문제(semgrep 룰은 내부용
제한 라이선스). 도구는 런타임에 받고 룰도 그때 받는다. SAST 기본은 opengrep.
- CodeQL 기본 → 라이선스(OSS 전용 조건)로 제외, opengrep+FindSecBugs로 대체.
- 훅으로 상시 실행 → 출력이 모든 세션 컨텍스트에 들어가 오염. 그래서 opt-in.
위험·한계: tools.lock의 digest는 아직 미고정(-)이다. 첫 실행 `pin` 모드가 실제
digest를 뽑아 채운다(trivy-scan.sh의 바이너리 SHA-256과 같은 TOFU 방식). 도구
실행은 desktop·docker가 있어야 하므로, 시험은 형식·로직만 본다(실행 아님).
검증: scripts/check.sh rc=0 — redteam 18, harness 21, 템플릿 10 시험 통과,
marketplace·harness·redteam 매니페스트 validate --strict 통과.
문제: design-docs 위임 장부 55줄과 백엔드 템플릿 예측 장부 6줄이
쌓였는데 원인을 나눈 회고가 한 번도 없었다.
고른 방법: retro 스킬의 일곱 원인으로 빗나간 줄마다 원인 하나를
붙였다. 위임 장부에는 시간 예측이 없어서 「질문·위반·재작업·불일치·
소유자 개입 없이 끝난다」를 예측으로 보고, 막힘만 있는 줄은 게이트가
제 일을 한 것이라 뺐다. 결과: 빗나간 42줄 중 지시 모호 34, 예측 근거
없음 4, 착수 전 조사 부족 2, 외부 대기 2. 예측 장부 4건은 모두 p30
아래였고 실측/p50 중앙값은 시간 0.43·호출 0.52·출력 0.53이다.
H11 보고 언어 훅과 매뉴얼 빈틈 수정 1~3차는 장부 숫자로 효과를
판정했다. 다른 repo·설정에서 고칠 후보 일곱 개(C1~C7)를 적었다.
이 repo 장부에는 이 작업의 예측 줄과 h2-harness-repo의 retro 줄
(fix calib-median)을 더했다.
위험: 위임 장부의 원인은 lessons 한 줄을 읽고 붙인 것이라 세션
기록까지 다시 보지 않았다. 백엔드 장부의 retro 줄은 그 repo에 쓰지
않고 문서 7절에 더할 줄로만 두었다(범위 밖).
검증: scripts/check.sh rc=0. ledger.py pending → 회고할 줄 없음,
판정 대기 calib-median 뒤 실측 0건.
문제: 예측·실측 장부 줄은 쌓이는데 회고한 줄이 0이다. 회고는 사람이
「주 1회」를 기억해야 돌고, 고친 뒤 효과가 없으면 되돌린다는 규칙을
적을 칸도 없다. 지난 4작업은 모두 실측이 p30 아래였는데(실측/p50
시간 중앙값 0.43), 매번 이유 한 줄만 바꿔서 치우침이 그대로 남았다.
고른 방법:
- precedents 끝에 보정 줄을 낸다: 실측/p50 중앙값(시간·호출·출력)과
p30 아래·p80 위 건수. --ledger를 여러 번 받아 다른 repo 장부를 더한다.
estimate 스킬에 「중앙값이 0.8 아래나 1.25 위면 세 값에 곱한다」 한 줄.
- pending은 예측 밖(p30~p80 밖이거나 why가 있음)인데 retro 줄이 없는
작업만 보이고, 효과 판정이 없는 개선도 보인다.
- retro 줄에 fix(개선 id)·applied_at, 새 줄 verdict(effective·reverted).
판정은 개선 뒤에 예측 줄을 쓴 다른 작업 2건의 실측이 끝나면 한다.
개선 전에 예측한 작업은 그 개선의 영향을 받지 않아 세지 않는다.
- SessionStart에 ledger.py nudge를 따로 건다. startup일 때만, 같은
repo(worktree를 git common dir로 묶어)에 20시간에 한 번 한 줄.
append가 actual 줄을 쓸 때 예측 밖이면 그 자리에서 한 줄 알린다.
버린 대안: session-start 장부 훅에서 출력(장부 훅 출력 0 규칙을 깬다),
매 세션 넛지(하위 세션마다 같은 줄이 컨텍스트에 쌓인다), 별도
retro 스크립트(이미 있는 ledger.py 명령으로 충분하다).
위험: 넛지는 그 repo의 첫 세션이 하위 세션이어도 나온다. 문구에
「맡은 일이 회고가 아니면 넘긴다」를 넣었다. 다른 repo 장부에 retro
줄이 더해질 때까지 그 repo에서는 하루 한 번 넛지가 나온다.
보정 규칙은 같은 4건으로 잰 값이라 아직 효과를 모른다.
검증: scripts/check.sh rc=0(플러그인 시험 21개 OK, expected failure 1,
템플릿 시험 10개 OK, plugin validate --strict 통과). 새 조건 15개를
하나씩 끈 사본에서 LedgerTest가 15번 모두 실패했다. 백엔드 템플릿
장부에 nudge를 돌리면 「회고 안 한 빗나간 예측 3건」 한 줄이 나왔다
(상태 폴더는 scratchpad).
문제: 이 repo를 `.claude/worktrees/<이름>` worktree에서 시험하면
GuardBashTest.test_rm_outside_or_too_broad_is_blocked가 실패한다.
H12 허용 폴더에 main checkout(git common dir의 부모)이 들어가서,
worktree 자신을 지우는 `rm -rf ./*`와 옆 worktree를 지우는
`rm -rf ../x`가 「작업 폴더 안」으로 통과한다. main checkout에서
돌리면 통과하는 시험이라 지금까지 보이지 않았다.
고른 방법: 두 사례를 따로 떼어, main checkout 안 worktree에서 돌 때만
expectedFailure로 둔다. 판정 코드는 고치지 않았다. H12 절은 소유자
기계의 전역 훅과 같이 바꿔야 하고(AGENTS.md 3번), 전역 훅은 이 작업
범위 밖이다. 버린 대안: 시험의 cwd를 main checkout으로 옮기기(빈틈을
가린다), skip(고쳐져도 알리지 않는다). expectedFailure는 고쳐지면
「뜻밖의 통과」로 시험이 실패해 표시를 지우게 만든다.
위험: worktree 세션에서 위 두 명령은 여전히 막히지 않는다.
전역 훅과 플러그인을 같이 고치는 작업이 따로 필요하다.
검증: worktree에서 python3 -m unittest discover -s plugins/harness/tests
→ OK (expected failures=1). main checkout에서는 예전처럼 통과로 돈다
(NESTED_WORKTREE가 거짓이면 데코레이터가 없다).
이 repo를 만든 작업(h2-harness-repo)의 착수 예측(2026-11-07 23:39)과
실측을 장부 첫 두 줄로 둔다. 작업 중 38분·호출 125·출력 19.3만으로
예측 p30(70분·200·25만)보다 작았다. 틀린 이유와 다음에 바꿀 것은 actual
줄의 why 칸에 있다.
검증: ledger.py append가 칸을 검사해 통과했고 precedents가 두 줄을
묶어 보였다.
문제: 템플릿 프로젝트를 비대화형(claude -p)으로 열면 .claude/settings.json에
적힌 마켓과 플러그인을 설치하지도 묻지도 않는다(2026-11-08 시험 프로젝트에서
확인). 또 claude plugin install --scope project가 settings.json을 다시 쓰면서
마켓 source의 "ref": "main"을 빼서, 템플릿과 설치 뒤 파일이 달라진다.
고른 방법: 템플릿의 마켓 source에서 ref를 뺀다(기본 브랜치 main과 같은 뜻).
new-project.sh 끝 안내와 README에 그 폴더에서 한 번 돌릴 두 줄
(marketplace add, install --scope project)을 적는다.
버린 대안: new-project.sh가 claude plugin을 직접 부르기. 스크립트가 사용자의
~/.claude/plugins 상태를 바꾸게 된다.
위험: 대화형 앱이 폴더를 믿을 때 설치를 묻는지는 공식 문서 설명이고 직접
보지 않았다(README에 그렇게 적음).
검증: scripts/check.sh 통과. 시험 프로젝트에서 두 줄을 돌린 뒤 claude plugin
list가 harness@claude-harness 0.1.0 project 범위 enabled를 보였고,
settings.json은 ref 한 칸 말고 내용이 같았다.
문제: 새 프로젝트마다 루트 지침, Claude Code 설정, 검증 진입점, 비전·
문제 정의 양식, 장부를 손으로 다시 만든다. 플러그인으로는 루트 문서와
권한 deny를 나눠 줄 수 없다(플러그인 CLAUDE.md·권한은 읽히지 않는다).
고른 방법: 공통 동작은 플러그인, 프로젝트 파일은 template/ 복사로
나눈다(결정 Q15). scripts/new-project.sh가 template/을 빈 폴더에 복사하고
이름·설명·마켓 주소를 바꾼 뒤 git init까지 한다. 커밋은 하지 않는다.
- AGENTS.md 양식(40줄 이하, 결정 Q2)과 CLAUDE.md(@AGENTS.md)
- .claude/settings.json: .env deny, 마켓과 harness 플러그인 켜기.
Agent deny는 넣지 않는다(결정 Q5)
- scripts/verify.sh: 단계(docs·unit·pr·app) 뼈대와 --on <호스트> 운반부.
작업 트리를 패치로 옮겨 기준 커밋의 새 worktree에 적용하고 트리 해시를
맞춘 뒤 잠금 아래에서 돌린다. push하지 않는다(설계 6.1절)
- 빈 양식: docs/vision.md, docs/problem-statement.md, docs/adr/0000-template.md
- docs/ledger/: 빈 장부와 형식 설명, .gitattributes merge=union(결정 Q11)
repo 자신의 AGENTS.md·README·docs/README.md(설계와 다르게 정한 것)와
scripts/check.sh도 같이 둔다.
버린 대안: 템플릿만(공통 훅 수정이 모든 repo 손작업), 플러그인만(루트
문서·deny를 못 준다).
위험: verify.sh의 원격 운반부는 가짜 ssh(같은 기계)로만 시험했다. 실제
desktop에서는 아직 돌리지 않았다. unit·pr·app 단계 본문은 비어 있다
(종료 코드 3).
검증: scripts/check.sh 통과(플러그인 17, 템플릿 10, validate --strict).
템플릿 시험은 이름 바꾸기, 남은 {{…}} 없음, AGENTS.md 40줄 이하,
settings의 플러그인·deny, 빈 폴더가 아니면 멈춤, verify docs, 가짜 ssh로
패치 적용·트리 해시·worktree 정리와 원격 실패(종료 코드 4)를 본다.
scratchpad에 만든 시험 프로젝트에서 같은 것을 손으로 확인했다.
문제: 되돌릴 수 없는 명령 차단, 비밀 값 알림, 예측·실측 장부가 소유자
기계의 ~/.claude에만 있거나 아예 없다. 다른 기계·파생 서비스·새 프로젝트는
받을 길이 없고, 훅 코드에 이력과 리뷰도 없다.
고른 방법: 이 repo를 플러그인 마켓으로 두고 공통 플러그인 harness 하나를
싣는다(설계 harness/01-harness-design.md 11절, 결정 Q13 (c)·Q15).
- H12(PreToolUse Bash): 호스팅 원격 force push·--mirror·보호 브랜치 지우기,
작업 폴더·/tmp 밖이나 너무 넓은 rm -r, DB·볼륨·migration 삭제를 막는다.
셸 파서는 소유자 전역 guard_bash.py와 정의가 같은 사본이다. 사용자 전역
설정에 guard_bash.py H12가 있으면 건너뛰어 두 번 막지 않는다.
- N4(PostToolUse Write·Edit): 비밀 값 모양을 몇 줄로 알리고 막지 않는다.
- 장부 SessionStart·Stop 훅: ~/.claude/harness/에 세션 기록 경로와 누적
실측을 쓴다. 출력이 없어 컨텍스트 비용이 0이다.
- 스킬 estimate·retro·techdebt: 모두 모델이 부르고 발동 조건을 설명에
문단으로 적었다(결정 Q9).
버린 대안: H12에 git reset --hard·clean·checkout -- .를 넣는 것(설계
5.1절). 이 기계 세션 기록의 Bash 명령 43,078개에서 정당한 사용이
61·32·31건이라 거짓 양성이 크다. 전역 훅을 플러그인으로 옮기는 것은
Q13대로 안정된 뒤에 한다.
위험: H12 판정이 전역 훅과 두 벌이다. 소유자 기계의 전역 훅 시험이 두
사본의 정의를 비교한다. 원격(ssh) rm은 작업 폴더를 몰라 너무 넓은
대상만 막는다.
검증:
- python3 -m unittest discover -s plugins/harness/tests: 17개 통과.
조건을 하나씩 끈 사본 12개에서 모두 실패를 확인했다.
- 같은 판정을 이 기계 세션 기록 명령 43,078개에 돌려 5건이 막힘:
의도한 막힘 3(desktop 작업 폴더 통째 rm 2, -p 없는 down -v 1),
시험용 볼륨 rm 1, 당시 프로젝트 폴더를 알 수 없는 rm 1.
- claude plugin validate --strict: 마켓·플러그인 모두 통과.
- 로컬 경로 마켓으로 설치(--scope local) 뒤 새 세션에서 스킬 셋이 보이고
SessionStart·Stop 훅이 기록을 썼다. 항상 드는 비용 약 698토큰.