FESADev/docs/mitc4-shell-feast-eigen2/numerical-review-controls.md

내부 수치 기준과 FEAST controls

• Feature ID: mitc4-shell-feast-eigen2; Owner: numerical-review-agent; revision r1.
• 기본 보고서: numerical-review; 수식: 새 formulation.
• IEEE binary64의 내부 검증 계약이며 외부 TOLERANCE를 변경하지 않는다.

C1–C4, C6, C7의 독립 검토 후 명시 채택

이전 controls의 C1, C2-0114와 nodal rcond 절, C3-0108와 raw classification, C4, C6의 seed/QR/thread/storage, C7의 retained static 기준을 전부 읽고 새 M/S/E 식에 대조하여 수치 정의만 채택한다. 이것은 과거 판정·runtime·reference pass의 승계가 아니다. 다음 적용 경계가 우선한다.

• E/V/S 식 번호는 새 formulation과 그 문서가 명시 채택한 V1–V5 측정식에 대응한다.
• 이전 C5 전체와 lower/empty-prefix search는 채택하지 않는다. 아래 C5가 완전히 대체한다.
• C6 count n×n은 이번의 보수적 allocation 선택이며 Intel의 최소 workspace 의무가 아니다. Count input capacity n, 반환 count, solve capacity m0, 요청 N은 서로 다른 값이다.
• C7는 shell, shellNL, linear-limit 및 내부 synthetic 의무에만 적용한다. 이전 문서의 제외 예제·고정 검사 수·고정 workflow는 채택하지 않는다.
• Runtime/ABI/thread의 설치 확인은 NOT RUN이며 후속 implementation 의무다.

분류	채택한 기준과 근거
단위·zero branch	ell=max active edge length, D=diag(ell I3,I3) congruence 뒤 norm. Finite-first; 분자=분모=0이면 항등식 metric0, 분모0·분자비영이면 failure. Zero vector/nonpositive mass는 실패. Floor/clamp 없음
대수 C1/C2	Symmetry·oracle·moment·covariance·null/PZ·Cholesky reconstruction <=1e-12; u=2^-53, gamma4096≈4.55e-13와 기존 linear algebra 기준. 어려운 geometry의 forward accuracy 보장 아님
질량 C2	Scalar Ck entry error를 m_e(t/2)^k로 나눔; first moment는 m_e ell. Strict mi,ji,ji-hi²/mi>0; analytic rank와 director constraint exact-zero intersection. Nodal scaled positive block rcond_inf>=2^-32; 작으면 failure이며 rank 변경 금지
Modal C3	Original free residual·whitened residual·norm(Bx-mu x)/norm(x)·normalization·pairwise orthogonality·Gram·energy·rigid/scaling <=1e-10; FEAST stopping 1e-12와 별도 독립 후검증
Known spectrum	Error/s <=1e-10, known distinct gap 존재 시 error <=gap/8; exact repeated subspace projector <=1e-6는 isolated known gap >=1e-3 s인 검증군에만 적용
Raw 분류	mu=lambda/s, tau_zero=1e-9, tau_cluster=1e-8; mu<-tau_zero는 실패, 양끝 포함 near-zero는 분류만. Raw 부호·값 보존, 작은 양수 mode 삭제 금지, 음수 frequency 생성 금지
결정론 C4/C6	Stable raw sort, equal tie는 solver column; connected cluster 평균/merge 금지. Source 최대 scaled component sign·첫 tie. 같은 runtime/thread/input 세 반복의 structure/order exact; repeated vector는 projector 비교
정적 C7	Linear symmetry/frame/energy 1e-12, full residual/equilibrium 1e-10. Nonlinear directional tangent 1e-6, zero direction 1e-10, objectivity 1e-10, factor-one force/moment balance 각각 1e-8; 기존 typed Newton zero/100-iteration/no-cutback 계약 유지

C6의 seed 0x4D495443344D4645, uint64 recurrence z=6364136223846793005*z+1442695040888963407 mod 2^64, column-major x=2*(double(z>>11)*2^-53)-1, nonpivoted Householder QR 및 positive R diagonal을 채택한다. m0=n은 identity. QR relative pivot <=1e-12는 실패, post-QR Gram <=1e-12다. Seed 변경으로 통과를 찾지 않는다. oneMKL thread-local 1을 설정하고 모든 exit에서 반환된 이전 설정을 복원한다. 이 반환 의미는 이번 Intel 원문에서 재확인했다.

C5. Fixed lower enclosure와 bounded upper search

실제 backend는 dfeast_scsrgv(B,I), uplo='U', sorted duplicate-free 1-based CSR이다. 각 call에 feastinit 후 C-index fpm을 다음과 같이 다시 설정한다.

Index	값
[0],[1],[2],[3]	0,16,12,20
[4],[5],[13]	1,1,0
[26],[27]	1,1
[49]	Count 1, solve 0
[63]	0

나머지는 해당 설치의 초기값을 유지·기록한다. 이번 Intel parameter table의 허용 contour16, trace stopping, CSR/SPD checks와 count flag reset을 확인했다. 위 값은 FESA의 고정 제어 선택이며 어떤 matrix에서도 수렴한다는 vendor 보장이 아니다.

Gershgorin off-diagonal absolute row sum은 매 합산 뒤 nextafter(+infinity)로 outward 누적하고 diagonal±sum도 바깥 한 ULP를 적용한다. beta=norm(B,inf)도 outward로 구한다. B=0의 algorithmic enclosure에서만 beta=1이며 physical mass/λ floor가 아니다. ulp(v)는 양쪽 finite adjacent spacing의 큰 값, delta(v)=1e-8 beta+64 ulp(v)로 고정한다. Finite overflow/underflow로 strict bound를 구성할 수 없으면 failure다. a0=nextafter(gL-16delta(gL),-inf), b0=nextafter(gU+16delta(gU),+inf)로 spectrum을 엄밀히 포함한다. 정확한 B=0은 별도 결정론 branch로 **초기 (a0,b0)=(-1,1)**를 사용하며 위 gL/gU padding 식을 적용하지 않는다. 초기 endpoint 재시도 j=0,1,2에서는 (-2^j,2^j)를 사용한다. 이 branch에서도 beta=1의 동일 delta·count/solve·분리·raw 검증을 적용한다.

하한은 a0로 고정한다. 바깥 spectral bound가 lower completeness를 증명하므로 empty-prefix count를 의무로 호출하지 않는다. 최초 (a0,b0) count는 info=0,c=n이어야 한다. 초기 endpoint 재시도는 최초 포함 최대3회이며 info=1,-5 또는 성공 count!=n에만 허용한다. Attempt j=0,1,2에서 최초 16delta padding을 2^j배로 넓히고 outward 처리한다. 최종 성공 enclosure를 a0,b0로 고정한다. 그 외 status·3회 소진은 failure다. 이 성공 bracket은 항상 fallback 후보로 보존한다.

Upper candidate v의 세 intervals (a0,v-delta(v)), (a0,v), (a0,v+delta(v))가 strict하고 enclosing 범위 안에 있으며 모두 info=0이고 같은 count c이면 guarded endpoint다. c>=N이면 certified upper로 저장하고 더 낮은 v를 탐색한다. c<N은 탐색 왼쪽만 갱신하며 최종 a0를 움직이지 않는다. 서로 다른 successful count의 monotonicity 모순은 즉시 failure다. info=1은 empty 증명이 아니고 optional search를 종료한다. Optional 후보의 info=2,3,-5도 search를 종료하고 이미 certified bracket을 유지한다. 그 외 invalid/inner-solver/SPD/index/allocation 오류는 즉시 failure다.

제어	고정 한계·처리
Count 전체	초기·실패·guard·최종·retry를 모두 포함 최대512 calls
Optional upper search	최대32 midpoint, optimization 최대384 calls; 나머지128은 최종·retry 예약
Collision 후보	midpoint에서 0,+1,-1,+2,-2,+4,-4 times delta 순서 최대7; bracket 내부만
Search 종료	N<=c<=min(n,2N+8), 폭 <=8delta(mid), representable midpoint 없음 또는 optimization budget; 저장한 가장 작은 certified b 사용, 없으면 b0
최종 count	(a0,b) 성공 count=c>=N 재확인; interior b는 세 guard 재확인. b0는 outward bound가 margin 증거이며 outside empty count를 요구하지 않음
Solve capacity	m0=min(n,max(c+8,ceil(3c/2))); c=n이면 n. Overflow 전 exact integer 검사
Solve 횟수	최초 포함 최대3, 각 refinement 최대20
Solve retry	info=1,2,3, count/returned-m mismatch, endpoint separation failure에만 저장한 더 큰 certified b 선택 후 재count; 최종 b0. m0=min(n,max(new formula,2*previous m0))
Retry 종료	더 큰 certified bracket/증가 capacity 등 바뀐 입력이 없으면 동일 실패 call 반복 금지; 최종 검증·budget 부족이면 failure
즉시 실패	Nonfinite eigenpair, Gram/residual 실패, 유의한 negative spectrum, invalid/SPD/inner-solver/index/allocation 오류. Mass/seed/backend/threshold 변경 금지

Returned m=c, 전체 c개 독립 Gram/residual 및 mu-a0>=delta(a0), b-mu>=delta(b)를 검사하고 첫 N개만 공개한다. N번째가 반복군 안이면 전체 c를 검사하되 외부 requested rows는 N개다. Bounds/status/count/m0/m/loops/epsout/최종 ranks와 모든 실패·fallback을 기록한다. 초기 total count=n만으로 floating API의 무오류를 주장하지 않으며 known spectra/runtime probes로 구현을 반증 가능하게 검증한다.

Storage와 미실행 위험

Count x[n*n], e[n], res[n] 보수 storage와 identity initial subspace를 사용한다. 1<=N<=n<=MKL_INT_MAX, nnz+1, n+1, 6*nodes, n*m0, n*n, byte product, container max_size 및 min(SIZE_MAX,PTRDIFF_MAX)를 overflow 전 검사한다. Global inverse를 만들지 않으며 allocation/shifted factorization 실패는 명시적으로 종료한다. Count n² scratch는 최소 memory 보장이나 전체 peak memory 추정이 아니다. Research G01/G02의 installed empty/occupied/endpoint/count reset, workspace·header/runtime probes는 NOT RUN이다. Safe enclosing fallback으로 빈 count 성공이 수학적 전제에서는 제거됐지만 실제 FEAST 실행·메모리·cluster 동작 검증 의무는 남는다.