FESADev/docs/abaqus-tolerance

Abaqus 수렴 허용치 조사와 FESA 대응

2026-10-19 후속 사용자 승인으로 이번 실험은 Abaqus 변위 검증 통과·실패10개 보류로 조건부 완료한다. 결정 기록과 최종 정리를 따른다. 기존 FAIL/SKIP·수치 기준은 보존하며 공식 speedup·전체 물리/시간 정확도 완료로 확대하지 않는다.

조사일: 2026-10-18. FESA 조사 기준: 43867d0. 2026-10-19 실험 branch에서 공개 field 규칙을 MITC4 HHT의 실제 종료에 연결했다. Native/CTest 전체는 각각987 PASS·10 FAIL·1 SKIP이며, 공식 후보 성능 비교는 미성립이다. 구현·물리 검증·측정의 상세 근거와 한계는 실험 결과에 기록했다. 후속 정식 모델 변위 비교는 8개 모델 모두 U PASS다. 모두 Release 결과이며, 새 field 후보 100증분은 5662.144854초로 완료했다. 공식 speedup 판정과는 구분한다. 실패 10개의 상대오차 전환 검토에서는 D3·drilling이 상대 1e-3도 넘는 것을 확인했다. 나머지 항목의 기존 정규화 검사와 실행 실패도 구분했으며 기준을 변경하지 않았다.

승인된 후보의 시험 가능한 수식·분기 우선순위·평균 이력·로그 계약은 외부 field 수렴 정식화를 따른다. 아래는 조사 당시 코드와 공개 기본값의 비교다. 현재 후보는 이 정식화를 실제 사용한다. 정식화는 2025 공개 STRICT 규칙과 비공개 부분의 명시적 FESA 대응을 구분하며 실제 2024 설정과의 동일성을 주장하지 않는다.

조사 결론

Abaqus/Standard의 일반 비선형 평형 기준은 잔차 비율 0.005, 해 보정 비율 0.01이다. 병진과 회전을 각각 검사한다. 조사 당시 43867d0의 MITC4 HHT는 힘·모멘트 잔차와 q/v/a/A 보정량에 1e-10을 사용했다. 완화 실험을 검토할 근거는 있으나, 양쪽의 정규화와 검사 대상이 달라 숫자의 비로 정확도나 실행시간을 예측할 수 없다. 일반 기준값의 근거는 Abaqus 공식 해석 지침의 제어값 설명이다.

비선형 반복 종료, 선형방정식 풀이 정확도, 시간적분 정확도, 결과 비교 오차는 서로 다른 기준이다. 1e-10을 전역 검색해 0.005로 치환하는 접근은 부적절하다. 아래 적용 권고는 조사 당시 실험 제안이다. 이후 승인된 후보의 정확한 판정은 정식화에 고정하며, 실제 구현·검증 상태와 구분한다.

출처와 버전의 한계

• 아래 Abaqus 수치는 Dassault Systèmes가 작성한 Abaqus 2025 공식 문서의 공개 호스팅본에서 확인했다. 각 링크는 사용한 문서의 버전을 포함한다.
• 저장소의 동해석 기준 입력 3행은 Abaqus/CAE Learning Edition 2024 생성 표기다. 이는 실제 solver 실행 버전이나 적용된 모든 제어값을 증명하지 않는다.
• 2024판의 대응 문서 주소는 조사 환경에서 HTTP 403으로 열리지 않았다. 2025값을 2024에서 확인한 값으로 보고하지 않는다.
• 해당 기준 폴더에는 INP와 변위 CSV만 있고 .msg/.dat는 없다. 공식 지침에 따르면 실제 적용 제어값은 이 두 로그에서 확인할 수 있다.S1
• 따라서 현재 확정 가능한 것은 2025 문서 기본값과 FESA 코드의 차이다. 기준 해석과 완전히 같은 설정이라는 주장은 실제 실행 로그 또는 해당 버전 원문을 확보한 뒤에만 가능하다. 이번 조사에서는 Abaqus를 실행하지 않았다.

1. 비선형 field 방정식의 기본값

다음은 *CONTROLS, PARAMETERS=FIELD 기본값이다. α는 field 종류다. q̃0/q̃u 외에는 무차원 비율이며 절대 힘·길이로 해석하지 않는다.S2

기호	기본값	역할
Rn	5e-3	최대 scaled 잔차 / 평균 flux
Cn	1e-2	최대 Newton 보정 / 해당 증분의 최대 변화
q̃0	첫 step 1e-2; 이후 이전 step 평균	평균 flux 초기값, 해당 flux 단위
q̃u	미지정	사용자가 지정하는 고정 평균 flux, 해당 flux 단위
Rp	2e-2	비이차 수렴에서 사용하는 대체 잔차 비율
ε	1e-5	zero-flux 분류 기준
Cε	1e-3	zero-flux 시 보정 비율
Rl	1e-8	선형 증분 판정용 잔차 비율
Cf	1	미소 field의 물리 차원 변환 비율
εl	1e-5	평균 계산의 비활성 flux 구분
εd	1e-8	특성길이 대비 미소 병진 증분 구분

첫 데이터 줄 순서는 Rn, Cn, q̃0, q̃u, Rp, ε, Cε, Rl, 둘째 줄은 Cf, εl, εd다.S2

2025 문서의 CONVERGENCE CHECK 기본 모드는 STRICT다. MODERATE, RELAXED, CONCEPT DESIGN은 분모나 잔차/보정의 결합이 달라지는 별도 선택이며, 이번 기본값 비교에서 이 모드들을 섞지 않는다.S2

2. 같은 숫자가 같은 판정이 아닌 이유

Abaqus의 보통 잔차 검사는 max_i |r_i/(f_i q̃)| <= Rn, 보정 검사는 cmax <= Cn Δumax다. 여기서 q̃는 요소가 절점에 주는 flux와 외부 flux의 크기로 계산한 공간 평균을 다시 증분 이력에서 평균한 값이다. 단순한 최대 외력이나 조립 후 잔차 평균이 아니다. 종속 절점이 없는 경우 fi=1이다.S3

기본값 재현에는 다음 분기가 함께 필요하다.S3

상황	의미
보통 비선형	각 활성 field에서 잔차와 실제 보정 또는 추정 다음 보정 검사
zero flux	공간 평균이 εq̃ 이하일 때 별도 잔차/보정 분기
선형 증분	모든 field의 잔차가 Rl 이하면 보정 검사 없이 수렴 가능
비이차 수렴	IP 이후, 해당 조건에서 Rp와 보정 검사를 함께 적용; quasi-Newton 제외
비활성 영역	작은 flux를 평균에서 제외하는 규칙으로 평균 희석 방지
미소 field/증분	힘↔모멘트 특성길이 변환과 미소 병진 증분 예외

이 분기들을 생략하면 “Abaqus 기본 수치를 사용한 부분 정책”으로 표현해야 한다. 특히 zero-flux는 외력이 정확히 0인 경우와 같지 않다. 평균 이력은 실패한 trial이나 중간 Newton 반복마다 누적해서는 안 된다. FESA 도입 시 동일 trial의 평균 후보를 계산하고, accepted increment에서만 이력을 반영하는 설계가 필요하다.

3. MITC4 동해석에 관계되는 시간적분 기준

Abaqus의 half-increment residual은 증분 중간의 평형 불균형으로 시간간격의 정확도를 판단하는 양이다. 증분 끝의 Newton 잔차 허용치가 아니다. 공식 *DYNAMIC 문서의 구분은 다음과 같다.S4

항목	문서 기본값 또는 지침	FESA와의 관계
HALFINC SCALE FACTOR	transient fidelity: 비접촉 1000, 접촉 10000	시간 평균 힘·모멘트에 곱하는 비율
HAFTOL	사용자가 지정하는 힘 차원의 값	DIRECT와 함께 지정 불가
HAFTOL 선택 지침	저감쇠 탄성: 보통 정확도 대표 힘의 1–10배, 높은 정확도 0.1–1배	기본값이 아닌 선택 지침
HAFTOL 선택 지침	소성 등 소산이 큰 경우: 보통 10–100배, 높은 정확도 1–10배	현재 FESA 탄성 shell의 직접 대응 아님
NOHAF	half-increment residual 계산 생략	DIRECT에서도 계산은 기본 수행되며 생략 가능
DIRECT	고정 시간간격	HAFTOL·HALFINC SCALE FACTOR와 동시 지정 불가

Moderate dissipation과 quasi-static의 half-increment 검사는 기본적으로 억제된다. 1000/10000은 매우 큰 Newton 허용치가 아니라 별도 시간 정확도 지표의 배율이다.S5

저장소 기준 입력 1475–1477행은 *Dynamic,direct와 0.1,10.,다. 따라서 100개 고정 증분이며, 자동 시간간격 조절 배율을 바꾸어 이 모델의 증분 수를 줄이는 계획은 현재 입력 계약과 다르다. INC=1000은 실제 증분 수가 아닌 상한이다.

Abaqus에는 수렴 실패 상태도 받아들이는 DIRECT=NO STOP이 있지만, 고정 간격을 유지하는 DIRECT와 다르다. FESA의 실패 candidate 보존 계약에 반하므로 제안하지 않는다.S6

4. 반복·시간간격 제어값

아래는 허용오차 자체보다 재시도·반복 횟수에 관계되는 보조 제어값이다. 자동 시간간격과 고정 시간간격에서 적용 방식이 다르다. 이를 FESA의 100회 상한과 그대로 교환하면 같은 해석 절차가 되지 않는다.S1

제어값	기본값	의미
I0 / IR	4 / 8	발산 검사 / 수렴률 검사 시작
IP	9	대체 잔차 기준을 검토하는 반복 수
IC	16	연속 평형 반복 제어 상한; 세부 조건은 원문 참조
IA	5	증분 시도 횟수
Df / DC	0.25 / 0.5	발산 / 느린 수렴 시 자동 cutback
DB / DD	0.75 / 1.5	다음 증분 축소 / 빠른 수렴 시 증가
동해석 DM	1.25	자동 증분 증가의 최대 배율.S2

이번 FESA 실험 제안에서는 먼저 기존 고정 시간간격·반복 상한을 유지하여, 종료 판정 변경의 효과를 분리하는 편이 타당하다. 이는 조사에 따른 권고다.

5. 다른 종류의 tolerance

종류	확인값과 범위	FESA 적용 판단
반복 선형방정식 solver	2025 기본 상대잔차 1e-6, 최대 500회.S7	PARDISO direct solve의 backward error와 교환 불가
선형 잔차의 정의	반복 solver는 L2 잔차 `
구속 적합성	hybrid 체적/축/전단 1e-5; distributing coupling 변위/회전 1e-5.S2	FESA hidden mass-null constraint와 다른 방정식
접촉	적합성 5e-3, 저압 soft-contact 0.1, CONVERT SDI=YES force error 1.S2	현재 지원 subset 밖; MITC4 shear/drill 기준으로 사용 금지
열전달	field 기준 외에 DELTMX는 사용자가 정하는 최대 온도 변화.S9	현재 선형 열전달 잔차 인증의 완화 근거가 아님
고유치	Lanczos/AMS/Subspace별 절차·설정 구분.S10	FEAST의 잔차·직교성 1e-10 대응값으로 임의 채택 금지
외부 결과 비교	Abaqus Newton 기준과 다른 목적	기존 FESA U/RF/S 등의 비교 허용치는 유지

조사 범위는 FESA 구조해석, 특히 MITC4 implicit dynamics에 관련되는 기준이다. 접촉·hybrid는 경계 설명용이며, Abaqus 전체 제품의 재료별 적분·최적화·손상·확산· Explicit 안정시간 기준을 모두 열거한 문서는 아니다. 공개 문헌에서 확인하지 않은 Abaqus 내부 직접분해·pivot·rank 판정 숫자는 추측하지 않았다.

6. 조사 시점 FESA 기준과 소유 위치

대상	조사 시점 판정	근거/실험 시 취급
MITC4 비선형 정적	잔차·보정 상대 1e-2; 외력 또는 증분 scale=0에서 typed absolute 1e-3	공개 기준, 실제 분기; 동해석과 별도
Shell HHT 외부 Newton 잔차	병진/회전 별 `max	r
Shell HHT 외부 Newton 보정	병진은 L, 회전은 1로 나눈 δq·hδv·h²δa·h²δA 모두 1e-10	같은 파일 CorrectionRecord; Abaqus의 증분 대비 보정과 다름
Shell HHT 내부 위치 root	hidden residual 1e-10, 회전 보정 1e-10 등; 최대 100 correction	SolveEmbeddingRoot; 별도 구속 정밀도
회전만 추가 보정하는 solve 경로	병진 통과/회전 미통과와 병진 보정량의 1e-10에 의존	같은 파일 SolveRotationOnlyCorrection; 종료 정책과 결합됨
초기 frame0 일관성	초기·재구성 full 잔차 1e-10	procedure; 양의 증분 종료와 분리
HHT 선형 solve	scaled backward error 1e-12	CheckLinearSolve; 유지 대상
HHT 전역 힘·모멘트 평형	각각 normalized 1e-8	같은 파일 CompleteEquilibrium; 외부 Newton 완화 후에도 남는 필수 acceptance
이력 update·basis·pair 산술	same-unit update 1e-12 및 exact-zero/정확 반올림 검사	procedure, pair 검사; 유지 대상
hidden 위치/rate·rank·null	별도 1e-10/1e-12 등의 물리·대수 검사	algebra, 기능 요약; 일괄 완화 제외
선형 정적·고유치·열	각 기능별 독립 기준	이번 MITC4 동해석 실험의 자동 변경 대상 아님

조사 당시 HHT의 scale은 외력과 요소별 physical/drilling force, convective inertia 및 질량×가속도 항들의 상쇄 전 크기를 누적한다. Abaqus의 q̃와 동일하지 않다. 당시 보정 기준도 δq/Δq가 아니라 특성길이·시간간격에 기반하므로 1e-10 → 0.01은 단순 완화 이상의 의미 변경이다. 정적은 이미 상대 1e-2이므로 Abaqus의 Rn=5e-3 채택이 숫자상 더 엄격할 수도 있다. “FESA 전체가 Abaqus보다 엄격하다”로 일반화할 수 없다.

현재 실험 후보는 이 표의 외부 종료를 field 평균·증분 대비 보정으로 교체했고 기존 strict 잔차·q/v/a/A 크기는 진단으로 보존했다. 내부 산술·frame0·전역 평형은 별도로 유지한다.

7. 성능 가설과 적용 전 확인

확인된 사실은 엄격한 HHT 종료 기준과, 외부 Newton 외에도 비용이 큰 내부 root· 요소 도함수·조립 경로가 존재한다는 점이다. 허용치가 실제 장시간 실행의 주원인인지는 조사 당시에는 측정하지 않았다. 이후 같은 local 근사본의 strict 공식 실행은 6350.7895521초/native0을 확보했다. T6/T7에서는 물리 실패로 후보100증분을 실행하지 않았으나, 후속 사용자 요청의 변위 비교에서는 Release 후보 원본을 5662.144854초/native0으로 완료하고 U PASS를 확인했다. 첫 증분의 호출 수 감소만으로 전체 병목이나 가속을 확정하지 않는다. 기존 성능 기록의 6372.325621초는 과거 source의 단일 baseline으로 최신 revision의 측정값이 아니다.

추가 실험에서 전체 증분의 외부/내부 반복 수, 요소 평가 수, factor/solve 수, 단계별 시간과 종료를 지연시킨 채널을 함께 측정해야 한다. 내부 구속 solve가 대부분의 시간을 쓰면 외부 Newton 기준만 바꿔도 효과가 작을 수 있다. 기준을 넓혀 성공한 것과 해의 정확도가 유지된 것을 구분하고, U 비교와 별도로 V/physical a·구속·시간수렴을 확인해야 한다.

적용 단계와 승인 경계는 적용 계획에 정리한다.

출처

아래는 모두 Abaqus 2025 공식 문서의 공개 호스팅본이다. 실제 2024 실행값 확인은 남아 있다.