Source-linked AI summary
Revelation Control
Qinyou Wang
TL;DR
학습 시스템은 현재 요약만으로는 동등해 보여도 향후 training 이후에는 서로 다른 행동을 요구할 수 있다. 이 논문은 Revelation Control을 통해 의사결정 관련 revelation의 비용을 산정하고 information value와 productive reuse를 구분한다. 그 결과, 더 깊은 probe는 의사결정을 바꾸는 구분을 드러낼 수 있지만 action boundary를 넘지 않는 predictive variation은 가치가 없음을 보인다.
문제
현재 state summary는 지금은 동등해 보이지만 향후 training에 다르게 반응하고 서로 다른 행동을 요구하는 learning state를 하나로 묶을 수 있다.
방법
이 framework는 revelation depth에 따라 future-learning intervention의 비용을 산정하고, 의사결정 관련 information과 재사용 가능한 progress 및 productive computation을 분리한다.
결과
선언된 decision boundary를 넘지 않는 predictive variation은 binary decision value가 0인 반면, 더 깊은 observation은 local aliasing 조건에서 엄밀한 refinement value를 낳을 수 있다.
시사점 및 한계
Decision-sufficient revelation은 hidden distinction이 future training 이후 action을 바꾸는지에 달려 있으며, 단순히 prediction을 개선하는지에 달린 것이 아니다.
시사점 및 한계
이 local separation은 선언된 frontier-ambiguity regime를 조건으로 하며, 모든 empirical short-probe representation이 이를 만족한다고 주장하지 않는다.
Abstract
from arXiv · showhide
Revelation Control is the problem of choosing priced interventions that reveal hidden state only insofar as the revealed distinctions can change a consequential decision, while accounting separately for any useful progress created by the intervention itself. We develop this theory for learning systems, where states equivalent under declared current information can respond differently to future training and favor different actions. The framework defines decision-sufficient revelation and revelation depth, separates pure information value from productive reuse, embeds static Bayes refinement into state-dependent continuation value, and gives an exact cost-adjusted factorization criterion: an additional shallow coordinate is decision-nonredundant only when states sharing a scalar summary lie on opposite sides of the priced Stop/Continue boundary. We also give a target-independent protocol for model-specific instantiation and prove that bounded stop-flip risk alone cannot certify positive expected utility under unrestricted severity. Across Qwen2.5-7B and Mistral-7B-v0.3, deeper future-learning probes have positive decision value and productive reuse yields strict equal-compute utility advantages. Qwen additionally provides evidence for a decision-nonredundant shallow revealability regime; in Mistral, a scalar continuation architecture fit only on an independent development panel retains positive familywise-adjusted lower bounds on a disjoint target panel, consistent with scalar decision sufficiency within the tested architecture family and resolution. The evidence supports structural rather than numerical transfer: the decision theory, cost accounting, continuation logic, and evaluation protocol transport, while empirical proxies, coefficients, thresholds, and even the required shallow state dimension may be system-specific.
1 서론 · 2 의사결정 가치와 의사결정 분해 · 3 의사결정 충분 revelation과 revelation depth
이 논문은 Revelation Control을 재사용 가능한 계산을 별도로 고려하면서 의사결정과 관련된 hidden state만 드러내는 가격이 매겨진 future-learning intervention을 선택하는 문제로 정의한다. 또한 결과로 제시되는 구조적 주장에 명시적 적용 범위 조건을 두고, decision-sufficient revelation, dynamic decision value, revelation depth를 형식화한다.
- 1 서론: Revelation Control은 action, future-learning intervention, revelation depth, 그리고 어떤 tested future를 promote할지를 선택한다. 현재 summary가 이후 training에 다르게 반응하는 state들을 같은 것으로 만들 수 있기 때문이다.이 framework는 information, execution technology, learnability, cost를 분리하는 한편, predictive information과 선언된 action을 바꾸는 information을 구분한다.
- 1.1 기여: 이 논문은 decision-sufficient revelation, productive probe-and-promote technology, dynamic continuation value, model-specific evaluation protocol을 제시한다.핵심 구분은 discard-and-restart probing과 실행에 재사용 가능한 진전을 남기는 productive revelation 사이에 있다.
- 1.2 범위와 구성: 주장은 보편적이라기보다 조건부다. finite-library 결과는 finite-library에 한정되고, structural refinement는 선언된 shallow ambiguity regime를 전제로 하며, empirical conclusion은 연구한 learning system에 국한된다.비교 주장은 공통 evaluation setup 아래 하나의 강화된 DynaMiCS-style short-probe frontier를 사용한다.
- 2 의사결정 가치와 의사결정 분해: Decision factorization은 action-relevant quotient만을 다룬다. 즉, coarse information에서 measurable한 어떤 policy도 refined information 아래 Bayes-optimal이 아닐 때에만 refinement가 엄밀한 가치를 갖는다.Predictive information이 선언된 action을 바꾸지 않으면 decision value는 0일 수 있으며, latent state가 high-dimensional이어도 작은 quotient로 충분할 수 있다.
- 2.2 Dynamic decision-factorization obstruction: 현재 loss가 0이어도 dynamic insufficiency는 지속될 수 있다. continuation weight가 양수이면, coarse representation은 선택한 action이 training state를 바꾼 뒤에도 해소되지 않은 downstream distinction 때문에 부적절해진다.이 decomposition은 immediate aliasing과 continuation obstruction을 분리하며, POMDP 또는 dual-control theory의 대체물로 제시되지 않는다.
- 3 의사결정 충분 revelation과 revelation depth: Decision-sufficient revelation은 full execution state를 복원할 필요가 없다. 현재 information fiber 내부에서 terminal action을 바꿀 수 있는 distinction을 드러내면 된다.동반 연구는 predictive non-sufficiency [40]를 확립했으며, 이 논문은 그러한 hidden distinction이 언제 실행 가능한 decision information이 되는지를 묻는다.
- 3.1 Exact binary aliasing identity: Binary refinement는 coarse-information fiber 내부의 refined posterior state가 terminal decision boundary의 서로 반대편에 질량을 유지할 때 정확히 양의 가치를 갖는다.선언된 binary action menu를 절대 넘지 않는 predictive variation은 그 action menu에 대한 value가 0이다.
- 3.2 Local geometry와 revelation depth: Revelation depth는 decision-relevant direction에 민감한 최초의 admissible probe depth다. 따라서 deeper probe는 short frontier observation이 국소적으로 alias하는 state들을 분리할 수 있다.Equal-budget separation은 제시된 smoothness, rank, depth, persistence 조건에 조건부이며, 모든 empirical H4 representation이 이를 만족한다고 주장하지 않는다.
4 생산적 revelation 기술 · C 의사결정 분할
이 논문은 restart probing과 productive revelation을 구분하며, 선택된 테스트 경로를 유지하면 동일한 compute를 더 큰 revelation depth로 전환할 수 있음을 보인다. 동시에 policy quality와 productive reuse를 분리한다. Revelation은 현재 서로 alias된 상태들을 action boundary의 양쪽으로 나눌 때만 중요하며, 무관한 hidden state를 재구성할 때는 중요하지 않다.
- 4 생산적 revelation 기술: 깊이 h의 trial protocol은 observation을 생성하고, revealed information과 함께 continuation consequences를 분석해야 하는 상태를 남긴다.이는 revelation technology를 information-acquisition process이자 state-changing intervention으로 다루도록 한다.
- C 의사결정 분할: Revelation은 현재 alias된 구분이 서로 다른 terminal action을 요구하는 상태들을 나눌 때만 decision value를 갖는다.더 깊은 future-learning response는 decision quotient만 분리하면 되며, full hidden-state reconstruction은 불필요하다.
- 4 생산적 revelation 기술: 이 framework는 pure information refinement와 technology expansion을 명시적으로 구분하여, productive continuation gains가 information value로 잘못 분류되는 것을 막는다.따라서 restart와 promotion은 서로 대체 가능한 구현이 아니라 서로 다른 execution technology를 나타낸다.
- C 의사결정 분할: Productive revelation은 선택된 tested path를 유지하므로, probing은 information을 획득하는 동시에 candidate action을 부분적으로 실행한다.이는 tested path를 폐기하고 original anchor에서 selected action을 시작하는 restart probing과 다르다.
- C 의사결정 분할: Promotion은 deployment path에서 여전히 유효한 작업에 대한 credit이지 free compute가 아니며, unsafe하거나 unusable한 probe는 대신 restart를 요구한다.따라서 productive-revelation identity는 tested path를 안전하게 계속할 수 있을 때만 적용된다.
- 4.1 Exact equal-budget identity: Proposition 4.1은 K_F(c) = K_AR(h)일 때 깊이 c의 restart probing과 깊이 h의 productive probing을 연결하는 exact equal-budget identity를 제시한다.두 action의 경우 matching depths는 h = 2c를 만족한다.
- 4.1 Exact equal-budget identity: 두 action H12 비교에서 H4 temporary probe와 H8 productive probe는 compute-matched이며, 두 방법 모두 20 policy-visible updates를 받는다.이 equal-budget match는 명시된 depth condition하에서 선언된 horizon 내에서 가능하다.
- 4.2 End-to-end value decomposition: End-to-end value decomposition은 공통 restart outcomes하의 policy quality와 tested path의 productive reuse value를 분리한다.이 구성요소들은 서로 무관한 future banks의 absolute outcomes를 섞지 않고 independent panels에서 추정할 수 있다.
5 적응형 revelation control: 동적 폐쇄
이 절에서는 더 깊은 probing을 조건부 Bayes refinement와 optimal stopping에 포함해 revelation control을 동적으로 완결한다. priced continuation decision에 scalar summary가 충분한 경우, 추가 revealability coordinate가 decision-nonredundant한 경우, 그리고 target leakage 없이 model-specific proxy를 검증해야 하는 방식을 규명한다.
- 동적 폐쇄: Dynamic revelation은 조건부 Bayes refinement다. 더 깊은 probing에는 state-dependent continuation value가 있으므로, static information gain은 priced sequential cost를 포함한 optimal-stopping problem이 된다.이 framework는 dynamics를 별도 objective로 다루지 않고, static refinement value를 continuation decision 및 finite-depth Bellman closure와 연결한다.
- Scalar-control factorization: 각 scalar fiber가 priced Stop 또는 Continue 측에 전부 속하고 zero-gain tie가 value-neutral일 때에만 scalar shallow summary가 decision-sufficient하다.Decision-nonredundancy에는 scalar fiber 내부에서 cost-adjusted boundary crossing이 필요하며, continuation value의 conditional variation만으로는 충분하지 않다.
- Revealability geometry: Future revealability가 current confidence를 반드시 따라갈 필요는 없다. 비슷한 current margin을 가진 state라도 서로 다른 continuation value를 가질 수 있으며, conditional support가 priced boundary를 가로지를 때 scalar-margin control은 엄밀히 suboptimal하다.제시된 monotonicity condition 아래에서는 strict Stop 측과 Continue 측 양쪽에 positive conditional mass가 존재하면 decision-nonredundancy가 성립한다.
- Model-specific instantiation: 적법한 model-specific revealability proxy는 target outcome 없이 고정해야 하며, scalar-margin comparator를 넘어서는 held-out control value를 평가해야 한다.Proxy는 revealability scale, conditional spread, 또는 continuation gain을 추정할 수 있지만, noisy fitted score가 latent Bayes quantity를 직접 식별하지는 않는다.
- 범위와 한계: Cross-model transport는 parametric이 아니라 structural하다. theory, cost accounting, continuation logic, stopping decision은 전이되지만, proxy, coefficient, threshold, risk-to-utility bridge는 model-specific으로 남는다.명시적인 severity 또는 tail assumption이 없으면 bounded decision-instability risk만으로는 positive expected utility를 보증할 수 없다.
6 오라클 revelation에서 학습 가능하고 인증 가능한 control로
Section 6은 오라클 revelation value와 finite-sample learnability를 구분하며, 더 풍부한 telemetry가 decision value를 높이는 동시에 estimation error를 악화시킬 수 있음을 보인다. 또한 cost-adjusted learned-frontier criterion을 제시하고, bounded stop–flip risk만으로는 severity가 unrestricted일 때 positive expected utility를 보장할 수 없는 이유를 명확히 한다.
- Finite-sample revelation ledger: finite-sample revelation ledger는 learned net value에서 오라클 information value, promotion value, learner approximation error, acquisition cost를 구분한다.이 구분은 refinement가 오라클 Bayes value를 높이면서도 finite sample size에서는 poor learned representation으로 남을 수 있음을 명확히 한다.
- Finite-sample revelation ledger: 더 많은 telemetry는 revelation value를 높일 수 있지만 estimation complexity도 충분히 증가시켜 finite-sample estimation risk를 악화시킬 수 있으므로, maximal refinement보다 compact refinement가 동기를 얻는다.상당히 더 넓은 telemetry를 사용한 development analyses에서는 이러한 estimation obstruction이 나타났다.
- Minimal learnable refinement: minimal learnable refinement는 learner, sample size, acquisition technology, tolerance에 상대적이며, 반드시 가장 적은 feature나 가장 거친 sufficient sigma-field일 필요는 없다.이 구성은 specified tolerance를 충족하는 refinement들 가운데 learner-relative complexity measure를 최소화한다.
- Learned frontier victory: 동일한 resource cost에서는 Δrev + P_A > R_A − R_F일 때 active learning이 이길 수 있으며, deeper revelation과 productive promotion value를 결합한다.Equation (6.8)은 deeper future learning이 decision-relevant structure를 드러내는지와 productive reuse가 end-to-end utility를 개선하는지를 분리한다.
- Risk calibration and certification: bounded Bernoulli calibration은 shallow/deep decision instability를 통제할 수 있지만, severity가 unrestricted이면 어떤 nonzero stop–flip risk도 worst-case expected net utility를 unboundedly negative하게 만들 수 있다.strict expected-net-utility guarantee에는 stopped-harm tail에 대한 통제가 추가로 필요하다.
7 관련 연구와 독창성의 경계
이 논문은 Revelation Control을 확립된 decision-theoretic, sensing, metareasoning, stopping, probing 전통 속에 위치시키는 한편, 숨겨진 learning-state aliasing과 productive future-training 실험을 결합한 데서 독창성을 찾는다. 또한 generic supporting tool을 새로운 것으로 취급하지 않으면서 revelation depth를 적응적으로 제어하는 budget-indexed, finite-sample, utility-comparative framework를 주장한다.
- 용어와 기반: 이 논문은 “value of revelation”이라는 구절이나 새로운 information-value theory를 주장하지 않으며, 자신의 continuation value를 기존 decision-analysis 용례 및 Bayesian design 전통 과 구별한다.또한 controlled learning-state acquisition을 strategic reporting과 incentive compatibility에 관한 mechanism-design revelation 원리 와 구별한다.
- Partial observability와 sensing: Revelation Control은 partial observability, dual control, active sensing을 결합하지만, 구체적으로 future training을 내부 learning execution state에 대한 intervention으로 연구한다.그 대상은 이러한 전통을 일반적으로 대체하는 것이 아니라, system response를 통해 decision-relevant state를 통제된 방식으로 획득하는 것이다.
- Local prospective probe: 이 framework는 local-probe information state가 priced decision을 factorize하는지 묻고, DynaMiCS의 short prospective probe와 local finite-difference summary를 선행 연구로 인정한다 [14].고유한 질문은 단순히 data-mixture optimization을 위한 local cross-domain slope를 추정하는 것이 아니라, decision-relative sufficiency와 non-factorization에 관한 것이다.
- Finite-sample extraction: 이 논문은 representation complexity를 decision problem의 일부로 다룬다. 더 풍부한 telemetry가 oracle information value를 높이는 동시에 estimation error를 통해 learned value를 낮출 수 있기 때문이다.이 minimal-learnable-refinement 원리는 법적으로 이용 가능한 telemetry가 많을수록 자동으로 더 좋다는 가정을 거부한다.
- 독창성의 경계: 가장 강한 독창성 주장은 hidden learning-state aliasing을 productive future-training experiment, budget-indexed revelation depth, finite-sample extraction, comparative utility와 결합하는 데 있다.이 논문은 future probing, promotion, Bayes value, value of computation, selective early exit, finite-sample risk calibration, dynamic control을 발명했다는 주장은 명시적으로 배제한다.
- Adaptive control: 이 adaptive-control layer는 더 깊은 revelation을 구매하기 위한 joint coordinate로 current decision margin과 learning-state revealability를 다루며, scalar control이 충분한 경우를 규명한다.generic metareasoning과 risk-calibration tool은 여전히 선행 연구이며, rational metareasoning, knowledge gradients [13], finite-sample risk method 가 이에 포함된다.
8 Transformer 인스턴스화 · 9 현재 정보 비교 기준을 넘어선 고정 깊이 revelation · 10 프런티어 비교: DynaMiCS-style probing
독립적으로 인스턴스화한 Qwen2.5-7B와 Mistral-7B-v0.3 시스템 전반에서 이 framework는 model별 revelation proxy와 head를 허용하면서도 decision geometry를 보존한다. Qwen의 고정 깊이 H8 policy는 양의 동시 lower bound로 선언된 모든 현재 정보 비교 기준을 능가하며, equal-compute frontier comparison은 강화된 DynaMiCS-style probing과 productive reuse를 비교한다.
- 8 Transformer 인스턴스화: 두 model family는 구조적 실험 설계를 공유하지만, Mistral의 stream, history, development data는 독립적으로 준비되므로 transfer는 수치적이 아니라 구조적이다.두 model 모두 LoRA adaptation과 AdamW optimizer state를 사용하지만, cross-model target은 empirical proxy나 coefficient의 수치적 transfer를 가정하지 않는다.
- 8 Transformer 인스턴스화: 공통 protocol은 H8까지의 candidate action을 probe하고, development-fixed decision rule을 적용한 뒤, 선택된 tested path를 H12에서 terminal evaluation으로 승격한다.이 intervention은 즉각적인 adaptive field와 일치하면서 hidden optimizer moment를 변경하므로, 이후의 공통 training을 통해 immediate update에는 없는 차이를 드러낼 수 있다.
- 8.1 Qwen2.5-7B 사전 지정 active policy: Qwen의 active policy는 24차원 raw H8 response, Ridge(α= 10), zero threshold, same-path promotion, 그리고 tie 또는 nonfinite score일 때 Keep으로의 fallback을 사용한다.representation과 rule은 independent target panel 이전에 고정되었다. H8은 development-only로 선택되었으며, 더 광범위한 telemetry는 신뢰할 만한 보상 증가 없이 estimation burden만 키웠다.
- 8.2 독립 Mistral-7B-v0.3 인스턴스화: Mistral은 H4/H8/H12 geometry, action menu, terminal utility, promotion technology, 20-update accounting을 유지하면서 독립적인 development data로 numerical head와 summary를 fitting한다.이 인스턴스화는 Qwen의 revealability proxy, coefficient, stopping threshold가 수치적으로 transfer될 것을 명시적으로 요구하지 않는다.
- 9 현재 정보 비교 기준을 넘어선 고정 깊이 revelation: Qwen의 22개 현재 정보 비교는 모두 두 independent panel에서 엄격히 양의 point margin과 simultaneous max-t lower bound를 갖는다.Figure 4는 panel을 pooling하지 않고 모든 비교를 제시하며, Table 2는 componentwise worst-case validation criterion을 정의한다.
- 9 현재 정보 비교 기준을 넘어선 고정 깊이 revelation: Productive-path value는 두 Qwen panel에서 독립적으로 양수이지만, 이 주장은 선언된 comparator library와 same-path execution technology로 제한된다.보고된 one-sided Student-t 및 bootstrap lower bound는 별도의 common-restart comparison과 panel별 결합을 수행하기 전에 두 panel에서 모두 양수다.
- 10 프런티어 비교: DynaMiCS-style probing: DynaMiCS-style comparator는 short-probe, local-slope, restart information을 강화하는 동시에 source mixture-selection method를 현재의 binary action gap에 맞게 조정한다.이 방식은 slope information을 action gap으로 변환하는 의도적으로 약한 mapping을 피하므로, 그렇지 않으면 positive frontier result가 head misspecification을 반영할 수 있다.
- 10.1 Equalized compute contract: 두 method는 정확히 20회의 policy-visible update와 동일한 terminal utility를 받지만, productive revelation은 selected-probe update를 재사용하고 comparator는 재사용하지 않는다.Restore/save overhead는 primary comparator accounting에서 제외되므로 productive-revelation comparison은 보수적으로 이루어진다.
11 H4 frontier-ambiguity regime의 구조적 decision refinement · 12 Productive revelation과 equal-compute frontier performance
Qwen과 Mistral 모두에서 productive reuse of deeper probes는 restart-only selection이 아니라 엄격한 equal-compute gain을 만들어내며, independent-bank test는 deeper revelation이 shallow ambiguity를 action-relevant distinction으로 refinement할 수 있음을 보인다. Mistral은 positive deeper-revelation value를 독립적으로 확인하는 반면, 더 강한 Qwen partition diagnostics는 cross-model invariant로 취급하지 않는다.
- 11.1 Independent-bank refinement estimator: Qwen의 226/432-anchor H4 ambiguity event에서 independent-bank refinement 추정치는 1.93 × 10−4 부근에서 일치하며 full-panel contribution 1.00952551446 × 10−4를 함의한다.Full-panel contribution의 t lower bound는 5.69892792476 × 10−5이고 bootstrap lower bound는 3.39715294723 × 10−5다.
- 11.1 Independent-bank refinement estimator: Refinement estimator는 한 bank로 최선의 coarse constant action을 선택하고 independent bank로 fixed H8 decisions를 평가하며, symmetric reversal과 bootstrap reselection을 사용한다.이를 통해 terminal outcome이 choice와 evaluation에 모두 재사용되는 것을 방지한다.
- 11.2 Opposite-action sign replication: Qwen H8 partition은 opposite action을 선호하는 state를 분리하며, sample Bayes gap은 1.63115121441 × 10−4이고 bootstrap lower bound는 6.04584733171 × 10−5다.H8 representation은 cross-bank terminal-gap mean squared error도 1.24677 × 10−7만큼 개선하지만, learned-policy value interval은 zero를 가로지른다.
- 11.3 Independent Mistral aliasing and deeper-revelation value: Mistral의 independent 480-anchor panel에서도 동일한 shallow H4 ambiguity regime 안에 두 terminal bank 모두에서 opposite terminal action을 요구하는 stable subset이 존재한다.Bank A는 216/480 ambiguous anchor를 산출하며, 여기에는 88 stable-Xi anchor와 58 stable-Keep anchor가 포함된다. Bank B는 210/480을 산출하며, 각각 83과 58을 포함한다.
- 11.3 Independent Mistral aliasing and deeper-revelation value: Mistral의 fixed H8 action은 H4에 비해 strictly positive terminal decision value를 가지며, Student-t lower bound는 1.56391515827 × 10−4이고 bootstrap lower bound는 1.58226436880 × 10−4다.H4와 H8 action은 적어도 한 bank에서 100/480 exact anchor에 대해 다르며, nontrivial mass에서 positive deeper-revelation value를 재현한다.
- 12.1 Qwen equal-compute closure: Qwen의 두 productive-path panel은 end = 8.95147503879 × 10−5와 end = 1.47365323110 × 10−4를 산출하며, 둘 다 positive 95% lower bound를 가진다.Productive-path value는 각각 8.9913 × 10−5와 1.4776 × 10−4이며, positive one-sided t와 bootstrap lower bound를 가진다.
- 12.2 Independent Mistral equal-compute replication: Mistral의 equal-compute end-to-end advantage는 one-sided Student-t lower bound 2.00162462592 × 10−4와 bootstrap lower bound 2.04870462705 × 10−4를 가진다.Same-path reuse는 one-sided Student-t와 bootstrap lower bound 1.96017743591 × 10−4와 2.01665987607 × 10−4로 기여한다.
- 12.2 Independent Mistral equal-compute replication: 두 Transformer family 모두에서 productive reuse of deeper tested computation은 엄격한 equal-budget end-to-end advantage를 만들어내며, restart-only selector difference가 주된 gain은 아니다.이 pattern은 Equation (4.6)에 formalize된 productive-revelation mechanism과 일치한다.
13 모델 family 전반의 Adaptive Revelation Control · 14 모델 간 구조적 검증 · 15 잠재적 적용 영역
Qwen2.5-7B와 Mistral-7B-v0.3 전반에서 Revelation Control은 구조적으로 전이된다. 즉, 더 깊은 revelation과 productive reuse는 compute-accounted utility를 높이는 반면, shallow decision sufficiency는 모델별로 다르다. 개입에 가격이 부과되고, 반응이 consequential decision을 정교화하며, terminal utility와 safety cost가 정의되어 있다면 이 framework는 learning system을 넘어 확장될 수 있다.
- 13.1 Qwen2.5-7B: decision-nonredundant revealability와 held-out safe compute: Qwen의 two-coordinate controller는 scalar |𝑓H4| rule보다 paired cost-aware value를 3.2514×10−7만큼 높이며, one-sided Student-t와 bootstrap의 lower bound가 모두 양수이고 유해한 held-out stop은 없었다.two-coordinate 결과는 decision-nonredundant shallow revealability를 뒷받침하지만, strict net-value lower bound는 finite-sample tail에 여전히 민감하다.
- 13.1 Qwen2.5-7B: decision-nonredundant revealability와 held-out safe compute: Qwen의 H8-over-H4 terminal decision value는 1.229 × 10−4이며, 95% Student-t와 bootstrap lower bound는 각각 8.687 × 10−5와 8.769 × 10−5다.이 independent 480-history full-grid study에서는 continuation architecture, H4/H8 policy, update price, compute ledger를 사전에 고정했다.
- 13.1 Qwen2.5-7B: decision-nonredundant revealability와 held-out safe compute: Qwen의 calibrated rule은 4/480 history에서 stop하고, visible update의 0.1667%를 절약하며, 95% joint-risk bound를 2% 미만으로 유지하고, positive net value 2.890 × 10−7을 갖는다.bound는 0.6222%이며, Student-t와 bootstrap lower bound는 각각 5.161 × 10−8과 7.225 × 10−8이다.
- 13.2 Mistral-7B-v0.3: tested resolution에서의 scalar continuation control: Mistral의 scalar utility-aware controller는 independent 480-anchor target panel에서 positive familywise-adjusted lower bound를 유지하며, tested resolution에서 scalar decision sufficiency를 뒷받침한다.controller는 별도의 336-anchor development panel만으로 fit되었고, raw Qwen-style R4 coordinate는 adaptive value를 높이지 못했다.
- 13.3 Mistral에서의 Risk–severity 분리: Mistral의 risk-calibrated rule은 low action-instability가 positive utility를 보장하지 않음을 보여준다. 네 번의 stopped action change가 largest continuation value 9.811 × 10−3 및 negative net value와 공존한다.드물지만 severity가 높은 miss는 값싼 correct stop을 많이 상쇄할 수 있어, risk control과 utility control을 분리한다.
- 14 모델 간 구조적 검증: 두 family 모두에서 future learning은 decision-relevant information을 제공하고, deeper path는 productive value를 가지며, Revelation Control은 compute-accounted utility를 높이지만, fit된 controller가 변경 없이 전이되지는 않는다.전이 가능한 대상은 legal shallow information, continuation value, productive cost, terminal decision utility 사이의 관계다.
- 15 잠재적 적용 영역: 잠재적 적용 분야로는 staged learning update, adaptive numerical computation, robotics, process diagnostics, scientific experiment, operations pilot, high-stakes human decision이 포함되지만, 이는 확립된 deployment 주장이 아니라 prospective claim으로 남아 있다.적용 가능성에는 consequential terminal action, hidden state, priced intervention, observable response, 그리고 정의된 utility 및 safety cost가 필요하다.
- 15.3 Domain-level applicability test: 새로운 domain에서는 legal information, terminal action, utility, admissible probe, cost를 정의한 뒤, development-only response를 사용해 continuation value를 추정하고 scalar summary가 decision-sufficient한지 검증한다.핵심 transfer test는 model fine-tuning과의 피상적 유사성이 아니라 Revelation Control과의 구조적 정렬이다.
16 한계 · 17 결론 · 보수적 replicate-denoised Bayes-regret bridge
이 논문은 통제된 future learning이 의사결정과 관련된 숨은 구분을 드러내고, 그 결과로 생성된 작업을 재사용해 더 높은 utility를 얻을 수 있다고 결론짓는다. 다만 empirical claim은 system, comparator, resource, tail-certification의 한계에 의해 제한된다. 선택적 replicate-denoised bridge는 명시적 가정하에서 보수적인 Bayes-regret certification을 제공하지만, 이를 통과하는 것은 sufficient이지 necessary는 아니다.
- 16 한계: Productive revelation은 검증된 작업을 법적·과학적으로 재사용할 수 있고, 핵심 frontier가 restore/save overhead나 기타 deployment resource에 비용을 부과하지 않을 때에만 적절하다.Probe가 deployment를 손상시키거나, 되돌릴 수 없는 risk를 만들거나, target distribution을 바꾸거나, state-I/O 또는 safety cost를 추가한다면 restart가 적절할 수 있으며 budget identity를 다시 가격화해야 한다.
- 16 한계: Location–scale theorem은 조건부다. positive-mass scalar fiber가 priced Stop/Continue boundary를 가로지를 때에만 두 번째 shallow coordinate가 필요하다.One-step decision sufficiency 역시 multi-stage Markov closure를 함의하지 않는다. (m_h, σ_h)를 완전한 dynamic state로 사용하려면 추가적인 closure condition이 필요하다.
- 16 한계: Positive held-out utility나 bounded stop-flip risk만으로는 unrestricted severity하에서 positive expected utility를 certify할 수 없다. Population certification에는 사전 선언된 severity, moment 또는 integrable-tail class가 필요하다.이 한계는 단순한 power limitation이 아니라 identification boundary로 규정된다.
- 16 한계: 이 결론은 universal method optimality, 모든 measurable current-information policy에 대한 dominance, 또는 평가된 learning-system configuration을 넘어서는 transfer를 확립하지 않는다.Empirical system들은 LoRA, AdamW-style optimization, binary intervention menu, H4/H8/H12 geometry를 공유한다. Policy는 target evaluation 전에 고정되었으며, comparator는 하나의 강화된 DynaMiCS-style short-probe/restart class였다.
- 17 결론: 이 framework는 decision quotient를 관련 state representation으로 식별한다. Refined optimal action이 이를 통해 factorize되면 coarse observation만으로 충분하며, productive revelation은 information gain과 재사용된 computation을 분리한다.Fork–probe–promote design은 future learning을 hidden learner state에 대한 experiment로 다루고, static Bayes refinement를 continuation value에 포함한다.
- 17 결론: Qwen2.5-7B와 Mistral-7B-v0.3에서 controlled future learning은 action value를 보이고, productive reuse는 strict equal-compute advantages를 제공하며, adaptive revelation은 state-dependent control을 뒷받침한다.Qwen은 decision-nonredundant shallow revealability regime도 보이는 반면, Mistral은 검증된 architecture family와 resolution 내에서만 scalar continuation sufficiency를 뒷받침한다.
- 보수적 replicate-denoised Bayes-regret bridge: 선택적 replicate-denoised bridge는 독립적으로 생성된 future outcome을 사용해 persistent conditional signal을 one-bank noise와 분리하고, square-integrability, shared conditional means, c_X≥0 가정하에서 coarse-policy Bayes regret를 보수적으로 upper-bound한다.이 bridge는 coarse information에서 measurable한 positive-probability event에 조건부로도 적용된다.
- 보수적 replicate-denoised Bayes-regret bridge: 이 bridge는 sufficient이지 necessary는 아니다. 이를 통과하지 못했다고 해서 active value가 coarse-information Bayes value보다 낮다는 뜻은 아니다.Persistent hidden heterogeneity는 score가 coarse-information conditional mean과 같을 때에도 nonnegative floor를 기여한다.
B Adaptive-depth 인증 세부사항 · C 증명
부록은 더 깊은 policy와 얕은 policy가 일치할 때 productive-prefix reuse가 결정을 보존함을 증명하는 한편, 유해한 flip의 severity를 통제하지 않으면 stop–flip risk만으로 utility를 인증할 수 없음을 보인다. 따라서 prospective certification에서는 bounded-risk calibration을 사전 선언된 severity, moment 또는 tail 조건과 결합해야 한다.
- B Adaptive-depth 인증 세부사항: Risk–severity factorization에 따르면 얕은 policy와 깊은 policy가 일치할 때 productive-prefix reuse는 결정 차이를 만들지 않으며, 그 밖의 경우에는 |Y| = |D|F이다.이는 결정 변화를 stopped flip으로 한정하고 그 크기를 terminal decision severity와 연결한다.
- B Adaptive-depth 인증 세부사항: 어떤 양의 stop–flip risk와 제한되지 않은 stopped-flip severity에 대해서도 동일한 risk rate가 임의로 낮은 expected net utility를 낳을 수 있으므로, risk만으로는 유한한 robust lower bound를 얻을 수 없다.이 불가능성은 유한한 양의 harm expectation을 갖는 모든 고정 stop probability와 stop–flip probability에 대해 성립한다.
- B Adaptive-depth 인증 세부사항: 이 불가능성은 event probability만으로 제한되지 않은 mean severity에 대한 비자명한 lower bound를 도출하는 문제에 관한 것이며, 제한되지 않은 mean inference에 대한 고전적 비모수 불가능성 결과와 맥을 같이한다.이는 bounded-risk calibration 자체가 불가능하다는 뜻은 아니다.
- B Adaptive-depth 인증 세부사항: fixed-sequence calibration, Learn-then-Test, Conformal Risk Control과 같은 Bernoulli-risk 절차는 early stopping이 deeper action을 바꾸는 빈도를 사전적으로 통제할 수 있지만, 그러한 변화가 얼마나 심각한지는 통제하지 못한다.이 절차에는 고정된 risk model, threshold family, calibration dataset, risk target이 필요하다.
- B Adaptive-depth 인증 세부사항: probability budget은 utility budget이 아니다: flip 빈도를 낮추더라도 하나의 유해한 flip이 충분히 큰 severity를 가지면 net value는 여전히 음수가 될 수 있다.Table 6의 fixed-data nested evaluation은 positive-net-value 방향과, 단 하나의 유해한 flip으로 realized net value가 음수가 되는 더 낮은 risk 방향을 대조한다.
- B Adaptive-depth 인증 세부사항: 타당한 expected-utility certificate는 bounded stop–flip-risk calibration을 integrated stopped-harm tail의 통제 또는 사전 선언된 severity, moment, envelope surrogate와 결합해야 한다.그 결과로 얻는 finite-sample lower bound는 선언된 severity class 또는 H+에 대한 독립적으로 타당한 upper bound와 가정이 부합한다.
C.1 Proposition 2.2의 증명 … C.8 replicate-denoised bridge의 증명
부록은 각 주장을 conditional Bayes identity, budget accounting, sign change 또는 projection inequality로 환원해 논문의 핵심 decision, cost, value, refinement, geometric, denoising 결과를 증명한다. 이 논증들은 함께 제시된 equivalence condition, resource comparison, lower bound 및 policy-improvement guarantee를 확립한다.
- C.1 Proposition 2.2의 증명: Proposition 2.2의 증명은 conditional Bayes action과 nonnegative regret를 사용해 H-measurable action이 G-optimal이기도 한 조건을 특성화한다.measurable tie rule은 G-Bayes action의 존재를 보장하며, nonnegative integrand는 almost surely 소멸해야 한다.
- C.2 Proposition 2.3의 증명: Proposition 2.3은 nonnegative maximum term이 coarse loss가 0이고 모든 competing term이 nonpositive일 때 정확히 소멸하기 때문에 성립한다.증명에서는 coarse-optimal action이 zero decision gap과 nonnegative weight를 갖는다는 사실을 사용한다.
- C.3 Proposition 4.1의 증명: Proposition 4.1은 (m−1)h = mc를 통해 temporary probing과 probe-and-promote의 cost가 같음을 보인다.Temporary probing의 cost는 mc + H이고, probe-and-promote의 cost는 H + (m−1)h이다.
- C.4 Proposition 6.1의 증명: Proposition 6.1은 learner class에서의 best value에서 출발해 대응하는 benchmark quantity W_s,n = V★를 정의한다.제공된 증명 구절은 learner-class optimum을 출발점으로 식별한다.
- C.5 Corollary 6.2의 증명: Corollary 6.2는 policy decomposition을 대입한 뒤 priced resource cost를 빼서 value comparison을 도출한다.이 identity들은 net value를 구성하기 전에 coarse 또는 refined Bayes value, regret 및 productive term으로 value를 표현한다.
- C.6 Theorem 3.2의 증명: Theorem 3.2는 H에 조건부화한 뒤 δ-scaled lower bound를 event A에 대해 적분해 refined Bayes increment와 coarse Bayes increment를 연결한다.증명은 Equation (3.8)을 확립하고, A에서 min{a_H,b_H}를 δ min(α,β)로 bound해 Equation (3.10)을 얻는다.
- C.7 Proposition 3.3의 증명: Proposition 3.3은 하나의 summary level set 안에서 terminal gap이 서로 반대 방향으로 changes sign하고 다른 output이 first order로 변하는 curve를 구성한다.level-set tangent space는 ker DΦ_c(x_0)이며, DY_h(x_0)v ≠ 0 조건이 first-order change를 제공한다.
- C.8 replicate-denoised bridge의 증명: replicate-denoised bridge는 disagreement, |m_H| ≤ |m_H−f| 및 Cauchy–Schwarz를 사용해 binary-policy regret를 bound하고 conditional policy improvement를 도출한다.V(π_f)를 더했다가 빼면 policy-improvement inequality가 증명되며, A ∈ H에 조건부화하면 그 conditional form을 얻는다.
C.9 Proposition 5.1 증명 … C.15 Corollary 5.7 증명
증명은 revelation decision을 위한 dynamic recursion, continuation boundary, exact scalar-sufficiency criterion을 확립한다. 또한 refinement가 언제 value를 엄밀히 향상시키는지, scalar summary나 threshold rule이 언제 성립하지 않는지도 규명한다.
- C.9 Proposition 5.1 증명: 각 information state에서의 Bayes value가 Proposition 5.1의 최종 등식을 이룬다.
- C.10 Proposition 5.4 증명: 가장 깊은 허용 depth에서는 value가 commitment value와 같고, 그보다 이른 decision에서는 paid refinement와 conditional continuation value를 고려해 즉각적인 commitment를 최대화한다.Backward induction은 Equation (5.14)를 도출한다.
- C.11 Proposition 5.2 증명: refinement로부터 얻는 conditional expected gain이 그 비용을 초과할 때에만 continuation이 최적이다.
- C.12 Theorem 5.3 증명: 양의 질량을 갖는 어떤 scalar fiber에도 엄밀히 양수인 net continuation gain과 엄밀히 음수인 net continuation gain이 함께 포함되지 않을 때에만 scalar sufficiency가 성립한다.Zero-gain tie는 등식 조건에 영향을 주지 않는다.
- C.13 Theorem 5.5 증명: 관련 threshold를 넘어서는 positive tail mass를 유지할 때마다 refinement는 엄밀한 value 향상을 가져온다.
- C.14 Corollary 5.6 증명: one-step continuation에 대한 scalar sufficiency만으로는 threshold representation이 함의되지 않으며, threshold representation에는 scalar value와 cost 사이의 monotonicity가 추가로 필요하다.
- C.14 Corollary 5.6 증명: 비퇴화 strictly monotone continuation transform은 coarse margin summary의 어떤 scalar function으로도 표현될 수 없다.
- C.15 Corollary 5.7 증명: continuity와 strict monotonicity 아래에서 scalar sufficiency는 cost threshold를 기준으로 gain을 분리하는 것에 해당하며, margin fiber에서 양수 gain과 음수 gain이 섞이면 scalar representation은 엄밀히 suboptimal해진다.
C.16 Proposition 5.8 증명 … D 표기와 의사결정 객체
부록에서는 terminal gain을 stopped-flip event와 연결해 제시된 명제들을 증명하고, impossibility 및 finite-sample certification 결과를 도출한다. 또한 framework 전반에서 사용하는 decision object와 cost-adjusted continuation quantity를 정의한다.
- C.16 Proposition 5.8 증명: Proposition 5.8의 증명은 Equation (5.16), m_h′−m_h=σ_hZ를 사용하며, σ_h는 F_h에 대해 measurable이고 Z는 F_h와 independent이다.이는 conditional measurability와 independence를 통해 decomposition을 확립한다.
- C.17 Proposition B.1 증명: Proposition B.1의 증명은 F=0일 때 두 policy의 terminal outcome이 동일하고, action indicator가 다르면 |Y|=|D|F임을 보인다.따라서 terminal gain은 stopped-flip indicator가 active인 event에 한정된다.
- C.18 Proposition B.2 증명: Proposition B.2는 E={S=1,F=1} 바깥에서 S_Y=0이기 때문에 성립하며, r=0인 경우에는 ΔV(S)=cρ로 환원된다.따라서 value contribution은 stopping event와 flipping event가 모두 일치하는 경우에만 발생한다.
- C.19 Theorem B.3 증명: Theorem B.3은 layer-cake identity와 Equation (B.3)을 사용해 bound를 확립한 뒤, (c,ρ,r)만으로는 finite lower bound가 도출되지 않음을 보이는 law를 구성한다.이 construction은 0<r≤ρ≤1을 고정하면서도, finite E[Y+]에도 불구하고 stopped-flip severity M이 임의로 커지도록 한다.
- C.19 Theorem B.3 증명: M은 arbitrary인 반면 (ρ,r)은 fixed이므로, bounded stop-flip risk alone으로는 unrestricted stopped-flip severity하에서 positive expected utility를 certify할 수 없다.이는 theorem의 impossibility limitation이지, 모든 distribution이 negative net value를 갖는다는 주장은 아니다.
- C.20 Corollary B.4 증명: Corollary B.4는 Hölder’s inequality와 tail envelope를 적용해 ρ, r 또는 H+에 대한 simultaneous confidence bound를 사용한 finite-sample lower certificate를 도출한다.증명은 먼저 q>1에 대해 E[|D|^q]≤M_q를 가정한 뒤 confidence bound를 대입한다.
- D 표기와 의사결정 객체: 표기는 D를 binary terminal gap으로, Δrev를 pure information-refinement value로 정의하며, G_h→h′와 Γ_h→h′를 각각 deeper policy gain과 그 cost-adjusted continuation gain으로 나타낸다.Cost-adjusted quantity는 Γ_h→h′=G_h→h′−c_h→h′이다.
- D 표기와 의사결정 객체: 의사결정 객체는 또한 σ_c(m)을 priced Stop/Continue decision을 바꾸는 critical revealability로, h를 target-independent이고 model-specific한 empirical proxy로 정의한다.이 proxy는 target outcome을 사용하지 않고 고정된다.
E 통계적 추정량과 동시 추론 · F 실험 프로토콜 세부사항
부록은 exact-anchor 추론, family별 multiplicity control, independent-panel evaluation protocol을 정의한다. 선언된 sampling design과 estimand로 주장을 제한하면서, scalar Mistral continuation rule에 대해 familywise-adjusted positive evidence를 보고한다.
- E 통계적 추정량과 동시 추론: 추론은 exact anchor를 resampling unit으로 사용하며, population mean을 추정하기 전에 각 anchor 내에서 conditionally independent future-bank contribution을 평균한다.이를 통해 bank-level realization, readout, policy action을 independent inferential unit으로 취급하는 것을 피한다.
- E 통계적 추정량과 동시 추론: Bootstrap uncertainty는 replacement를 허용해 exact anchor를 50,000 draws로 resample하며, model·task·deployment 전반의 universal guarantee가 아니라 선언된 anchor-sampling design을 대상으로 한다.Lower bound는 bootstrap mean의 empirical α quantile이다.
- E 통계적 추정량과 동시 추론: Qwen finite-library conjunction은 22개 comparator component 모두에 대해 positive margin과 one-sided t 및 exact-anchor bootstrap lower bound를 요구하며, simultaneous 95% max-t bound를 사용한다.두 336-anchor panel은 independent replication이며 pooled하지 않는다.
- E 통계적 추정량과 동시 추론: Multiplicity는 각 prespecified family 내부에서 control하며, manuscript는 heterogeneous estimand 전체에 걸친 paper-wide familywise-error guarantee를 주장하지 않는다.22-component current-information library와 two-architecture Mistral adaptive family는 별도로 취급한다.
- E 통계적 추정량과 동시 추론: 2.37141363069 × 10^-6과 5.41900958243 × 10^-6은 scalar Mistral rule의 ordinary one-sided 95% t 및 bootstrap lower bound이며, Bonferroni-adjusted familywise bound도 remaining positive이다.Scalar architecture와 two-coordinate architecture는 prespecified two-element family를 이루며, parameter는 independent 336-anchor development panel에서만 fit한다.
- E 통계적 추정량과 동시 추론: Stop–flip risk는 deeper action을 바꿀 probability에 대해 bankwise one-sided Bernoulli–KL bound를 사용하지만, 이 bound는 그러한 변화의 utility severity를 control하지 않는다.이 한계는 Theorem B.3에서 따르며, bounded risk만으로는 utility를 certify할 수 없게 한다.
- F 실험 프로토콜 세부사항: Qwen comparative panel은 432개의 disjoint exact anchor로 구성되며, Mistral은 별도의 336-anchor development panel과 independent 480-anchor target panel을 사용하고, 두 future bank 및 fixed 20-update compute contract를 둔다.Mistral target evaluation은 development data에서 추정한 H4 ambiguity threshold를 0.00236920914414로 고정하며, model revision c03fc1dabc3d31b96271626f15a76a6779fb4037을 사용한다.