Djinious
Quantificazione dell’incertezzaMetodi di ingegneria

Inferenza bayesiana e UQ

Non una singola risposta — una distribuzione di risposte, con una fiducia calibrata. Il Markov-Chain Monte Carlo adatta un modello a dati rumorosi e quantifica quanto dovresti esserne sicuro: posteriori che corrispondono alla forma chiusa dove ne esiste una, bande di credibilità sulle previsioni, confronto tra modelli e una verifica di copertura.

DjiniousLab
Distribuzioni a posteriori di due parametri con la loro densità congiunta correlata e una traccia MCMC ben mescolata
MCMC vs posteriore analitico (differenza sulla media)
0.002MCMC vs posteriore analitico (differenza sulla media)
R̂ di Gelman–Rubin (convergente)
1.001R̂ di Gelman–Rubin (convergente)
copertura degli intervalli al 90%
86%copertura degli intervalli al 90%
intervalli di credibilità che contengono il valore vero
✓intervalli di credibilità che contengono il valore vero
notebook di progettazione
10notebook di progettazione
requisiti PASS
5 / 5requisiti PASS

La risposta onesta è una distribuzione, non un numero.

Ogni altro modello di questo portfolio dà una sola risposta. Ma adatta un modello a dati rumorosi e la risposta corretta non è «il tasso è 0,7» — è «0,7, ed ecco esattamente quanto ne sono sicuro». L’inferenza bayesiana produce proprio questo: una distribuzione a posteriori completa sui parametri, e un’incertezza calibrata su ogni previsione. Il Markov-Chain Monte Carlo è il motore. Questo programma lo costruisce a partire dal caso coniugato che puoi verificare a mano, fino a calibrare un modello dinamico e confrontarne diversi tra loro — e completa ogni altro flagship, perché l’incertezza può avvolgerli tutti.

Comincia da dove puoi verificare la risposta esattamente.

Per alcuni modelli il posteriore è analitico — un prior Beta e dati binomiali danno un posteriore Beta, in forma chiusa. Il programma parte da lì, osservando il posteriore che si affina sul valore vero man mano che arrivano i dati, perché è il caso in cui un campionatore può essere validato fino all’ultima cifra. Metti a punto il meccanismo dove puoi verificarlo, poi fidatene dove non puoi.

DjiniousLab
Una distribuzione a posteriori Beta-Binomiale che si affina sul valore vero man mano che si osservano più dati
L’ancora di correttezza: con un prior coniugato il posteriore è analitico, e si affina visibilmente sul valore vero man mano che i dati si accumulano. L’unico caso in cui la risposta è esatta — il benchmark che ogni campionatore del programma deve riprodurre.
DjiniousLab
Marginali a posteriori MCMC per due parametri, la loro densità congiunta, e una traccia ben mescolata
Il protagonista — MCMC di Metropolis–Hastings: un campionatore scritto da zero recupera i parametri di un modello come distribuzioni a posteriori complete (in alto), la loro densità congiunta correlata (in basso a sinistra), a partire da una catena ben mescolata (in basso a destra). Ogni marginale è centrata sul valore vero, e l’istogramma si sovrappone esattamente al posteriore analitico. Il motore del calcolo bayesiano moderno, costruito da zero.

Un adattamento di cui non puoi dubitare è un adattamento di cui non puoi fidarti.

I minimi quadrati tracciano una sola retta tra i dati e si fermano. La regressione bayesiana traccia l’intero posteriore di rette — e la dispersione di quel ventaglio, stretta dove i dati sono densi e ampia dove sono radi, *è* l’incertezza. Questa è la differenza tra una previsione e una previsione su cui puoi agire: non solo la stima migliore, ma quanto potrebbe essere sbagliata, ovunque.

DjiniousLab
Un ventaglio di rette di regressione campionate dal posteriore attraverso dati rumorosi, che si allarga dove i dati sono radi
Il ventaglio è l’incertezza: invece di un’unica retta di miglior adattamento, la regressione bayesiana dà un posteriore di rette. Dove i dati vincolano il modello le rette si addensano; dove non lo fanno, si aprono a ventaglio. Un’unica retta ai minimi quadrati butta via tutto questo.

Calibra un modello dinamico — con barre d’errore.

Lo stesso meccanismo inferisce i parametri di una ODE. Date osservazioni rumorose di un segnale in decadimento, MCMC recupera il tasso di decadimento come posteriore (centrato sul valore vero), e propagando quel posteriore in avanti attraverso il modello si ottiene una banda predittiva a posteriori — una previsione che porta con sé la propria incertezza. E il programma verifica che l’incertezza sia onesta: su molte repliche, gli intervalli di credibilità al 90% contengono il valore vero circa il 90% delle volte. Calibrazione, verificata.

DjiniousLab
Una traiettoria di decadimento ODE calibrata su dati rumorosi con una banda di credibilità predittiva a posteriori
Calibrazione del modello con incertezza: MCMC inferisce la costante di velocità di una ODE in decadimento a partire da osservazioni rumorose e propaga il posteriore in avanti in una banda predittiva al 90% intorno alla traiettoria. Una previsione che sa quanto è incerta — e i cui intervalli sono calibrati per contenere il valore vero.

Lascia che siano i dati a scegliere il modello — e penalizza la complessità.

Dati modelli concorrenti — una retta contro una parabola — quale sostengono i dati? Un modello più complesso si adatta sempre meglio ai dati di addestramento, quindi il confronto onesto penalizza la complessità. Il criterio di informazione bayesiano fa esattamente questo, e su una scansione di gradi polinomiali raggiunge il minimo esattamente al grado vero: abbastanza flessibilità per adattarsi al segnale, non di più. Il rasoio di Occam, reso quantitativo.

DjiniousLab
Un criterio di confronto tra modelli minimizzato al grado polinomiale vero
Il rasoio di Occam, quantificato: tra i vari gradi polinomiali il criterio di informazione è minimizzato al grado che ha generato i dati — abbastanza complesso da catturare il segnale, penalizzato se va oltre. I dati scelgono il proprio modello, e l’overfitting viene penalizzato.

Ogni numero ridedotto in fase di collaudo finale.

Il notebook V&V ricostruisce ogni campionatore da zero con seed fissi e ridefinisce i requisiti rispetto alla teoria, stampando un quadro PASS/FAIL.

Risultato

  • MCMC vs posteriore analitico: differenza sulla media 0,002
  • Recupero dei parametri (IC ∋ valore vero): 1,85 / 0,53
  • R̂ multi-catena: 1,001
  • Copertura dell’intervallo predittivo: 86%
  • Confronto tra modelli (BIC): grado vero

Requisito

  • MCMC vs posteriore analitico: R-01
  • Recupero dei parametri (IC ∋ valore vero): R-02
  • R̂ multi-catena: R-03 ≈ 1
  • Copertura dell’intervallo predittivo: R-04 ≈ 90%
  • Confronto tra modelli (BIC): R-05

Il paradigma del campionamento, ancorato alla teoria.

Il deliverable è composto da dieci notebook e dal dossier — campionatori MCMC e posteriori, non una rete acausale, quindi non c’è alcun blocco personalizzato né canvas. Il campionatore è Metropolis–Hastings a passeggiata casuale (non HMC/NUTS basato su gradiente), le verosimiglianze sono gaussiane, le catene hanno lunghezza modesta, i modelli sono a bassa dimensionalità, il confronto tra modelli usa un criterio di informazione anziché una verosimiglianza marginale completa, e nulla è calibrato su un dataset del mondo reale. Ciò che il programma dimostra è il paradigma bayesiano stesso — una distribuzione di risposte con incertezza calibrata — validato rispetto a posteriori in forma chiusa dove esistono, e che arriva alla calibrazione di modelli dinamici, alla propagazione dell’incertezza e al confronto tra modelli dove non esistono. È lo strato di incertezza che può avvolgere qualsiasi altro flagship.