Propagazione degli errori e teoremi centrali del limite

Teoremi centrali del limite

I teoremi centrali del limite sono una famiglia di teoremi matematici riguardanti la convergenza di diverse distribuzioni alla gaussiana.

Vantaggi dei teoremi centrali del limite

• Molte distribuzioni con N elevato tendono alla gaussiana, quindi sono più facili da studiare.
• Una combinazione (la somma o la media) di varie variabili tende alla gaussiana e quindi non ha senso conoscere le distribuzioni delle singole variabili.

Per N elevato, sia la binomiale che la poissoniana tendono alla normale. La distribuzione di Cauchy-Lorentz non converge alla normale perché la sua varianza e il suo valore di aspettazione sono infiniti.

Condizioni per i teoremi centrali del limite

1. "Debole" = convergono varianza e valore di aspettazione.
2. "Forte" = convergono tutti i momenti.

Quanto deve essere elevato N?

Dipende dalla distribuzione. Per la binomiale, N ≈ 10-20, per la poissoniana N ≈ 5-20.

Consideriamo una variabile casuale che sia la somma di molte variabili casuali e indipendenti:

X = Σ_i=1^N α_iY_i

Ogni variabile Y_i seguirà una propria distribuzione con valore di aspettazione 2Y_i e varianza σ_iY.

Distribuzione della variabile X

Per i teoremi centrali del limite, X sarà distribuita normalmente. La stessa cosa vale per gli errori random, che sono dovuti a molti fattori, ed è quindi impossibile descrivere le singole distribuzioni ma la loro somma (che genera gli errori di misura) è una distribuzione normale.

Enunciato del teorema centrale del limite

La somma (o la media) detta X di un numero sufficientemente elevato di variabili indipendenti Y è in prima approssimazione una gaussiana, indipendentemente dalle distribuzioni delle singole variabili.

Che significa elevato?

Più le distribuzioni delle singole variabili Y_i sono asimmetriche, più N deve essere elevato per tendere alla gaussiana.

Quindi, dato che X tende alla normalità:

<X> = ∑_i=1^N a_i <Y_i>

σ_X² = ∑_i=1^N a_i² σ_i²

Devono esistere sia il valore di aspettazione che la varianza associate alle singole variabili. Le singole variabili Y_i possono avere anche distribuzioni diverse fra di loro. Anche se non conosciamo la distribuzione delle Y, sappiamo la distribuzione della media di X.

Considerazione importante

• La distribuzione di X è caratterizzata solo dal valore di aspettazione e dalla varianza perché nella somma si perdono i dettagli delle singole variabili.
• Se ogni variabile viene sommata con il proprio peso e non c'è una variabile dominante, la convergenza alla gaussiana è rallentata.
• La convergenza alla gaussiana non è uniforme. Si converge più rapidamente nel valore di aspettazione e più lentamente nelle code.
• Il teorema centrale del limite afferma quindi che la forma della distribuzione delle medie si approssima alla normale con l'aumentare della grandezza del campione (N).

Propagazione degli errori

Misure indirette: derivano da altre grandezze grazie a delle relazioni fondamentali. Le incertezze sulle singole misure si propagano sull'incertezza della funzione.

Consideriamo una sola variabile

f(x) di variabile x, della quale conosciamo un certo valore (per esempio la media x̄) e la sua incertezza. Vogliamo conoscere l'errore associato a f(x̄), quindi dobbiamo calcolare la deviazione standard di f(x).

Approssimiamo la nostra funzione con l'espansione in serie di Taylor:

f(x) = f(x₀) + ∑_n=1^∞ 1/m! [dⁿf(x₀)/dxⁿ] (x-x₀)ⁿ

Per approssimare f(x) ad una retta poniamo n=1 e trascuriamo gli altri termini.

f(x) = f(x̄) + df(x̄)/dx (x - x̄)

È un'approssimazione valida solo localmente se l'intervallo x̄ ± σ_x è piccolo e l'approssimazione è corretta.

Condizioni per utilizzare questo approccio

• Gli errori devono essere piccoli.
• La funzione deve essere derivabile.
• La derivata nel punto x₀ deve esistere.

Che significa errori piccoli?

Il metodo di linearizzazione funziona se e solo se i termini successivi al primo sono trascurabili, ovvero:

^d/_dx [f(x̄)] / (x-x̄) >> 1/2 ^d²/_dx² [f(x̄)] (x-x̄)²

⇒ 2 ^{|^d/_dx [f(x̄)]|} / ^d²/_dx² [f(x̄)] >> (x-x̄)

La scala di "piccolezza" nell'errore

• Se la condizione viene rispettata, possiamo linearizzare la funzione.
• Quando viene rispettata? Errori (x-x̄) piccoli e rapporto tra f'(x) e f''(x) molto elevato (funzione "smooth" = liscia).

Funzione a una sola variabile

Varianza di f?

σ² = 1/N Σ_i=1^N [(f(x_i) - f̄)²]

f̄ = 1/N Σ_i=1^N f(x_i) ≈ 1/N Σ_i=1^N [f(x) + ^d/_dx [f(x)] (x_i-x̄) ] == 1/N Σ [f(x)] + 1/N Σ ^d/_dx [f(x)] (x_i-x̄) == N /N f(x) + 1/N ^d/_dx [f(x)] Σ (x_i-x)

La derivata è costante perché non dipende dai 1/N ∑ (x_i - x̄) = 0, poiché la sommatoria degli scarti è zero ⇔ si considerano gli scarti degli x_i rispetto al valore della media. = f(x̄)

Calcolo della varianza

σ_f² ≈ 1/N ∑_i=1^N [ f(x) + dfdx (xi - x̄) - f(x̄) ]² == 1/N ∑ [ dfdx (x_i - x̄) ]² = [ df(x̄)dx ] ² 1/N ∑ (x_i - x̄)² = [ df(x̄)dx ] ² σ_x²

Quindi riassumiamo considerando l'approssimazione lineare: ≈ f(x̄)σ_f ≈ | df(x̄)dx | σ_x

Esempi

f(x) = Ax

f(x) = xⁿ

σ_f = A σ_x

σ_f = n |x^n-1| σ_x

Se f(x) fosse una funzione lineare, il risultato precedente non è un'approssimazione:

σ_f² = f² - (f̄)²

⇒ σ_f² = (ax+b)² - (ax+b)² == a² x̄² + 2ab x̄ + b² - a² x̄² - 2ab x̄ - b² = a² x̄² - a² x̄² = a² (x̄² - x̄²) = a² _x²

σ_f = |a| _x esattamente il risultato preciso ottenuto con l'approssimazione lineare.

Funzione a 2 variabili

f = f(x,y)

x̄ = (1/N) Σ_i=1^N f(x_i, y_i) ~~ (1/N) Σ [f(x̄, ȳ) + (∂f(x̄)/∂x)(x_i - x̄) + (∂f(ȳ)/∂y)(y_i - ȳ)] = Espansione in serie di Taylor di f(x_i, y_i) troncata al 1^o termine. Utilizzando le derivate parziali cioè deriviamo la funzione rispetto a una sola variabile considerando l'altra come una costante.

= (1/N) Σ f(x̄, ȳ) + (∂f(x̄)/∂x) (1/N) Σ(x_i - x̄) + (∂f(ȳ)/∂y) (1/N) Σ(y_i - ȳ)= N f(x̄, ȳ) ↓ =0 ↓ =0 ⇒ x̄ ~ f(x̄, ȳ) # Valore Medio

Calcolo della varianza

_f² = (1/N) Σ [f(x_i, y_i) - x̄]² ~~ (1/N) Σ [f(x̄, ȳ) + (∂f(x̄)/∂x) (x_i - x̄) + (∂f(ȳ)/∂y) (y_i - ȳ) - f(x̄, ȳ)]² = [d f(x)] 1₁ Σ (x_i-x̄) [d f(y)] 1₁ Σ (x_i-ȳ)² + 2 [d f(x)] 1₁ Σ (x_i-x̄) (y_i-ȳ)

σ_f ∼ √^{[d f(x)]}² σ_X² + ^{[d f(y)]}² σ_y² + 2 ^{[d f(x)]} ^{[d f(y)]} σ_xy #deviazione standard, chiamata anche formula della propagazione degli errori.

σ_xy = (1)/N &Sigma^N_i=1 (x_i - x̄) (y_i - ȳ) è definita covarianza:

• Se x e y sono indipendenti, σ_xy = 0
• Esprime il grado di correlazione di due variabili

La formula della propagazione degli errori può essere estesa a una funzione di n parametri e racchiude anche il caso di una sola variabile: d f(x) d²f(x) d f(y) diventa = 0

Cosa succede per variabili indipendenti?

σ_xy = 0 σ_f ∼ √^{[d f(x)]}² σ_x² + ^{[d f(y)]}² σ_y²

Somma in quadratura. Uao!! Shock!! Come detto prima, se la f(x,y) è lineare, il risultato non è un'approssimazione:

σ_f² = f̅² - (f̅)²

σ_f² = (ax + by̅)² - (ax̅ + by̅)²

= a² (x² - x̅²) + b² (y² - y̅²) + 2ab (x̅y̅ - x̅⋅y̅)

= a²σ_x² + b²σ_y² + 2ab σ_xy

La formula della propagazione degli errori in forma matriciale:

σ_f² = [ [∂f(x)/∂x ∂f(y)/∂y] [σ_x² σ_xy] ] [ ∂f(x)/∂x ]

• La i è la matrice Jacobiana (ovvero composta dalle derivate parziali)
• La iii è la matrice Jacobiana trasposta
• La ii è la matrice degli errori / di covarianza / di varianza - covarianza, contiene tutte le info sugli errori

Se x, y, z sono indipendenti, è diagonale:

f(x, y, z) ⇒ [ [σ_x² σ_xy σ_xz] ]

Esempi in cui f sia a due variabili indipendenti

1. Media aritmetica di N variabili
   • x̄ = (1/N) ∑_i=1^N x_i.
   • σ_x² = ∑_i=1^N (∂_x/∂_xi)² σ_xi² = ∑ (1/N)² σ_xi² = (N/N²) σ_x² = σ_x²/N
   • σ_x = σ_x/√N
2. Somma f = x + y
   • σ_f = √((∂f/∂x)² σ_x² + (∂f/∂y)² σ_y²)
   • ∂f/∂x = ∂(x+y)/∂x = ∂x/∂x + ∂y/∂x = 1 + 0 = 1
   • ∂f/∂y = 1
   • σ_f = √(σ_x² + σ_y²)
3. Differenza f = x - y
   • ∂f/∂x = ∂(x-y)/∂x = ∂x/∂x - ∂y/∂x = 1
   • ∂f/∂y = -1
   • ∅_f = √⁻̃(σ_x²+σ_y²) (COME PER LA SOMMA)
4. Somma con i coefficienti f = a×x+b×y
   • ∂f/∂x = a
   • ∂f/∂y = b
   • ∅_f = √⁻̃(a²σ_x² + b²σ_y²)
5. Prodotto f = x×y
   • ∂f/∂x = y
   • ∂f/∂y = x
   • ∅_f = √⁻̃(y²σ_x² + x²σ_y²)
   • OPPURE PER UNA VERSIONE + COMODA: DIVIDIAMO ∅_f² PER x²y²: ∅_f²/x²y² = y²σ_x²/x²y² + x²σ_y²/x²y² = σ_x²/x² + σ_y²/y² ∅_f/f = √⁻̃(σ_x²/x² + σ_y²/y²)
6. Prodotto tra 2 potenze \(f = x^a y^b\)
   • \(\frac{\partial f}{\partial x} = \frac{\partial (x^a y^b)}{\partial x} = y^b \frac{\partial x^a}{\partial x} = a y^b x^{a-1}\)
   • \(\frac{\partial f}{\partial y} = \frac{\partial (x^a y^b)}{\partial y} = x^a \frac{\partial y^b}{\partial y} = b x^a y^{b-1}\)
   • Dividiamo \(\sigma_f^2\) per \(f^2\)
   • \(\frac{\sigma_f}{f} = \sqrt{a^2 \frac{\sigma_x^2}{x^2} + b^2 \frac{\sigma_y^2}{y^2}}\)
7. Quoziente \(f = x/y\)
   • \(\frac{\partial f}{\partial x} = \frac{\partial (x/y)}{\partial x} = \frac{1}{y} \frac{\partial x}{\partial x} = \frac{1}{y}\)
   • \(\frac{\partial f}{\partial y} = \frac{\partial (x/y)}{\partial y} = x \frac{\partial \frac{1}{y}}{\partial y} = - \frac{x}{y^2}\)
   • \(\sigma_f^2 = \frac{1}{y^2} \sigma_x^2 + \frac{x^2}{y^4} \sigma_y^2\)
   • Dividiamo la varianza per \(f^2\):
   • \(\frac{y^2}{x^2} \sigma_f^2 = \frac{\sigma_x^2}{x^2} + \frac{\sigma_y^2}{y^2}\)
   • \(\Rightarrow \frac{\sigma_f}{f} = \sqrt{\frac{\sigma_x^2}{x^2} + \frac{\sigma_y^2}{y^2}}\)
   • Tale e quale al caso del prodotto.

Propagazione degli errori in astronomia

Misura della magnitudine

m₁ - m₀ = -2,5 log₁₀ (_f1⁄_f0)

f₀ e m₀ sono riferite a una stella di riferimento. Misuriamo f₁ e la sua incertezza δf₁.

Qual è l'incertezza su m₁?

d_m1⁄d_f1 = d⁄d_f1 (-2,5 log₁₀ (_f1⁄_f0) + m₀) == -2.5 d(log₁₀ (_f1⁄_f0))⁄d_f1 + d_m0⁄d_f1 == -2,5 [d(log₁₀(f₁))⁄d_f1 - d(log₁₀(f₀))⁄d_f1] = -2,5 d log₁₀ (f₁)⁄d_f1 &Rightarrow; - ^2,5⁄_ln(10) ¹⁄_f1 ≃ -1.086 ¹⁄_f1 &Rightarrow; σ_m = 1,086 ^σ_f⁄_f

Formula errore della magnitudine rispetto al flusso e al suo errore

Dato che il numero dei conteggi è proporzionale al flusso, posso "sostituirlo" nella formula e inserisco come m₀ = 25, ma per pura scelta arbitraria senza un significato fisico:

m = -2,5 log₁₀ (N) + 25 con N = numero conteggi