Statistica III - Teoria

REGRESSIONE NON LINEARE

} famiglie

Model

Generale

GLM Linear

sed 2 nuove

sono

=

• di modelli

Regressione NON parametrica

• LINEARI LM

MODELLI :

Y Y

Xp Variabile

E casuale

+ colonna

Vettore

risposta

= = =

( '

""

" ^

"

nxa Coefficiente ignoti

po di

a)

in regressione

un

+ =

} / variabile esplicativa

della

effetto

l'

indica cardinale

è Matrix

✗

qual nota

=

= variabile aleatoria

• E natura

covariante riferisce di

cui si errore

a = K

Y / cabinato

variabile ampiezza campanaria

sulla risposta n°

n =

=

- /

✗ deterministica del

po sistematica modello

componente

=

E aleatoria casuale osservabile

componente non

= ,

Yi )

(

XÌP

Ei E

Bot risposta

Bn tti

✗ i

Bu

+ Xin +

+

+ n

esimo n

i

in = =

-

• = .

. .

. . . Tasi ✗

della matrice

colonna

riga

esima

-

( ) XÌB Mi consenta

Yi DISPOSTA

E lineare che

predittore

MEDIA

Mi ci

:

=

=

= di previsione puntuali

risposte

fare sulle

) {

(

E N media

ipotesi Distribuzione sistematicità

JI

~

sulla o 7-

: non

• , auoschedastiatà

-

La

auoschedasltcetà incarnatione

media

linearità della )

lui

Yin N 1

<

d al di

i. variare

quindi i

o

=/

µ sono

non • ,

DEL LM

Modello

* UNITI

) modelli

stata dei che prevedono

la

allascheda servono

i → non

NORMAUTÀ

)

Ii ) UNEARLTÀ modelli dubiti

alcuni lineare altri lo

Iii # sono

→ sono non

,

Re a)

) deve (

SUPPORTO

in essere as

→ +

- ,

sufficienti

QUINDI lineari

modelli realtà

descrivere la

sono causa

non

i

: a

a

luminari

dei dei modelli

estendiamo

loro la casistica

LINEARI GLM

GENERALIZZATI

MODELLI :

direzioni

Estendiamo gli LM due :

in

④ f FUNCTION

Mi UNK

Mi

)

lui

è lineare MA

=/

→ µ

non g

; = NOTA MONOTONA DEDIVABIUE

, ,

② Yin

NORMAUTÀ Dea

è

c' =D

non famiglia Esponenziale

Dispersione di

Dea 1

di ordine

= Gomma

Normale Bernoulli Poisson

Binomiale Beta

include : , ,

,

, ,

osservazioni

* modelli

i gli metodi di

ho stima

tutti

UNIFICATA stessi

proposta TEODLA per

• . .

. )

Ille Yi

Vale

nei indipendente

GLM l' indipendenti

anche v.

sono c.

a. PI dobbiamo

il è trasformata

ad

quindi

supporto passare una

• ?

(

h )

Yi Y R

che ha

TRASFORMATA supporto

ad ora

=

' ;)

-1 YEN

Ely Mi N

con

=

ti h

Yi consente

mi

trasformata

discreto

il che

è

di esiste

Non

supporto

se una

- , Normalità

studiare

di arrivare di

ad una in Yi

) Yt

hui

in direttamente

variazione

B

i esprimono una e non

- =

f. identità

function Yin N

link &

la Dea

Se siamo caso

g in un

=

•

. ,

GLM

quindi

abbiamo che LM

=

e Dicotomica di

Y modello logistica

regressione

se

• Y paissaiuaua

conteggio =D regressione

se Y fatturato

ESEMPIO : =

:

Y log / )

h

Y Y Problemi interpretazione

di

= =p

)

(

) Mi

( h

Mi e )

(

Y

E Y *

y

→ NORMALE SCHEDAstick

amo

= = , , . .

.

(

)

/ 1)

Yi ehi Mi

E Yi

mi g

= =

_→

Mi

)

lui

g =

REGRESSIONE LOGISTICA YN Beruto

)

Y Bernoulli

Dicotomica o

→

• ftp.OJ-ouln-OY-YECYJ-Q-mvoely/--OCn-

-10,14

Sy

↳ A a)

perchè

Escludo LN : Sy R

BERNOUULANA

Distribuzione #

:

a. EIY ) Mi Paectee

Mi XÌB #

senso

NON

Oi sopporti

ai

HA

Mi

- =

-

• - =

- _

- ER

)

10,1

C- ETEROSCTLEDASTICLTÀ

Vally )

) :(

-0 noi

• E più separazione

ERRATICA è

la c'

dato che

ha

COMPONENTE senso non

non

• sistematica erratica

componente

tra ed

Mitici

Yi

Dato -

• - Yi Ei probabilità

è Oi

se Oi

d-

-0 → -

= probabilità

Yi

, Ei

1 ai

noi

se →

a - -

_

_

)

etti ( 9.)

Ei quale

può due valori d-

aio sapere

assumere non possiamo

ma

specificazione logistico

DEL Modello

Yin ) )

Beruto oi-uielo.is

dove

;

• Mi XÌB

) Nick

guai dove

-

- -

• _ ) ☒

Devo glq abbia

trovare che quindi

sopporto

tale cane

g :

. ,

Ficcato %-)

/ )

) R

tata

log c-

→ -

- )

logiitloi

UNK Botbixi XÌB

loget =

= -

-

DATASET

Y di

/ malattia

assenza

presenta una

= Ò

✗ = . .

. ..

.

. .

..

. .

. .

.

. . . i .

.

. . .

.

.fi#SCAtteRPWT--Do..../.............---7--

-100 lineare

M non

- età

NDO IÈ

%

" = DEUAPRTOB

a

complemento . "

ehh "

#

ielog =

legit epootbnxi

0 =p

9 = =

= Botbnxi È

)

Mi

•

"

0

isolando Oi

=D g-

= =

= Atami

logistico

STIMA DEL Modello "

! "

Yi (

fai I

) dove

a.) Yn Yn

Yn

AQ In

0 =D

=

, . . .

. .

. .

"

" "

)

) (

LIQY Di

Funzione

Oi Oi verosimiglianza

a

= -

, .FI/YilogOitla-Yi)lagln-oiDwG-

lag )

49×-1=110,1 verosimiglianza

= [

TÈ logln-oiptlaglnt-a.tt

( lago

Yi ;

= -

:[ lagna:|

:-.

? loga

Y +

= :

logitoi.bg?i-q.--Mi=xi-B--?IIYiXi-Btlogn-oi

dato }

Iii

login a) log

Recato Mi

gloit

dato =

- .

È

/

(

"

g- Mi Q UNK

→ INVERSO

. =

= Mi

@

di ÈÈB )

( " )

"

lag (

bagno lag ate

n ji -

: = - =

era Fi [ }

:-B )

Nè

) (

llb lag

ilixib -

-

- )

" }

È ✗

#

lui i

) (

)

/

l ( lag e

Bn

Ba B. Xi

Bot +

a

-

=

Hbo )

Bn

Max ¥

,

Baba Ehi

Èh ! /

/

È TÈ /

[ 0

Yi Oi

µ eroina

. . = =

-

.

a-

"

+ " .BE?Ifxiyi.xia+-:!piii.-/--.EIxiYi-xioit- °

Bn ÌÉ

:{ "

" ° °

"

p = yi.IQ

È

Analitica

esiste

NON soluzione →

0 È i.

/ i

;) ^

"

✗

io

Yi O

Xi =

-

i n

=

Interpretazione :

II Yi # del campione

successi

=

ÌÉ probabilità popolazione

della

delle nella

che soggetto

stime

Oi Sanno un

= abbia malattia

anni la

Xi

con lineari

le di parametri

NON

verosimiglianza dato

nei

equazioni sono NON soluzione

linearmente

entrano

B quindi

i

che esiste

e

non una

esplicita NON DI

di tipo analitico possiamo LA

USARE STIMA

→

verosimiglianza

MASSIMA Bo È

IRLS

STIMA

=D nostrano

numerico

metodo ,

Bi

BI gli ML

stimatori di Baba

sono

,

PROPRIETÀ finito

Valevano

LM per n

nel

: GLM ASINTOTICAMENTE

nei Valgono per + a

m →

DATASET

Yi età

✗

malattia o Aaa

sani A-

→

= =

↳ malati

I (

Mi )

)

gloi

specificazione Mi

"

ai g-

: -

= _ È

"

logitoi-poi-B.li a.

→ =

dt@BotBnXiSTIMAi.Bo

BÌ

-5.309 0.AM

= = È

legit

.MN/ig-s.3O9to.nnnXi

STIMATO

Equazione -5.309+0

modello : =

È 0.043 ✗ 20

Se

= =

È ⇐ È Se

0.0049 ✗

attoniti

= =

È =D

✗

0.973 Se

=

logitoi noi

✗ a-

0.973 - - - - - -

- - -

- -

- ;

-

- - - i

0.043 •

-

-

- -

- '

- - ; ,

agg

a. ,

. > ✗

, gg i

20 a

g-

g

-5.309 ; '

è evidente NON

WNEARtb-lbo.bnd-r.NU?

che g-

]

) Eri

, - asuetdtchedib

ionica

matrice

pio pà stime

sono

, BÌ

BÒ STIMATORI

sono

, VEROSIMIGLIANZA ML

MASSIMA

STIMATORI DI :

Bibi IL;) ]

/

È

( ) in Eri

-

_ .

"

B)

=/

Ej /

I Voiuante asintotica

di

matrice depende

che

covarianza

e stimare

dai dovremo

parametri ignoti che

Be

µ È '

[ -

)

/

/

/ b) ) )

I :( Exioiln

e ENEA

20 noi Oi "

_ =

= dB -

↳ " )

) :(

Expo

:(

✗ noi noi

io Età "

[ ]

È

Epi )

ICE

STIMARE matrice

di nella

IN

PWG

-1 =

otteniamo

cui

da

DATASET :

ZVAWE P-VALUE

STIMA SE

Bo po

-4.68

5.309 0.001 significativo

1337

A. →

- In

Bn significativo

0.001

0.0241

÷j Bn

→

)

PIZ

2. 12-1

> À )

.se/pio

Ha IL

ho altrimenti .FI

Bosio %

: : , -

ÈB =/ }

calcolo Bo

-0.026677

28547

A. Ba

0.000579

-0.026677 pon

Ba Cat

È )

=/ VÒECBO Bibi )

) (

→ vàelbi

cadrà È )

)

,

VÒCBOT

=/

)

seta

NB : IPOTESI

VERIFICA DI NBO value

quiz Zoss

- =

significatività

TEST WALD TEST Z

DI :

- È

Ho Statistica test Z

:B 0 : =

=

. )

SEIBI

( )

=/ Vatel

P

Valete 2- Z

Z

p -

=

- )

( SEI

IC )

In

± poi

Bn poi

per %

= - È

È

È

lagit

logit

IC ai puntuale

✗ STIMA

+

=D

per i

= BÒTBÌXI

È

lagit STIMATORE

; = la

Za

Za N

N N

Vote zxicalbo.PE

xivaelbi

KVÒEIÀOI )

)

legit È + +

VVOIllagitiq.IE#

È )

sellogit =

/ }

)

(

logitlòi

lagitoi ) lgit.ae

IC )

In

±

per se

% -

= - [

logitò ]

In logit là i

# se

% - )

( -

÷EàeÈà

IC Oi

per = nie da

DATASET precedente

✗ 0.05

= Òi

legit

50 -50=0.24

✗ -5.309+0

se MA

→

i =

= .

)a28Sd7t5Ó*aaO579t2•5O&f0O266H_

± 96

A

24

0 *

. ÈI 975

.

[ ]

( )

lagit

Ic -0.26 0.74

= , (0.435,0-667)

ÈÈ

(

(a) )

26

°

g- .

IC = =

,

go.co .

VERIFICA Modello

DEL Test Rapporto Verosimiglianza

GLM TRV consente

Nel usiamo che ci

=

annidati

confrontare modelli

di { / parametri Ma

Ha

A cardinale in

Modello → no

=

( Na

K / parametri

2 in

ricamate

modello → =

, Ha

modelli Via in

cioè alte

i Kz

calorie aggiuntive

le

ANNIDATI

• sono < sono

e

,

di è

ate

tali covoni

che il nucleo lo stesso

comuni sempre ]

]

Ha Ha

esempio Xn

Xa ✗ ✗

Modello modello

: =

= a

a

, .

Ha ✗

V12 ✗ ✗ ✗ NON

✗ ✗ ANNIDATO ANNIDATO

4

= = s

3

2 ^

^ ,

,

,

, Ma Knc Via

Dato Ma di

restrizione Cavani ate

con

Ha

Mo almeno metto

Bruta po

By 0 un non

: :

=

= =

. . .

.

( )

?

Me

vale la passare a

pena hanno

Ma

Ho le

che di

caditoie

vuol

io dire

accetto tutte

aggiuntive

se

→ Ma

significativo

coefficiente NON che conviene

quindi passare

mi

e non a

più darebbero

poiché in NI contributo

esplicative

le mi maggiore

Dato del

La M

modello

verosimiglianza

sup

=

la log del M

modello

verosimiglianza

sup -

= ¥ È

)

( )

( lm

d- lm

log

TRV TEST -2

: -2 ~

- -

=

= Ka

kz

.

, -

)

( boss

=P XI

value

p >

- un

, _

la dm Ma

Ho

rifeuto significativo

se sto →

> , Ma

rifiuto Ho

p-value significativo

se ✗ →

< →

%)

FÉE p-value Per

E- il DI

TEOREMA WILKS

✗ :

'

> È

✗

È

ac-a.jo?F:t--to ka

-

* CONFRONTO WALD WILKS

e

④ Ma Ho

modello

se Bn

nullo Bn -0

: -

= = .

. .

Ma corrente

modello

=

② Ho

Moeueodlllo cotonata Bt

se senza una -0

:

Ma corrente

modello

=

p ASINTOTICAMENTE cioè

i due equivalenti

test solo n

se +

sono a

→

o ,

DATASET

)

( lma

Mn Bo 68.331

K

=D -0 -

= lmn l

< Ma

4)

( lm

Ma K

Ba

Bo gzgg

gg

= -

=

, .

,

Ho :B 0

=

a ( (-68.3311-53.6768)

)

lma

lmn ✗ -2 29.31

-2 →

= - =

=

oss

)

( !

X

=P

p-Value Ho

10 rifiuto

29.31 →

>

Io boss

✗ Ho

3.84 rifiuto

29.31

< →

=

=

.gs

È Ma

modello

Il

meglio

=D /

f :)

^ ×

É

E- ✗

una

'

-

no

^÷É÷ "

LOGISTICA MULTIPLA

REGRESSIONE K A

>

DICOTOMICA

Y Benedetti

della

probabilità di

TAO successo

-

_

lagitoi-XTB-Mi.oi-l-t-B.lv

• dt@BotBnXnt.tBuXv

, È

l'

(9×-1,1191) 19×1=0 NUMERICO

calcolo calcolo IRLS

<

• ,

}

/ ( III.

ben Eri

. DATASET

200

A-

Mi sopravvissuto

→ o

↳ A morto

età ✗ Xaiuefeidll

✗ ✗ pressione

cancro

= ⇐

g- <

✗ bianco

→ BASEUNE

serata ✗ Da

nero

• Da

altro

legit oi-botbnxiatbzxiatbsxistbaxiatbsdiai-BGD.cz

STIMA 0.02=27

SE A-

P-VALUE

2- TEST

-3.512 -4.312 Significativo

COEF 0.8145 0.000

ETÀ ! significativo

0.027 0.0^9

0.0116

CANCRO 0.244 significativo

0.692

0.6168 non

PRESSIONE 646

d. significativo

0.08

0.6234

INFEZIONE 0.681 0.3804 significativa

0.074 non

A

RAZZA -0.957 significativa

086 0.377

A. non

0.26 0.8713

2 significativo

RAZZA 0.766 non

legit Ò= età infezione

646

+0.244 +0.68A

3.5121-0.027 A. +

+ pressione

cancro

- +0.26

razzola

0.957 rattaz

- ✗ Dz

✗ DA

✗ Xia

IA iz i } ,

, ,

,

,

bontà

Verifico del modello

la : Hai

Ho 0 almeno

Bg

Bz po

Bn ¥0

un

: =

=

=

= . .

. lmn

Ma 08

intercetta

solo noo

→ -

= = .

ln

Ma ate -89.65

6 covoni →

= =

,

)

lma

boss lma

(

-2 86

20

-

= = . 8:07 )

( (

P )

§

✗ Ha %

20.86 Petito 5,2

0.00494 < A meno

= a

= ,

0.0A Ma

cioè SCELGO

?

significativi

Non

posso togliere Cat . Ha

Ho almeno Bt

Bs Bo

Bo

:B 0 0

#

: un

=

> =

=

= Xqdn.dz#&lMn=-

Ma ✗ ✗ 94 976

3

n

= .

, la

Ma Xa 89

✗ Xs 65

-

2

= = .

, , >

, ( È )

8. the

P Value 3248 potrei Nulla

ipotesi

accettare

0 >

- = . ° 01 SENZA Bza

. propendere PER modello

IL 5,6

,

INTERPRETATIVI

Aspetti Mi

Per della media

Variazione

LM post

gli risposta

mi

: a

=

= fronte di variazione di ✗

unitaria

una g-

legit Oi )

lui Variazione

Per Mi

i GLM della media

nel logit

post risposta

g a

: =

= fronte di ✗

di

audience

✓ unitaria

una g-