X - Università degli Studi di Pavia

Corso di Metodi Quantitativi
per l’Analisi Economica
Prof.ssa Silvia Figini– [email protected]
Ricevimento studenti: Mercoledì ore 14-16 e su
appuntamento
Argomenti del corso
Processo di esplorazione e modellazione di grandi masse di dati
per scoprire regolarità o relazioni non note a priori
allo scopo di ottenere risultati chiari e utili.
Fasi del processo:
a. 
Definizione degli obiettivi dell’analisi
b. 
Organizzazione dei dati
c. 
Analisi esplorativa dei dati
d. 
Costruzione modelli statistici
e. 
Valutazione dei modelli
f. 
Interpretazione dei risultati
Tipologie di variabili
VARIABILI QUALITATIVE
•  NOMINALI: categorie distinte senza
ordinamento
•  ORDINALI: categorie distinte con ordinamento
implicito o esplicito
VARIABILI QUANTITATIVE
•  DISCRETE: numero finito di valori
•  CONTINUE: infinità numerabile di valori
La matrice dei dati
ID
1
X1
X2
…
…
Xj
…
…
…
Xp
x11
x1j
x1p
xi1
xij
xip
xn1
xnj
xnp
2
…
…
i
…
…
n
Ogni riga rappresenta le caratteristiche relative ad ogni i-esima unità statistica
(i=1,…,n).
X1,…,Xp sono chiamate variabili indipendenti o covariate.
Misure di posizione (i)
MEDIA ARITMETICA
La MODA è la modalità della variabile a cui è associata la massima
frequenza.
La MEDIANA in una sequenza ordinata di dati è quel valore che ripartisce
la distribuzione in due parti uguali.
Misure di posizione (ii)
MODA
MEDIA ARITMETICA (Y) =
µ(Y) = 1.103464
MEDIANA (Y) = 1.108847
Comandi utili: hist, mean, median
Misure di posizione (R)
> summary(y)
Min. 1st Qu. Median Mean 3rd Qu. Max.
1.904 2.241 2.414 2.419 2.568 2.984
Consideriamo una variabile quantitativa “y” e calcoliamo: MINIMO, Q1, MEDIANA
(Q2), MEDIA, Q3 E MASSIMO.
Plot(y)
Misure di posizione: boxplot
boxplot(y,ylab="valori")
Il
box
plot
è
una
rappresentazione grafica dei
valori ottenuti in precedenza.
E’ utile per stabilire se la variabile
che si analizza è simmetrica.
Inoltre, è uno strumento grafico
utile per identificare la presenza
di osservazioni anomale.
Misure di posizione:
valori anomali
Range Interquartile:
Q3 – Q1 = 980 – 850 = 130
(130 x 1.5) = 195
Q1 – 195 = 655
980 + 195= 1175
Valori >1175 e valori < 655
sono da considerarsi outliers.
summary(speed)
Min. 1st Qu. Median Mean 3rd Qu. Max.
650 850 940 909 980 1070
Misure di variabilità
(dati quantitativi)
VARIANZA
SCARTO QUADRATICO MEDIO
COEFFICIENTE DI VARIAZIONE
Misure di variabilità più semplici sono ad esempio il RANGE (Massimominimo) e la DIFFERENZA INTERQUARTILE (Q3-Q1).
Misure di variabilità: range
Rappresentiamo graficamente il
seguente vettore di dati:
y<-c(13,7,5,12,9,15,6,11,9,7,12)
plot(y,ylim=c(0,20))
Calcoliamo il range:
range(y)
Risultato: 5 15
Misure di variabilità: varianza
> y-mean(y)
3.3636364 -2.6363636 -4.6363636 2.3636364 -0.6363636 5.3636364 -3.6363636 1.3636364
-0.6363636 -2.6363636 2.3636364
> (y-mean(y))^2
11.3140496 6.9504132 21.4958678 5.5867769 0.4049587 28.7685950 13.2231405 1.8595041
0.4049587 6.9504132 5.5867769
> sum((y-mean(y))^2)
102.5455
> variance<-sum((y-mean(y))^2)/(length(y)-1)
> variance
10.25455
Comando equivalente: var
Misure di variabilità:
Standard Error della media
> sqrt(var(gardenA)/10)
0.4147661
> sqrt(var(gardenB)/10)
0.3651484
> sqrt(var(gardenC)/10)
1.192570
Lo standard error è per costruzione un numero sempre positivo.
E’ pari a zero quando la varianza è nulla.
Ad esempio, se considerate z<-c(1,1,1,1,1,1,1,1,1,1), quanto varrà SE(z)?
Misure di eterogeneità
(per variabili qualitative)
Per variabili qualitative, si utilizza la distribuzione di frequenza.
Casi estremi:
1)  eterogeneità nulla (massima concentrazione) se tutte le unità
presentano la medesima modalità del fenomeno in oggetto, ovvero se
pi=1 per un certo i ; pi=0 per ogni altro i.
2) eterogeneità massima (minima concentrazione) quando le unità sono
ripartite uniformemente tra le k modalità del carattere , ovvero se:
pi=1/k per i=1,…,k.
Un indice statistico atto a misurare l’eterogeneità è:
• 
Indice di Gini
Misure di
concentrazione
Per caratteri trasferibili quantitativi.
Casi estremi:
1) Concentrazione massima se il carattere quantitativo è interamente
posseduto da un’unità, ovvero se xn = nM(X) per un certo i ; xi=0 per
ogni altro i.
2) Concentrazione minima quando il carattere è uniformemente ripartito
fra le unità, ovvero xi = M(X) per i=1,…,k.
Un indice statistico atto a misurare la concentrazione è l’ indice di
concentrazione di Gini
Misure di asimmetria:
Skewness
Una distribuzione Normale
standard, ha un valore di
skewness pari a 0.
Valori negativi evidenziano
asimmetria a sx.
Valori positivi evidenziano
asimmetria a dx.
Al fine di verificare che il valore ottenuto è significativamente diverso da zero, si
costruisce un test dividendo la skewness ottenuta per il relativo standard error.
Skewness: esempio
> skew<-function(x){
+ m3<-sum((x-mean(x))^3)/length(x)
+ s3<-sqrt(var(x))^3
+ m3/s3 }
> skew(values)
[1] 1.318905
Per valutare se la skewness è
statisticamente diversa da zero, usiamo un
t-test dividendo il valore osservato di
skewness per il suo standard error, pari a
sqrt(6/n).
> skew(values)/sqrt(6/length(values))
[1] 2.949161
Misure di curtosi:
Kurtosis
Il termine “3” è incluso perchè in
una distribuzione Normale la
kurtosis è pari a 3.
Per valutare se la kurtosi è statisticamente
diversa da zero, usiamo un t-test dividendo
il valore osservato di skewness per il suo
standard error, pari a sqrt(24/n).
Kurtosis: esempio
> data<-read.table(file.choose(), header=T)
> attach(data)
> kurtosis<-function(x) {
+ m4<-sum((x-mean(x))^4)/length(x)
+ s4<-var(x)^2
+ m4/s4 - 3 }
> kurtosis(values)
[1] 1.297751
> kurtosis(values)/sqrt(24/length(values))
[1] 1.450930
Con i dati in esame, troviamo che la
kurtosis non è significativamente diversa
dalla distribuzione Normale standard.
Analisi grafica normalità
ANALISI ESPLORATIVA (cap 3)
•  Analisi di un campione: intervalli di
confidenza, bootstrap, t-test, test di
wilcoxon
•  Confronto fra campioni
•  Confronto medie, varianze, distribuzioni
•  Verifica indipendenza
•  Verifica correlazione
Analisi di un campione:
intervalli di confidenza
Dimensione del campione (n) è inferiore a 30. Nel caso analizzato, n=10.
Non è possibile usare la distribuzione normale, quindi si usa la t-Student.
AGGIUNGERE MEDIA CAMPIONARIA +/- NELLE FORMULE
IC = x ± t − value × SE
σ2
IC95% = x ± t(α = 0.025,d . f .= n−1) ×
n
Consideriamo ad esempio la variabile garden A. Al fine di costruire un IC al
95%:
>mean(gardenA)
€
2.803283
>qt(0.975,9)*sqrt(var(gardenA)/10)
0.9382662
Quindi l’intervallo di confidenza considerando 1-α=95% diventa:
2.803283±0.9382662.
Bootstrap
•  Il Bootstrap è una metodologia che serve per ricostruire la variabilità
campionaria presente nei dati.
•  Ciò mediante una procedura di simulazione che estrae
ripetutamente, con reimmissione, k campioni dai dati di partenza.
•  In corrispondenza di ogni campione si calcola il valore campionario
di una statistica di interesse.
•  Al termine si avranno k valori della statistica che potranno essere
usati per calcolare sia misure di posizione (medie) che di variabilità
(varianze, dalle quali ottenere, ad esempio, intervalli di confidenza).
Analisi di un campione:
intervalli bootstrap
Itervallo di confidenza
calcolato con il bootstrap
…: IC t-student
___: IC Normale
Analisi di un campione: T-test
t=
yA
σ 2A
nA
Il denominatore del t-test, è lo standard error associato
alla media campionaria
€
L’ipotesi nulla è che i il campione abbia media nota, di solito pari a zero.
Viene utilizzata una distribuzione t-Student con un numero di gradi di libertà pari al
numero totale delle osservazioni – numero parametri da stimare (ovvero 1)
Analisi di un campione: test di Wilcoxon
Vogliamo testare H0:µ=990 vs H1:µ≠990
Si usa il test di Wilcoxon quando i dati non sono
distribuiti secondo una normale, per verificare se la
distribuzione è simmetrica attorno ad un valore
medio noto (spesso pari a zero).
E’ un test statistico di tipo non parametrico.
wilcox.test(speed,mu=990)
Wilcoxon signed rank test with continuity correction
data: speed
V = 22.5, p-value = 0.00213
alternative hypothesis: true location is not equal to 990
Si accetta l’ipotesi alternativa, perché p=0.00213 e tale valore è minore del livello
α=0.05 scelto.
Verificare ipotesi con bootstrap
> max(a)
[1] 982
Nei 10000 campioni
derivati, il valore
massimo ottenuto è
pari a 982, quindi la
probabilità che la
media sia uguale a
990 è chiaramente
nulla, p<0.0001.
Confronto tra due campioni
•  Confronto fra due medie con assunzione di
normalità (Student t test)
•  Confronto fra due medie non parametrico, senza
assunzione di normalità (Wilcoxon test)
•  Confronto fra due varianze (Fisher F test)
•  Confronto fra distribuzioni (Kolmogorov Smirnov
test)
•  Verifica indipendenza (test del chi quadro)
•  Verifica correlazione (Pearson correlation test)
Confronto tra due medie
• T-test (Student): campioni indipendenti,
varianze costanti e normalità
•  Wilcoxon test: solo campioni indipendenti
T-test
Il denominatore del t-test, è lo standard error associato
alla differenza tra le medie.
I due standard error vengono sommati perchè dal punto
di vista teorico, se A e B sono tra di loro indipendenti:
L’ipotesi nulla è che i due campioni hanno medie uguali.
Viene utilizzata una distribuzione t-Student con un numero di gradi di libertà pari al
numero totale delle osservazioni – numero parametri da stimare (2 nel caso di due
popolazioni)
Una prima idea sulla uguaglianza o differenza tra le medie, è desumibile anche
per confronto grafico dei due box-plot.
T-test: esempio
> s2A<-var(gardenA)
> s2B<-var(gardenB)
> (mean(gardenA)-mean(gardenB))/
sqrt(s2A/10+s2B/10)
[1] -3.872983
> qt(0.975,18)
[1] 2.100922
> 2*pt(-3.872983,18)
[1] 0.001114540
1.  Calcoliamo la varianza di gardenA
e di gardenB
2.  Calcoliamo la statistica test che
restituisce il valore -3.872983
3.  Ignoriamo il segno “-” e ragioniamo
in valore assoluto
4.  Calcoliamo
il
valore
critico,
considerando α=0.05 che risulta
essere 2.100922.
5.  Siccome il valore della statistica
test (3.87) è maggiore del valore
critico (2.10) rifiutiamo l’ipotesi
nulla.
6.  La probabilità che la differenza tra
le medie sia uguale a zero è pari a
0.001114540.
T-test: abbreviato
> t.test(gardenA,gardenB)
Welch Two Sample t-test
data: gardenA and gardenB
t = -3.873, df = 18, p-value = 0.001115
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-3.0849115 -0.9150885
sample estimates:
mean of x mean of y
3
5
Wilcoxon Test
Il test di Wilcoxon viene usato quando non è garantita la normalità dei dati.
> ozone<-c(gardenA,gardenB)
> ozone
[1] 3 4 4 3 2 3 1 3 5 2 5 5 6 7 4 4 3 5 6 5
> label<-c(rep("A",10),rep("B",10))
> label
[1] "A" "A" "A" "A" "A" "A" "A" "A" "A" "A" "B" "B" "B" "B" "B" "B" "B" "B" "B" "B"
> combined.ranks<-rank(ozone)
> combined.ranks
[1] 6.0 10.5 10.5 6.0 2.5 6.0 1.0 6.0 15.0 2.5 15.0 15.0 18.5 20.0 10.5 10.5 6.0
15.0 18.5 15.0
> tapply(combined.ranks,label,sum)
A B
66 144
Si confronta il più piccolo dei due valori con il valore riportato sulle tavole (es. n=10 e
α=0.05, il valore sulle tavole è pari a 78)
Se il valore ottenuto dal test è minore al valore delle tavole, rifiutiamo l’ipotesi nulla,
cioè che la differenza tra le medie è nulla.
Wilcoxon Test: abbreviato
> wilcox.test(gardenA,gardenB)
Wilcoxon rank sum test with continuity correction
data: gardenA and gardenB
W = 11, p-value = 0.002988
alternative hypothesis: true location shift is not equal to 0
Warning message:
In wilcox.test.default(gardenA, gardenB) :
impossibile calcolare p-value esatto in presenza di ties
N.B. il messaggio di “warning” è fondamentale ed evidenzia che non è
possibile calcolare il p-value esatto perché sono presenti nelle
misurazioni dati ripetuti. Questo fatto rende il test non parametrico più
conservativo rispetto a quello proposto in precedenza (t-test).
Confronto tra varianze: test F
> data<-read.table(file.choose(),header=T)
> attach(data)
> fix(data)
> names(data)
[1] "gardenB" "gardenC"
N=10 osservazioni
Varianza gardenC > varianza gardenB
> var(gardenB)
[1] 1.333333
> var(gardenC)
[1] 14.22222
> F.ratio<-var(gardenC)/var(gardenB)
> F.ratio
[1] 10.66667
> valore.critico<-qf(0.975,9,9)
> valore.critico
[1] 4.025994
> 2*(1-pf(F.ratio,9,9))
[1] 0.001624199
Costruiamo allora il test F considerando il rapporto tra le
due varianze, seguendo l’ipotesi (C>B) e calcoliamo il
valore critico considerando α=0.05 e gradi di libertà pari a
N-1=10-1=9.
Siccome il valore del test F (10.66667) è superiore rispetto
al valore critico (4.025994) , rifiutiamo l’ipotesi di
uguaglianza tra le varianze e accettiamo che le varianze
sono statisticamente diverse.
Per maggiore precisione calcoliamo il p-value associato al
test F (0.001624199). Quindi, la probabilità che le varianze
siano uguali è minore di 0.001624199.
N.B. Le medie di gardenC e di gardenB sono uguali,
questo è opportuno.
Test F: abbreviato
> var.test(gardenB,gardenC)
F test to compare two variances
data: gardenB and gardenC
F = 0.0938, num df = 9, denom df = 9, p-value = 0.001624
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
0.02328617 0.37743695
sample estimates:
ratio of variances
0.09375
Confronto fra distribuzioni:
Kolmogorov Smirnov Test
Il test di kolmogorov Smirnov lavora
sulla funzione di ripartizione.
> table(location)
location
A B
50 70
> A<-size[location=="A"]
> B<-size[location=="B"]
>
> ks.test(A,B)
Two-sample Kolmogorov-Smirnov test
data: A and B
D = 0.2629, p-value = 0.02911
alternative hypothesis: two-sided
Le due distribuzioni sono statisticamente differenti.
MA SONO DIVERSE RISPETTO ALLA MEDIA O ALLA VARIANZA? Vedi esercizio pagina successiva
Esercizio
Welch Two Sample t-test
data: A and B
t = -1.6073, df = 117.996, p-value = 0.1107
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
-2.494476 0.259348
sample estimates:
mean of x mean of y
24.11748 25.23504
Il test t ci dice che le
medie sono
statisticamente uguali.
> var.test(A,B)
F test to compare two variances
data: A and B
F = 0.5014, num df = 49, denom df = 69, p-value = 0.01192
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
0.3006728 0.8559914
sample estimates:
ratio of variances
0.5014108
Il test F ci dice che le
varianze sono
statisticamente diverse.
Test di indipendenza (variabili qualitative)
Il test del chi-quadro considera le frequenze osservate (O) e le
frequenze attese (E). Le frequenze attese vengono determinate sulla
base della situazione di indipendenza tra le variabili.
Per capire se le variabili sono statisticamente indipendenti, si confronta
il valore della statistica con il valore critico.
Il numero di gradi di libertà viene calcolato:
(J-1) x (H-1)
> count<-matrix(c(38,14,11,51),nrow=2)
> count
[,1] [,2]
[1,] 38 11
Tabella di contingenza
[2,] 14 51
> chisq.test(count)
Pearson's Chi-squared test
with Yates' continuity correction
data: count
X-squared = 33.112, df = 1, p-value =
8.7e-09
> chisq.test(count,correct=F)
Pearson's Chi-squared test
data: count
X-squared = 35.3338, df = 1, p-value = 2.778e-09
Correlazione (variabili quantitative)
> var(x)
[1] 199.9837
> var(y)
[1] 977.0153
> var(x,y)
[1] 414.9603
>
> var(x,y)/sqrt(var(x)*var(y))
[1] 0.9387684
Equivalentemente:
> cor(x,y)
[1] 0.9387684
Matrice di correlazione
> pollute<-read.table(file.choose(),header=TRUE)
> attach(pollute)
> names(pollute)
[1] "Pollution" "Temp"
"Industry" "Population" "Wind"
"Rain"
"Wet.days"
> cor(pollute)
Pollution
Temp
Industry
Population
Wind
Rain
Wet.days
Pollution 1.00000000 -0.43360020 0.64516550 0.49377958 0.09509921 0.05428389 0.36956363
Temp
-0.43360020 1.00000000 -0.18788200 -0.06267813 -0.35112340 0.38628047 -0.43024212
Industry 0.64516550 -0.18788200 1.00000000 0.95545769 0.23650590 -0.03121727 0.13073780
Population 0.49377958 -0.06267813 0.95545769 1.00000000 0.21177156 -0.02606884 0.04208319
Wind
0.09509921 -0.35112340 0.23650590 0.21177156 1.00000000 -0.01246601 0.16694974
Rain
0.05428389 0.38628047 -0.03121727 -0.02606884 -0.01246601 1.00000000 0.49605834
Wet.days 0.36956363 -0.43024212 0.13073780 0.04208319 0.16694974 0.49605834 1.00000000
>
> cor(Pollution,Wet.days)
[1] 0.3695636
Test di correlazione
> cor(Summer, Winter)
[1] 0.8820102
> cor.test(Summer, Winter)
Pearson's product-moment correlation
data: Summer and Winter
t = 4.9521, df = 7, p-value = 0.001652
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.5259984 0.9750087
sample estimates:
cor
0.8820102
La correlazione tra le due variabili è altamente significativa, infatti, il pvalue è pari a 0.001652.
Regressione lineare
•  La regressione lineare è un metodo utilizzato per
problemi previsivi caratterizzati da una variabile
target (dipendente) quantitativa.
•  Il modello di regressione semplice spiega la
variabile dipendente (Y) in funzione di una sola
variabile indipendente (X) .
•  Il modello di regressione multipla spiega la Y in
funzione di un insieme di variabili indipendenti
(esplicative).
Regressione lineare semplice
•  Y è la viariabile dipendente (o risposta)
•  X variabile indipendente (esplicativa)
•  Il modello statistico più semplice consiste nello
spiegare Y in funzione di X attraverso la
considerazione di una relazione lineare tra le
variabili statistiche X e Y esprimibile per ogni
coppia di osservazioni (xi , yi) dalla seguente
funzione di regressione:
y i = a + bx i + εi
(i=1,2,…,n)
Ipotesi del modello lineare
•  Omoschedasticità
•  Errori con distribuzione normale
•  Relazione lineare tra Y e X
•  Addittività
y i = a + bx i + εi
“a” è l’intercetta della funzione di regressione
“b” è il coefficiente di regressione
εi è il termine di errore
€
yi
Y
ei
εi = y i − yˆ i
€
xi
Stima di “a” e “b”
Cov(XY )
b=
=
V (X)
M(XY ) − M(Y )M(X)
=
V (X)
a = M(X) − bM(Y )
€
“a” e “b” sono ottenuti attraverso il metodo di
stima di massimaverosimiglianza.
€
Rispettano criteri di efficienza (Teorema di
Gauss-Markov).
Bontà del modello
SST
=
SSR
+
SSE
E’ fondamentale per valutare la bontà del modello la scomposizione della
varianza e un indice opportuno, R2.
L’indice assume valori tra 0 (retta costante) e 1 (perfetto adattamento della retta
ai dati.
Regressione lineare multipla
•  La regressione lineare multipla è definita dalla seguente
relazione, per (i=1,2,…,n):
y i = a + b1 x i1 + b2 x i2 + ....+ bk x ik + εi
€
Regressione lineare semplice
Call:
lm(formula = growth ~ tannin)
Coefficients:
(Intercept)
tannin
11.756
-1.217
Calcoliamo seguendo le formule “a” e “b”
> SSX=sum(tannin^2)-sum(tannin)^2/length(tannin)
> SSX
[1] 60
> SSY=sum(growth^2)-sum(growth)^2/length(growth)
> SSY
[1] 108.8889
> SSXY=sum(tannin*growth)-sum(tannin)*sum(growth)/
length(tannin)
> SSXY
[1] -73
a=11.756, b=-1.217
fitted<-predict(lm(growth~tannin))
> fitted
1
2
3
4
5
6
7
8
9
11.755556 10.538889 9.322222 8.105556 6.888889 5.672222 4.455556 3.238889 2.022222
Regressione lineare semplice
I coefficienti “a” e “b” sono statisticamente significativi?
> model<-lm(growth~tannin)
>
> summary(model)
Call:
lm(formula = growth ~ tannin)
Residuals:
Min
1Q Median
3Q Max
-2.4556 -0.8889 -0.2389 0.9778 2.8944
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 11.7556 1.0408 11.295 9.54e-06 ***
tannin
-1.2167 0.2186 -5.565 0.000846 ***
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 1.693 on 7 degrees of freedom
Multiple R-squared: 0.8157,
Adjusted R-squared: 0.7893
F-statistic: 30.97 on 1 and 7 DF, p-value: 0.000846
Analisi della varianza del
modello
> summary.aov(model)
Df Sum Sq Mean Sq F value Pr(>F)
tannin
1 88.817 88.817 30.974 0.000846 ***
Residuals 7 20.072 2.867
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
>
Analisi dei residui (1)
Analisi dei residui (2)
Regressione lineare multipla:
scatter plot
Dati: ozone.data
pairs(ozone.pollution)
Regressione lineare multipla: smoothed
scatter plot
Dati: ozone.data
pairs(ozone.pollution,panel=
panel.smooth)
Regressione
(risultati)
lineare
Call:
lm(formula = ozone ~ rad + temp + wind)
Residuals:
Min
1Q Median
3Q Max
-40.485 -14.210 -3.556 10.124 95.600
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) -64.23208 23.04204 -2.788 0.00628 **
rad
0.05980 0.02318 2.580 0.01124 *
temp
1.65121 0.25341 6.516 2.43e-09 ***
wind
-3.33760 0.65384 -5.105 1.45e-06 ***
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 21.17 on 107 degrees of freedom
Multiple R-squared: 0.6062, Adjusted R-squared: 0.5952
F-statistic: 54.91 on 3 and 107 DF, p-value: < 2.2e-16
multipla:
Analisi dei residui (1)
Analisi dei residui (2)
Modelli lineari generalizzati
(GLM)
• 
Sono una classe di modelli predittivi parametrici basati su particolari
distribuzioni di probabilità appartenenti alla famiglia esponenziale.
• 
Un modello lineare generalizzato mette in relazione una funzione del valore
atteso della variabile risposta, assunta aleatoria, con le variabili esplicative,
attraverso un’equazione avente forma lineare.
• 
E' specificato da tre componenti: una componente aleatoria che identifica la
variabile risposta Y e assume una distribuzione di probabilità per essa; una
componente sistematica che specifica quali sono le variabili esplicative
usate come predittori nel modello; infine una funzione legame che descrive
la relazione funzionale tra la componente sistematica ed il valore atteso
della componente aleatoria.
Componenti GLM
• 
Per un campione di ampiezza n, la componente aleatoria di un modello
lineare generalizzato è costituita da un insieme di variabili casuali Y1,…,Yn,
assunte indipendenti, ciascuna con una distribuzione estratta da una
famiglia esponenziale.
• 
La componente sistematica di un modello lineare generalizzato specifica
quali sono e quale è il ruolo delle variabili esplicative nel modello.
Modelli GLM
•  Regressione lineare multipla (done!)
•  Regressione per dati di conteggio
•  Regressione per dati su proporzioni
(special case: Regressione Logistica)
Modelli GLM per dati di
conteggio
La distribuzione di Poisson è solitamente utilizzata per modellare la probabilità
di osservare numeri interi, corrispondenti a conteggi, in un periodo di tempo
prefissato (ad esempio, il numero di clienti che entrano in un supermercato
in un'ora; oppure il numero di telefonate ricevute da un call center in una
giornata).
La distribuzione di Poisson è una distribuzione discreta (associa una probabilità
non nulla a tutti i numeri interi positivi, oltre allo zero), ed è parametrizzata
da un parametro che rappresenta il valore atteso (media) dei conteggi.
La distribuzione di Poisson appartiene alla famiglia esponenziale.
Regressione per dati di
conteggio
•  La regressione per dati di conteggio si utilizza per
modellare il numero di eventi che succedono in un
tempo stabilito.
•  I modelli di regressione utili per dati di conteggio sono
GLM con link=poisson
•  I termini di errore sono distribuiti secondo una poisson
•  Il link è il logaritmo
Esempio di regressione con dati
di conteggio
•  Variabile target: Numero di persone con
tumore in un anno in una determinata
clinica
•  Variabile esplicativa: distanza in Km dalla
centrale nucleare
•  Esiste una relazione tra la distanza e
l’incidenza della malattia?
Analisi esplorativa
plot(Distance, Cancer)
Sembrerebbe
sussistere una
relazione tra il numero
di tumori in un anno in
una clinica e la
distanza in Km dalla
centrale.
Ma la relazione è
significativa?
Regressione per dati di
conteggio
> model1<-glm(Cancers~Distance,poisson)
> summary(model1)
Call:
glm(formula = Cancers ~ Distance, family = poisson)
Deviance Residuals:
Min
1Q Median
3Q
Max
-1.5504 -1.3491 -1.1553 0.3877 3.1304
Coefficients:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 0.186865 0.188728 0.990 0.3221
Distance -0.006138 0.003667 -1.674 0.0941 .
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Il trend non
significativo.
sembra
essere
Inoltre, siccome
Residual deviance > Residual
Degree of Freedom si evidenza il
fenomeno di OVERDISPERSION
(varianza non spiegata della
variabile risposta).
(Dispersion parameter for poisson family taken to be 1)
Null deviance: 149.48 on 93 degrees of freedom
Residual deviance: 146.64 on 92 degrees of freedom
Number of Fisher Scoring iterations: 5
Si “compensa” l’overdispersion
ristimando il modello usando per
gli errori una distribuzione quasipoisson.
Regressione per dati di conteggio
(overdispersion)
> model2<-glm(Cancers~Distance,quasipoisson)
> summary(model2)
Call:
glm(formula = Cancers ~ Distance, family = quasipoisson)
Deviance Residuals:
Min
1Q Median
3Q
Max
-1.5504 -1.3491 -1.1553 0.3877 3.1304
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.186865 0.235364 0.794 0.429
Distance -0.006138 0.004573 -1.342 0.183
(Dispersion parameter for quasipoisson family taken to be
1.555271)
Null deviance: 149.48 on 93 degrees of freedom
Residual deviance: 146.64 on 92 degrees of freedom
Number of Fisher Scoring iterations: 5
Il p-value relativo alla
variabile
“distance”
è
migliorato, ma resta sempre
non sigificativo.
Pertanto, non esiste una
relazione significativa tra la
veriabile target e la variabile
esplicativa.
Dati di conteggio: Poisson
•  Si vuole studiare il numero di fallimenti in 80 città in un determinato
orizzonte temporale.
•  Siamo difronte ad un processo di Poisson.
•  La distribuzione di Poisson è una distribuzione di probabilità discreta
e nel caso in esame, la probabilità di osservare un numero di
fallimenti pari ad “x” è:
λx e− λ
λ
P(X = x) =
= P(X = x −1)
x!
x!
Nella distribuzione di Poisson, la media è uguale alla varianza, pari a λ.
€
Dati di conteggio: esempio (1)
> case.book<read.table(file.choose(),header=T)
> attach(case.book)
> names(case.book)
[1] "cases"
1.  Per prima cosa dobbiamo contare il numero di città con zero fallimenti,
un fallimento, 2 fallimenti ecc. (comando “table”).
> frequenze<-table(cases)
> frequenze
cases
0 1 2 3 4 5 6 7 8 9 10
34 14 10 7 4 5 2 1 1 1 1
Ci sono 34 paesi che non hanno fallimenti, 14 paesi con 1 fallimento e un
paese con 10 fallimenti.
> mean(cases)
[1] 1.775
Dati di conteggio: esempio (2)
Usando la distribuzione Poisson
con media pari a 1.775 ,
valutiamo la distribuzione dei
valori osservati (sx) e dei valori
previsti (dx).
Ci chiediamo se i dati che
stiamo
analizzando
sono
veramente distribuiti secondo
una Poisson.
Basta calcolare
rapporto:
il
Varianza/media =1
Perché? Ditelo voi!!!
seguente
Dati di conteggio: esempio (2)
> frequencies<-table(cases)
> par(mfrow=c(1,2))
>
> barplot(frequencies,ylab="Frequency",xlab="Cases",col="red")
> barplot(dpois(0:10,1.775)*80,names=as.character(0:10),ylab="Frequency",
+ xlab="Cases",col="red")
>
> var(cases)/mean(cases)
[1] 2.99483
Siccome il rapporto tra la varianza e la media è diverso da 1, la distribuzione
idonea a modellare i dati non è di tipo Poisson.
Una regola empirica dice che se il rapporto tra la varianza e la media è maggiore
di 1, allora una distribuzione alternativa è la Binomiale Negativa.
Dati di conteggio: Binomiale
Negativa
• 
La distribuzione binomiale negativa è una distribuzione discreta utile a
descrivere dati in cui la varianza è maggiore della media.
• 
La binomiale negativa ha due parametri, la media e un parametro di
“clumping”.
• 
La distribuzione di probabilità è:
x
⎛
⎞
⎛ µ ⎞ Γ(k + x) µ
P(X = x) = ⎜1+ ⎟
⎜
⎟
⎝ k ⎠ x!Γ(k) ⎝ µ + k ⎠
−k
dove µ è la media, k il parametro di “clumping” (k>0) e Γ la funzione Gamma.
“k” si stima sulla base della media e varianza del campione di dati a
disposizione.
€
2
k≈
µ
s2 − µ
Dati di conteggio: Binomiale
Negativa
> negbin<-function(x,u,k) (1+u/k)^(-k)*(u/(u+k))^x*
+ gamma(k+x)/(factorial(x)*gamma(k))
>
> xf<-numeric(11)
> for (i in 0:10) xf[i+1]<-negbin(i,0.8,0.2)
> barplot(xf)
> exp<-dnbinom(0:10,1,mu=1.775)*80
>
> both<-numeric(22)
> both[1:22 %% 2 != 0]<-frequencies
> both[1:22 %% 2 == 0]<-exp
> labels<-character(22)
> labels[1:22 %% 2 == 0]<-as.character(0:10)
> barplot(both,col=rep(c("white","grey"),11),names=labels,
+ ylab="Frequency",xlab="Cases")
> legend(16,30,c("Observed","Expected"), fill=c("white","grey"))
I dati possono essere modellati
usando la binomiale negativa se la
distribuzione osservata è uguale a
quella attesa. Usiamo il test di
adattamento del chi-quadro.
Dati di conteggio: Binomiale
Negativa
> cs<-factor(0:10)
> levels(cs)[6:11]<-"5+"
> levels(cs)
[1] "0" "1" "2" "3" "4" "5+"
>
> ef<-as.vector(tapply(exp,cs,sum))
> of<as.vector(tapply(frequencies,cs,sum))
>
> sum((of-ef)^2/ef)
[1] 3.594145
> 1-pchisq(3.594145,3)
[1] 0.3087555
Concludiamo
che
la
binomiale
negativa
è
opportuna a modellare i dati
di questo esempio.
Infatti,
la
distribuzione
osservata
non
è
statisticamente diversa da
quella attesa.
Dati per proporzioni
•  La distribuzione statistica utile per
modellare dati per proporzioni è la
binomiale.
⎛
⎞ x
n!
n−x
P(X = x) = ⎜
⎟ϑ (1− ϑ ) , x = 0,1,...,n
⎝ x!(n − x)!⎠
La media è pari a nϑ e la varianza è nϑ(1-ϑ). Notiamo che la varianza in
una binomiale è sempre minore della media.
€
Il modello statistico utile per modellare dati per proporzioni, caratterizzati da
una variabile target Y binaria è la regressione logistica.
La distribuzione binomiale
• 
La distribuzione binomiale è utilizzata per modellare la probabilità di
osservare un numero qualunque di "successi" (o esiti favorevoli) in un
insieme di n prove dicotomiche (binarie) ripetute, casuali ed indipendenti
(ad esempio, quanti clienti, fra gli n di un certo supermercato, acquistano un
certo prodotto, oppure quanti prestiti, fra gli n assegnati da un certo istituto
di credito, vanno a buon fine).
• 
La distribuzione binomiale è una distribuzione discreta (associa una
probabilità non nulla a tutti i numeri interi positivi, oltre allo zero, fino ad n,
che rappresenta il numero di prove effettuate) ed è parametrizzata, oltre
che dal numero di prove n, solitamente noto, dal parametro che rappresenta
la probabilità di ottenere un successo in ciascuna prova.
Regressione Logistica
• 
Il modello di regressione logistica è utilizzato per prevedere i valori di una variabile dipendente
dicotomica, sulla base delle variabili esplicative disponibili, che possono essere su qualunque
scala (ad esempio, quantitative o qualitative).
• 
Nell’analisi della regressione logistica la previsione di Y è un valore compreso fra 0 e 1.
• 
Applicazioni della regressione logistica sono riscontrabili in problemi di credit scoring e in
qualunque problema previsivo caratterizzato da una variabile target binaria.
• 
In termini generali, viene seguito il metodo della massima verosimiglianza, massimizzando la
verosimiglianza, ovvero derivando la log-verosimiglianza rispetto a ciascun coefficiente nel vettore
e ponendo i risultati uguali a zero. Diversamente da quanto accade nel modello lineare normale, il
risultante sistema di equazioni è non lineare nei parametri e non possiede una soluzione in forma
esplicita. Pertanto, per ottenere le stime di massima verosimiglianza di occorre utilizzare metodi
numerici iterativi, come ad esempio il metodo di Newton-Raphson o lo scoring di Fisher ( si veda,
ad esempio, Agresti, 1990).
Regressione Logistica (1)
•  E’ un modello di regressione appartenente
alla classe dei modelli GLM.
Il legame è il “logit”.
I termini di errore sono distribuiti
secondo una distribuzione
Binomiale.
Regressione Logistica (2)
a + b1 x i 1 + b 2 x i 2 +....+ b k x ik
e
πi =
a + b1 x i 1 + b 2 x i 2 +....+ b k x ik
1+ e
Il modello di regressione logistica restituisce per ogni unità statistica, la
probabilità che questa ha di sperimentare l’ evento di interesse.
Viene utilizzata per problemi caratterizzati da variabile target binaria.
Esempi applicativi: studio del churn, rischio credito, propensione all’uso di
servizi.
Regressione Logistica (3)
Se β>0, π(x) aumenta all’aumentare di x.
Se β<0, π(x) aumenta al diminuire di x.
Dati per proporzioni: esempio
(1)
Una trasformazione
logaritmica sui dati
potrebbe migliorare la
stima del modello.
attach(numbers)
par(mfrow=c(1,2))
p<-males/(males+females)
plot(density,p,ylab="Proportion male")
plot(log(density),p,ylab="Proportion
male")
Dati per proporzioni: esempio
(2)
Call:
glm(formula = y ~ density, family = binomial)
Deviance Residuals:
Min
1Q Median
3Q
Max
-3.4619 -1.2760 -0.9911 0.5742 1.8795
Coefficients:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 0.0807368 0.1550376 0.521 0.603
density 0.0035101 0.0005116 6.862 6.81e-12 ***
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
(Dispersion parameter for binomial family taken to be 1)
Null deviance: 71.159 on 7 degrees of freedom
Residual deviance: 22.091 on 6 degrees of freedom
AIC: 54.618
Number of Fisher Scoring iterations: 4
> y<-cbind(males,females)
> model<-glm(y~density,binomial)
> summary(model)
Dati per proporzioni: esempio
(3)
Call:
glm(formula = y ~ log(density), family = binomial)
Deviance Residuals:
Min
1Q Median
3Q
Max
-1.9697 -0.3411 0.1499 0.4019 1.0372
Coefficients:
Estimate Std. Error z value Pr(>|z|)
(Intercept) -2.65927 0.48758 -5.454 4.92e-08 ***
log(density) 0.69410 0.09056 7.665 1.80e-14 ***
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
(Dispersion parameter for binomial family taken to be 1)
Null deviance: 71.1593 on 7 degrees of freedom
Residual deviance: 5.6739 on 6 degrees of freedom
AIC: 38.201
Number of Fisher Scoring iterations: 4
Trasformando
la
variabile
attraverso la funzione logaritmo
notiamo che I risultati cambiano!!
In particolare si riduce la
variabilità dei dati e il modello è
maggiormente significativo.
Potrei
usare
la
stessa
trasformazione in presenza di dati
negativi?
Regressione Gamma
•  E’ un modello di regressione appartenente
alla classe dei modelli GLM.
•  Gli errori sono distribuiti secondo una
Gamma
•  Il link è il reciproco
Regressione Gamma: Esempio
(1)
•  La variabile target è l’età di morte di topi di
laboratorio (in mesi)
•  La variabile
esplicativa è il livello di
trattamento subito dal topo (high, low).
Regressione Gamma: Esempio
(2)
> tapply(death,treatment,mean)
control high low
3.46 6.88 4.70
>
> tapply(death,treatment,var)
control
high
low
0.4167347 2.4751020 0.8265306
Notiamo che la varianza non è costante.
Questa è la motivazione per cui modelli
che assumono varianza costante
(OMOSCHEDASTICITA’) e normalità dei
termini di errore, come il modello lineare,
non sono opportuni.
Regressione Gamma: Esempio
(3)
> model<-glm(death~treatment,Gamma)
> summary(model)
Call:
glm(formula = death ~ treatment, family = Gamma)
Deviance Residuals:
Min
1Q Median
3Q
Max
-0.4177 -0.1393 -0.1338 0.1486 0.4266
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 0.289017 0.008327 34.708 < 2e-16 ***
treatmenthigh -0.143669 0.009321 -15.414 < 2e-16 ***
treatmentlow -0.076251 0.010340 -7.374 1.11e-11 ***
--Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
(Dispersion parameter for Gamma family taken to be 0.04150576)
Null deviance: 17.7190 on 149 degrees of freedom
Residual deviance: 5.8337 on 147 degrees of freedom
Number of Fisher Scoring iterations: 4
Vediamo
cosa
succede
utilizzando
un
modello
di
regressione lineare.
Le ipotesi di base del modello di
regressione lineare sono violate.
Regressione lineare: non appropriata!! (1)
Regressione lineare: non
appropriata!! (2)
Analisi della sopravvivenza
•  L’analisi della sopravvivenza comprende una serie di
tecniche descrittive e predittive utili per spiegare una
funzione di rischio detta hazard.
•  Tipiche applicazioni sono in ambito medico dove si vuole
studiare la proababilità di sopravvivenza di una corte di
soggetti a determinati istanti di tempo.
•  I dati che vengono usati per la stima della probabilità di
sopravvivenza sono: Indicatore di censura/evento,
variabile di durata (tempo) e variabili esplicative.
Analisi della sopravvivenza (1)
> sheep<-read.table(file.choose(),header=T)
> attach(sheep)
The following object(s) are masked from mortality :
death
> names(sheep)
[1] "death" "status" "weight" "group"
>
La libreria di R che serve per l’analisi della sopravvivenza è la “survival”.
> library(survival)
Analisi della sopravvivenza (3)
> names(sheep)
[1] "death" "status" "weight"
"group"
>
plot(survfit(Surv(death,statu
s)~group),lty=c(1,3,5),
+ xlab="Age at death
(months)")
>
Il modello predittivo è il modello di Cox, disponibile in R con la funzione
“coxph”.
Alberi di regressione
•  Sono modelli supervisionati non parametrici utili
per prevedere una variabile Y di tipo quantitativo
in funzione di “k” variabili esplicative.
•  In un problema previsivo caratterizzato da Y
quantitativa, al fine di selezionare il migliore
modello è utile confrontare ad esempio metodi
parametrici basati sulla regressione lineare con
metodi non parametrici basati su alberi di
classificazione.
Alberi di regressione (2)
•  Gli alberi possono essere definiti attraverso una procedura ricorsiva,
con la quale un insieme di n unità statistiche vengono
progressivamente divise in gruppi, secondo una regola divisiva in
cui a ogni passo viene massimizzata la omogeneità o la purezza
della variabile risposta in ogni gruppo ottenuto.
•  Per ogni osservazione data della variabile risposta, yi, l’albero
produce un valore stimato che è uguale alla media della variabile
target valutata nel gruppo che contiene l’osservazione “i”.
Alberi di regressione: esempio 1
Alberi di regressione: esempio 1
> summary(model)
Regression tree:
tree(formula = ozone ~ ., data = dati)
Number of terminal nodes: 8
Residual mean deviance: 347.4 = 35790 / 103
Distribution of residuals:
Min. 1st Qu. Median
Mean 3rd Qu.
Max.
-4.500e+01 -8.842e+00 -2.969e+00 1.914e-16 7.516e+00 1.070e+02
Alberi di regressione: esempio 2
Alberi di regressione: esempio
2
Alberi di regressione: esempio 2
> summary(model)
Regression tree:
tree(formula = Pollution ~ ., data = pollute)
Variables actually used in tree construction:
[1] "Industry" "Population" "Wet.days" "Temp"
"Wind"
Number of terminal nodes: 6
Residual mean deviance: 253.6 = 8877 / 35
Distribution of residuals:
Min. 1st Qu. Median
Mean 3rd Qu.
Max.
-3.200e+01 -7.000e+00 -2.000e+00 -3.463e-16 5.000e+00 5.057e+01
Alberi di classificazione
•  Sono modelli supervisionati non parametrici utili
per prevedere una variabile Y di tipo qualitativo
(binario) in funzione di “k” variabili esplicative.
•  In un problema previsivo caratterizzato da Y
binaria, al fine di selezionare il migliore modello
è utile confrontare ad esempio metodi
parametrici basati sulla regressione logistica con
metodi non parametrici basati su alberi di
classificazione.
Misure di purezza
•  Misclassification
•  Gini
•  Entropia
Alberi di classificazione: R
> ir.tr <- tree(Species ~., iris)
> ir.tr
node), split, n, deviance, yval, (yprob)
* denotes terminal node
1) root 150 329.600 setosa ( 0.33333 0.33333 0.33333 )
2) Petal.Length < 2.45 50 0.000 setosa ( 1.00000 0.00000 0.00000 ) *
3) Petal.Length > 2.45 100 138.600 versicolor ( 0.00000 0.50000 0.50000 )
6) Petal.Width < 1.75 54 33.320 versicolor ( 0.00000 0.90741 0.09259 )
12) Petal.Length < 4.95 48 9.721 versicolor ( 0.00000 0.97917 0.02083 )
24) Sepal.Length < 5.15 5 5.004 versicolor ( 0.00000 0.80000 0.20000 ) *
25) Sepal.Length > 5.15 43 0.000 versicolor ( 0.00000 1.00000 0.00000 ) *
13) Petal.Length > 4.95 6 7.638 virginica ( 0.00000 0.33333 0.66667 ) *
7) Petal.Width > 1.75 46 9.635 virginica ( 0.00000 0.02174 0.97826 )
14) Petal.Length < 4.95 6 5.407 virginica ( 0.00000 0.16667 0.83333 ) *
15) Petal.Length > 4.95 40 0.000 virginica ( 0.00000 0.00000 1.00000 ) *
> summary(ir.tr)
Classification tree:
tree(formula = Species ~ ., data = iris)
Variables actually used in tree construction:
[1] "Petal.Length" "Petal.Width" "Sepal.Length"
Number of terminal nodes: 6
Residual mean deviance: 0.1253 = 18.05 / 144
Misclassification error rate: 0.02667 = 4 / 150
Alberi di classificazione: R
plot(prune.tree(ir.tr))
Alberi di classificazione: R
plot(ir.tr)
text(ir.tr)
Misure di performance
•  Matrice di confusione
•  Curva ROC
Matrice di confusione
O/P
0
1
0
a
c
a+c
1
b
d
b+d
a+b
c+d
Le frequenze “a” e “d” sono le corrette classificazioni.
(a+d)/N = tasso corretta classificazione
Le frequenze “c” e “b” sono le errate classificazioni.
(c+b)/N=tasso errata classificazione
Interessanti misure sono: sensitività, specificità, FP, FN (si veda Giudici, 2003
pag. 240 e seguenti)
Matrice di confusione: indici
•  SENSITIVITA’: a/a+b
•  SPECIFICITA’: d/c+d
•  FALSI POSITIVI: c/c+d=1-specificità
•  FALSI NEGATIVI: b/a+b=1-sensitività
Matrice di confusione: R
> data(iris)
> ir.tr <- tree(Species ~., iris)
> confusion(predict(irisfit, iris), iris$Species)
true
object
setosa versicolor virginica
setosa
50
0
0
versicolor
0
48
1
virginica
0
2
49
attr(,"error")
[1] 0.02
Pacchetto richiesto: mda, class
library(mda)
Curva ROC
•  La curva Roc è uno strumento di
valutazione del modello che si basa sul
confronto tra la proporzione di non eventi
previsti come eventi (ascisse) e la
proporzione di eventi previsti come tali
(ordinate)
•  La curva ROC può anche essere usata
per selezionare i punti di cut-off e trade-off
sensitività e specificità.
Curva ROC: R
> library(ROCR)
> data(ROCR.simple)
> pred <- prediction( ROCR.simple$predictions,
ROCR.simple$labels)
> perf <- performance(pred,"tpr","fpr")
> plot(perf)
Precision e Recall: R
perf1 <- performance(pred, "prec", "rec")
> plot(perf1)
Curva Roc: R
> perf1 <- performance(pred, "sens", "spec")
> plot(perf1)
Confronto tra modelli: R
data(ROCR.hiv)
attach(ROCR.hiv)
pred.svm <- prediction(hiv.svm$predictions,
hiv.svm$labels)
perf.svm <- performance(pred.svm, 'tpr', 'fpr')
pred.nn <- prediction(hiv.nn$predictions,
hiv.svm$labels)
perf.nn <- performance(pred.nn, 'tpr', 'fpr')
plot(perf.svm, lty=3, col="red",main="Reg Log
and Class Tree for prediction of
HIV-1 coreceptor usage")
plot(perf.nn, lty=3, col="blue",add=TRUE)
plot(perf.svm, avg="vertical", lwd=3, col="red",
spread.estimate="stderror",plotCI.lwd=2,add=T
RUE)
plot(perf.nn, avg="vertical", lwd=3, col="blue",
spread.estimate="stderror",plotCI.lwd=2,add=T
RUE)
legend(0.6,0.6,c('REGLOG','CART'),col=c('red','
blue'),lwd=3)

Download Report