El llaç realitza la contracció de manera que hi hagi "cantonades" a la restricció, que en dues dimensions correspon a un diamant. Si la suma de quadrats "xoca" amb una d'aquestes cantonades, aleshores el coeficient corresponent a l'eix es redueix a zero. … Per tant, el lazo realitza la contracció i (efectivament) la selecció de subconjunts.
Per què el llaç dóna zero coeficients?
El llaç realitza la contracció de manera que hi hagi "cantonades" a la restricció, que en dues dimensions correspon a un diamant. Si la suma de quadrats "xoca" amb una d'aquestes cantonades, aleshores el coeficient corresponent a l'eix es redueix a zero.
Per què el lazo es redueix a zero però no Ridge?
Es diu que com que la forma de la restricció a LASSO és un diamant, la solució de mínims quadrats obtinguda podria tocar la cantonada del diamant de manera que condueixi a una contracció d'alguna variable. Tanmateix, en la regressió de carenes, com que és un cercle, sovint no tocarà l'eix
Per què la regressió de carenes redueix els coeficients?
Regressió Ridge redueix tots els coeficients de regressió cap a zero; el llaç tendeix a donar un conjunt de coeficients de regressió zero i condueix a una solució escassa. Tingueu en compte que tant per a la regressió de cresta com per al llaç, els coeficients de regressió poden passar de valors positius a negatius a mesura que es redueixen cap a zero.
Els coeficients del lazo estan esbiaixats?
… la contracció del llaç fa que les estimacions dels coeficients diferents de zero estiguin esbiaixades cap a zero i, en general, no són coherents [Nota afegida: això vol dir que, com la mida de la mostra creix, les estimacions del coeficient no convergeixen].
