Machine Learning - Appunti di teoria (introduzione e fondamenti)

RIPASSO MACHINE LEARNING

INTRODUZIONE

DIFFERENZA TRA INTELLIGENZA E INTELLIGENZA ARTIFICIALE

• PENSARE, CATEGORIZZARE, ELABORARE MODELLI ASTRATTI DELLA REALTÀ → RAGIONARE
• → RIPRODUZIONE PARZIALE DELL'ATTIVITÀ INTELLETTUALE DELL'UOMO
• APPRENDERE, RICONOSCERE, SCEGLIERE

TIPOLOGIE DI RAGIONAMENTO

• DEDUTTIVO → LA VERITÀ DELLE PREMESSE GARANTISCE QUELLA DELLA CONCLUSIONE
• (ARISTOTELE) FONDAMENTO DI MOLTE DISCIPLINE: TEOREMI MATEMATICI, NON PRATICO, MA
• SOLO RIFLESSIVO, NON PERMETTE AI ROBOT DI IMPARARE AL DI FUORI DELLE SITUAZIONI PROGRAMMATE
• INDUTTIVO → LE PREMESSE (PARTICOLARI) FORNISCONO
• INDIZI MA NON GARANTISCONO LA VERITÀ DELLA CONCLUSIONE (GENERAZIONE). RAGIONAMENTO QUINDI
• PROBABILISTICO, CAPACE DI RISULTI GENERALIZZAZIONE
• L'ANALOGIA È UNA FORMA DI RAGION. INDUTTIVO MOLTO POTENTE
• ABDUTTIVO → RAGION. PROBABILISTICO. COME INDUTTIVO, MA NON È GENERALIZZARE!
• ESPERTO: "TUTTO CIÒ CHE GALLEGGIA SULL'ACQUA È UN CORPO SOLIDO" → SECCA IN UN VUOTO,
• SIC. ERACLEO: L'IMPLICAZIONE INDUTTIVA

MACHINE LEARNING

• SOTTOINSIEME DELL'AI (INTELL. ARTIFICIALE) → APPRENDIMENTO AUTOMATICO
• IMPARARE UN OGGETTO (LEARNING): IN GRADO DI GENERALIZZARE (RAGION. INDUTTIVO).
• APPRENDERE, MIGLIORARE, DELINEARE, ESPLORARE E COMPRENDERE I DATI SENZA PROGRAMMAZIONE ESPLICITA.

BRUTE FORCE E "WEAK AI"

• FORZA BRUTA (RICERCA ESAUSTIVA) → RISOLVERE PROBLEMA AL 'BRUTO' TESTANDO
• TUTTE LE POSSIBILI ALTERNATIVE SPESSO NON APPLICABILE AI PROBLEMI COMPLESSI.

• SISTEMI CAPACI DI RISOLVERE PROBLEMI SENZA RAGIONAMENTO E COMPRENSIONE (WEAK AI).

LE STAGIONI DELL'AI

• 1940-1974 (NASCITA E ANNI D'ORO) →
• PREVISIONI TROPPO OTTIMISTICHE!
• PRIMI CALCOLATORI, TEST DI TURING.
• NEURONI INTRECCIANTI, GENESI ENTHUSIASTA.
• 1974-1980 (PRIMO INVERNO) → SVILUPPO NON ACCELERATO: TROPPE ASPETTATIVE
• SCARSA CAPACITÀ DI CALCOLAZIONE, EDUCAZIONE INDIFFERENTE/CATTURATO E COMBINATORIA & NON TRATTABILITÀ.
• 1980-1987 (NUOVA PRIMAVERA) → NASCITA DEI SISTEMI ESPERTI. ALGORITMO
• BACKPROPAGATION X RETI NEURALI. PIANIFICAZIONE.
• GOVERNO INTERESSE
• 1987-1993 (SECONDO INVERNO) → FLOP 5ª GEN. SC. X PIANIFICAZIONE, RETI NEURALI
• SCARSO CALCOLO!
• 1993-2011 (TEMPI MODERNI) → HARDWARE + POTENTE, CLASSIFICATORI ROBUSTI
• VERSO RISCALDAMENTO. IL PRIMO.; INIZIO AUTOATT. SUCCESSI IN VARIE DISCIPLINE.
• 2011-OGGI → DEEP LEARNING. CNN_{CONVOLUTIONAL NEURAL NET} (ERA MOLTO UTILI
• E POTENTI. FAMA IN MANIERA NELLA COMPUTER VISION RICONOSCIMENTO DEI PATTERN & TRADUZIONE LINGUA

SINGOLARITÀ TECNOLOGICA

• PUNTO, PREVISTO NELLO SVILUPPO DI UNA CIVILTÀ, DOVE IL PROGRESSO TECNOLOGICO ACCELERA
• OLTRE LE CAPACITÀ DEGLI ESSERI UMANI, PER ESEMPIO: PRIMO CALCOLATORE & "INTELLIGENTE"
• DELL'ESSERE UMANO. SVILUPPO ESPONENZIALE

RIASSUNTO MACHINE LEARNING

INTRODUZIONE

• DIFFERENZA TRA INTELLIGENZA E INTELLIGENZA ARTIFICIALE

• Pensare, citare, elaborare modelli astratti della realtà.
• Ragionare.
• Riproduzione parziale dell'attività intellettuale dell'uomo.
• Apprendere, riconoscere, scegliere.

• TIPOLOGIE DI RAGIONAMENTO

• DEDUTTIVO - La verità delle premesse garantisce quella della conclusione (Aristotele) fondamento dei nostri modelli - teoremi matematici. Non permette di scoprire nuove verità.
• INDUTTIVO - Le premesse (osservazioni) forniscono supporto ma non garantisconola verità della conclusione (generale) ragionamento quindi probabilistico, cattura dei risultati. Generalizzazione.
• Analogia = una forma di ragionamento induttivo molto potente.
• ABDUTTIVO - Ragionamento probabilistico, come induttivo, ma non si generalizza!Esempio: tutti gli umani sono mortali. Socrate era un uomo, Socrate era un uomo.Calcolo dell'implicazione induttiva.

MACHINE LEARNING

• Sottoinsieme dell'AI (intell. artificiale)= apprendimento automatico.Apprendere oggetti (learning). In grado di generalizzare (ragion. induttivo).Apprendere, migliorare, debuggare, esplorare e comprendere i dati senza programmazione esplicita.

• BRUTE FORCE O WEAK AI

• Forza bruta (=ricerca esaustiva) - Risolvere problemi al c**** testando tutte lepossibili alternative, spesso non applicabile a problemi complessi.Sistemi capaci di risolvere problemi senza ragionamento e comprensione (WEAK AI).

• LE STAGIONI DELL'AI

• 1940-1974 (NASCITA E ANNI D'ORO) - previsioni troppo ottimistiche!Parità calcolatori, test di Turing, neuroni artificiali, generale entusiasmo.
• 1974-1980 (PRIMO INVERNO) - sviluppo non all'altezza delle aspettative,scarsità capacità centralizzate, euristica, inaffidabilità, espressione combinatoria e non trattabilità, bassa integrazione.
• 1980-1987 (NUOVA PRIMAVERA) - Nascita dei sistemi esperti. Algoritmibackpropagation x rec. neurali, pianificazione, governo conness.
• 1987-1993 (SECONDO INVERNO) - Flop 5° gen. SC, Pianificazione, Reti neurali,sist. esperti espressione combinatoria.
• 1993-2011 (TEMPI MODERNI) - Hardware potente, classificatori robusti,data investigation, probabilistic learning, guida automatica, successo in intelligenza di discipline.
• 2011-OGGI - Deep learning. CNN (Convolutional Neural Networks) ora molto più utili e potenti. Passi in avanti nella computer vision riconoscimento dei pattern, traduzioni lingua.

• SINGOLARITÀ TECNOLOGICA

• Punto previsto nello sviluppo di una civiltà, dove il progresso tecnologico acceleraoltre le capacità dell'uomo e prevedere: parità calcolatore e intelligenza dell'essere umano. Sviluppo esponenziale.

FONDAMENTI

⭐ DATI

Dati essenziale nel ML (Machine Learning) → comportamento degli algoritmi non pre-programmato ma appreso dai dati stessi. DATI = PATTERN.

Dati = Pattern → usato spesso in ML.

⭐ PATTERN: Un volto, un carattere scritto a mano...

Il termine “pattern” spesso usato per riferirsi dati. Vari tipi di:

• Numerici → Valori associati a carattere misurabili o letture rappresentabili come univoco testo. Es. nella IGRP = multidimensional, serie temx || ordinazione. Es. letture passi di una persona, ecc...
• Categorici → Valori associati a carattere qualitative (sì/no vero/falso), & categorizazione Estr; es. sesso, classe di appartenenza. Es. processo di alberi di classificazione. Es. sesso, colore occhiali, ecc...
• Sequenze → Pattern sequenziali con relazioni spaziali o temporali. Es. stream audio, video, frase, ecc... Spesso lung. variabile. Relazione nella sequenza importante - utilizzati per tenere conto del passato = allineamento spaziali/temporale.
• Altri dati strutturata → Output organizzati in strutture complesse quali alberi e grafi. E.g., natural language processing, riconoscimento del parlato, ecc...

⭐ CLASSIFICAZIONE: → Riconoscimento

Assegna una classe a un pattern. Necessario apprendere una funzione → il mapping dello spazio dei pattern a quello delle classi.

2 sole classi → Binary classification (adjacent = classi) → Multiclass classification (adjacent = l’insieme delle n pattern caratteristiche colonne). 2 classi per distinguere cane da gatto. 21 classi per riconsoci. delle lettere dell'alfabeto → Italiano.

⭐ REGRESSIONE:

Assegna un valore continuo ad un pattern. Necessario apprendere una funzione approssimante delle coppie {$input, output$} date. Utile → predizione di valori continui, e.g., stimata altezza di una persona in base al peso.

⭐ CLUSTERING:

Individua gruppi di pattern con caratter. Simili. Più complesso della classificazione. Le classi non sono note a priori e pattern non etichettati. Spesso neotendo il numero di cluster noto a priori. 2 cluster individuarlo possono poi fungere da class>, riconseparator individui in base analogie del DNA, operazioni non supervisionate.

⭐ RIDUZIONE DI DIMENSIONALITÀ:

Riduce il numero di dimensioni dei pattern di input. Necessario un mapping da ℝ^d a ℝ^k con k