Appunti Modelli matematici e statistici per l'intelligenza artificiale

Modelli Matematici e Statistici per l'Intelligenza Artificiale

1) Introduzione ai modelli matematici per l’IA

I modelli matematici forniscono una rappresentazione formale dei problemi risolti

dall’IA. Comprendono strutture algebriche, probabilistiche e ottimizzative per

analizzare e prevedere fenomeni complessi.

2) Algebra lineare e intelligenza artificiale

L’algebra lineare è fondamentale per le reti neurali e l’analisi dei dati. Concetti chiave

includono matrici, vettori, decomposizione in valori singolari e autovalori/autovettori.

3) Statistica e probabilità per l’IA

La probabilità e la statistica sono essenziali per l'apprendimento automatico.

Distribuzioni di probabilità, inferenza bayesiana e test statistici sono utilizzati per

prendere decisioni basate su dati incerti.

4) Modelli probabilistici

I modelli probabilistici, come le reti bayesiane, rappresentano la conoscenza in modo

strutturato e gestiscono l'incertezza in maniera efficiente.

5) Modelli lineari e regressione

I modelli di regressione, come la regressione lineare e logistica, sono utilizzati per la

previsione e la classificazione, rispettivamente.

6) Modelli non lineari

I modelli non lineari, tra cui reti neurali e alberi decisionali, sono capaci di

rappresentare relazioni complesse nei dati.

7) Metodi di ottimizzazione

L’ottimizzazione è essenziale per addestrare modelli di IA. Tecniche come la discesa

del gradiente, la programmazione lineare e l'ottimizzazione convessa sono

ampiamente utilizzate.

8) Discesa del gradiente

Algoritmo iterativo per trovare i minimi di una funzione di costo. Versioni avanzate

includono il gradiente stocastico e l’Adam optimizer.

9) Teoria delle decisioni

La teoria delle decisioni matematiche aiuta a formulare modelli IA in termini di

massimizzazione dell’utilità attesa.

10) Algoritmi genetici

Gli algoritmi genetici simulano il processo di selezione naturale per trovare soluzioni

ottimali a problemi complessi.

11) Modelli di Markov

Le catene di Markov e i modelli di Markov nascosti sono utilizzati per modellare

processi sequenziali come il riconoscimento vocale.

12) Apprendimento supervisionato

Tecniche di apprendimento basate su dati etichettati, come le reti neurali, le macchine

a vettori di supporto e gli alberi decisionali.

13) Apprendimento non supervisionato

Metodi che individuano strutture nei dati senza etichette, come il clustering e la

riduzione della dimensionalità.

14) Apprendimento per rinforzo

Modello di apprendimento basato sulla teoria delle decisioni, in cui un agente impara

attraverso ricompense e penalità.

15) Modelli di clustering

Metodi come k-means, clustering gerarchico e DBSCAN raggruppano dati simili tra

loro.

16) Alberi decisionali

Strutture gerarchiche che suddividono i dati in sottoinsiemi sulla base di condizioni

logiche.

17) Foreste casuali

Ensemble di alberi decisionali che migliorano l’accuratezza e riducono il rischio di

overfitting.

18) Reti neurali artificiali

Strutture computazionali ispirate al cervello umano, composte da neuroni organizzati

in strati.

19) Reti convoluzionali

Architetture specializzate per l'elaborazione di immagini, basate su operazioni di

convoluzione.

20) Reti ricorrenti

Reti neurali capaci di elaborare dati sequenziali, utilizzate in NLP e serie temporali.

21) Modelli di deep learning

Approcci avanzati di apprendimento automatico basati su reti neurali profonde.

22) Autoencoder

Modelli di apprendimento non supervisionato utilizzati per la riduzione della

dimensionalità e la generazione di dati.

23) Trasformers e NLP

Architetture di deep learning per l'elaborazione del linguaggio naturale, come BERT e

GPT.

24) Generative Adversarial Networks (GAN)

Modelli composti da una rete generativa e una discriminativa per la generazione di

dati realistici.

25) Probabilità condizionale e bayesiana

Concetti fondamentali per modelli di classificazione probabilistica e inferenza

causale.

26) Modelli parametrici e non parametrici

I modelli parametrici fanno ipotesi sui dati, mentre quelli non parametrici sono più

flessibili.

27) Support Vector Machines (SVM)

Tecniche per la classificazione basate sulla massimizzazione del margine tra classi.

28) Riduzione della dimensionalità

Metodi come PCA e t-SNE per ridurre il numero di variabili mantenendo

l’informazione.

29) Regularizzazione

Tecniche per prevenire l'overfitting, come L1, L2 e dropout.

30) Analisi delle componenti principali (PCA)

Metodo per ridurre la dimensionalità dei dati preservandone la varianza.

31) Modelli di regressione avanzati

Oltre la regressione lineare, esistono modelli come Ridge, Lasso e Elastic Net.

32) Inferenza bayesiana