Metodi di Ottimizzazione (Teoria Completa + progetto di Esempio, tutto ciò che serve per un 30 all'esame)

Metodi di ottimizzazione

Introduzione all'ottimizzazione

L'ottimizzazione è una disciplina fondamentale in molti campi scientifici e ingegneristici. Questo documento esplora vari metodi di ottimizzazione, inclusi esempi pratici e richiami teorici.

Esempio di ottimizzazione di un filtro

Un esempio di come l'ottimizzazione possa migliorare le prestazioni di un filtro attraverso la regolazione di variabili chiave.

Richiami alla teoria dei circuiti

Riepilogo dei concetti di base della teoria dei circuiti, essenziali per comprendere alcune tecniche di ottimizzazione.

Richiami di analisi matematica

Richiamo dei principi di analisi matematica che sono spesso alla base delle tecniche di ottimizzazione.

Problemi di minimizzazione con vincoli

Discussione sui problemi di minimizzazione in presenza di vincoli, con esempi di applicazioni pratiche.

Considerazioni su gradiente ed hessiana nell'ottimizzazione

Analisi del ruolo del gradiente e dell'hessiana nella determinazione dei punti stazionari e nella convergenza degli algoritmi di ottimizzazione.

Calcolo del minimo di una funzione lungo una direzione

Metodologie per il calcolo del minimo di una funzione lungo una direzione specifica, utilizzando tecniche analitiche e numeriche.

Proprietà delle funzioni lineari e quadratiche

Esplorazione delle proprietà delle funzioni lineari e quadratiche, fondamentali nell'ottimizzazione.

Espansione in serie di Taylor nell'ottimizzazione

Descrizione di come l'espansione in serie di Taylor possa essere utilizzata per approssimare funzioni e trovare soluzioni ottime locali.

Ottimizzazione vincolata con vincoli lineari di uguaglianza

Strategie per affrontare problemi di ottimizzazione con vincoli di uguaglianza lineari, inclusi esempi pratici.

Esempi di ricerca dell'ottimo in problemi vincolati con 1 e 2 vincoli

Analisi di casi specifici di problemi vincolati con uno o due vincoli, illustrando tecniche di risoluzione.

Ottimizzazione vincolata con vincoli lineari di disuguaglianza

Metodi per gestire vincoli di disuguaglianza lineari nei problemi di ottimizzazione.

Ottimizzazione vincolata con vincoli non lineari

Discussione sulle sfide e le soluzioni per l'ottimizzazione quando i vincoli sono non lineari.

Tecnica della minimizzazione per assi coordinati

Metodo di minimizzazione che utilizza assi coordinati per ottimizzare funzioni multidimensionali.

Tecnica di ricerca del simplesso e del pattern search

Descrizione delle tecniche del simplesso e del pattern search, utilizzate in problemi di ottimizzazione senza derivate.

Criteri di arresto

Spiegazione dei criteri utilizzati per determinare quando fermare un algoritmo di ottimizzazione.

Esempi di scrittura di funzioni obiettivo

Guida su come formulare correttamente funzioni obiettivo per diversi problemi di ottimizzazione.

Problemi di identificazione e del crimine inverso

Discussione su problemi complessi come l'identificazione di parametri e il crimine inverso attraverso l'ottimizzazione.

Algoritmi di Newton per la ricerca di punti stazionari

Analisi degli algoritmi di Newton e delle loro varianti per la ricerca di punti stazionari.

Tecniche quasi Newton e metodo di Gauss Newton

Esplorazione di tecniche quasi Newton e del metodo di Gauss Newton per l'ottimizzazione efficace.

Ottimizzazione globale

Discussione di strategie e algoritmi per trovare soluzioni globalmente ottime.

Procedure population based

Analisi delle procedure basate su popolazioni, come algoritmi genetici e PSO, per l'ottimizzazione.

Ottimizzazione combinata (meta-ottimizzazione)

Concetti di ottimizzazione combinata che integrano più tecniche per risolvere problemi complessi.

Tecniche evoluzionistiche: 1+1, 1+Lambda, 1.Lambda, Mhu/Rho,Lambda

Descrizione di varie tecniche evoluzionistiche per l'ottimizzazione.

Tecniche genetiche

Esplorazione degli algoritmi genetici come strumenti potenti per l'ottimizzazione.

Particle Swarm Optimization (PSO)

Descrizione del PSO e del suo utilizzo nell'ottimizzazione.

Simulated annealing algorithm

Analisi del simulated annealing come tecnica per evitare minimi locali nell'ottimizzazione.

Tecniche della penalizzazione del trattamento dei vincoli

Metodi per trattare i vincoli nell'ottimizzazione attraverso tecniche di penalizzazione.

Ottimizzazione multi-obiettivo: approccio fuzzy system e basato su Pareto

Discussione su come affrontare problemi di ottimizzazione multi-obiettivo con approcci fuzzy e basati su Pareto.

Esempio completo di un tipico progetto di ottimizzazione

Un esempio dettagliato di un progetto di ottimizzazione, finalizzato all'ottimizzazione di un campo magnetico di forma assegnata con correnti incognite, descritto in 17 pagine comprendenti tutti i codici Matlab utilizzati.

Per realizzare ciò, abbiamo a disposizione 6 spire disposte nell'intervallo [–zs, zs], aventi lo stesso raggio R, e posizioni simmetriche, ossia zs = -zs. Pertanto, le correnti che percorrono spire di posizione uguale e opposta risulteranno uguali. Con un sistema di questo tipo vogliamo assegnare le correnti per ottenere un campo desiderato più simile a questo:

Il nostro obiettivo è stato quello di trovare le correnti ottime i1, i2, i3 che ci hanno permesso di realizzare un campo magnetico che abbia una forma più simile possibile a quella assegnataci nella traccia. Per tale scopo abbiamo utilizzato Matlab come ambiente di calcolo e usato il simplesso come algoritmo di ricerca.

Prima di passare all'implementazione, facciamo una breve illustrazione sul background fisico del problema: abbiamo a che fare con delle spire e con i campi magnetici da essi generati, di conseguenza siamo ricorsi alla legge di Biot-Savart, che vediamo qui in figura applicata. Prima al caso del calcolo del campo magnetico generato da un elemento infinitesimo della spira nel punto z0; integrando su tutta la spira, otteniamo il campo magnetico totale nel punto z0, generato dalla spira di raggio R e percorsa da corrente I.

Quindi, ritornando al nostro caso, avendo a disposizione 6 spire, il campo magnetico totale lo si ricaverà sfruttando l'equazione vista in precedenza, applicando ad essa il principio di sovrapposizione degli effetti. Quindi tale campo è pari a quello riportato in figura (ns è il numero di spire).

Abbiamo definito poi la funzione errore come norma quadratica della differenza tra il campo calcolato ed il campo desiderato, tutto questo ci ha permesso di giungere alla seguente espressione della funzione obiettivo: abbiamo prima normalizzato rispetto al numero dei campioni np la funzione errore, e poi abbiamo normalizzato il tutto rispetto al campo magnetico desiderato. Abbiamo chiamato f(i) la funzione obiettivo, e nelle prossime slide usando l'algoritmo del simplesso, andremo a cercare i valori delle correnti i1, i2, i3 che minimizzano tale funzione.

Assumeremo come funzione obiettivo la sommatoria troncata ad un numero opportuno di campioni NP normalizzata rispetto al campo desiderato. Passiamo ora ad una breve descrizione dell'algoritmo di ricerca utilizzato, che è il simplesso. Esso è una tecnica di minimizzazione deterministica per la risoluzione di problemi di ottimizzazione in n variabili, ed è di ordine zero, ossia non fa uso di derivate. Si basa sull'utilizzo di forme geometriche fondamentali, che chiamiamo politopi, che sono delle figure di m+1 vertici, dove m è la dimensione dello spazio di ricerca, quindi il politopo risulterà essere un triangolo nel caso m=2, un tetraedro nel caso m=3, e così via.

• Ribaltamento: Eseguito ad ogni iterazione, tranne nel caso di scalature. Riguarda il vertice relativo al più alto valore calcolato della funzione obiettivo.
• Contrazione: