Apprendimento Automatico (Prof. Velardi) - A.A. 2006-2007

Avvisi

La lezione di mercoledì 21 marzo non avrà luogo. L' esercitazione in classe verrà svolta il martedì successivo.

Introduzione

Il corso introduce un'area dell'Intelligenza Artificiale, detta appunto Apprendimento Automatico (Machine Learning). Il corso si svolge in circa 40-45 ore di lezione frontale (10-11 settimane), e prevede un esame orale sugli argomenti del corso, un'esercitazione e un progetto, che verrà assegnato verso la fine del corso. Durante il corso, verranno introdotti e discussi i principali algoritmi di apprendimento automatico. Gli studenti potranno, praticamente per ciascun algoritmo, effettuare delle esercitazioni pratiche utilizzando il sito WEKA, che mette a disposizione implementazioni dei vari algoritmi, e utilities varie per lo studio dei risultati. Viene anche messo a disposizione un sito che raccoglie dati pre-elaborati e praticamente pronti per l'utilizzo da parte di algoritmi di ML, in ambiti vari (medicina, biologia, marketing, riconoscimento di immagini, ecc.).

L'esame consiste in una prova orale, per verificare la conoscenza degli algoritmi studiati, ed una prova pratica (il progetto), sull'uso di (alcuni) degli algoriti studiati, in vari ambiti applicativi. Verrà svolta una prova scritta in itinere, come per tutti gli altri corsi, nella settimana prestabilita a tale scopo ogni anno.

NOTA: il corso di Intelligenza Artificiale del vecchio ordinamento è registrabile come Estrazione delle Informazioni dal Web. Il corso di Estrazione delle Informazioni dal Web è tuttavia pensato per studenti della specialistica. Gli studenti di laurea triennale che non abbiano ancora sostenuto Intelligenza Artificiale (spenta dal 2003) sono invitati a cambiare il piano di studi e inserire Apprendimento Automatico, perché a causa della differenza di crediti, non sarà possibile una convalida diretta.

Progetto 2007

* Descrizione progetto (pdf)

Testi consigliati

Il testo consigliato è:

• Tom Mitchell, Machine Learning, Mc Graw-Hills, 1997 (è in preparazione una versione italiana)

cui verranno aggiunti alcuni articoli. Sono inoltre disponibili i lucidi usati dal docente (vedi paragrafo seguente).

Argomenti trattati nel corso

• Introduzione (ppt)
• Apprendimento da esempi:
  • Spazio delle Versioni (ppt)
  • Esempi spazio delle versioni (ppt)
  • Alberi di Decisione (ppt)
  • Reti Neurali (ppt)
  • Apprendimento Bayesiano (ppt)
    • La tesina di uno studente che espande l'argomento Reti Bayesiane
    • Un semplice esempio (.doc) di applicazione del metodo Naive Bayes
  • Esempio backpropagation (ppt)
  • Support Vector Machines (ppt)
    • Documentazione sulle SVM (non è trattato sul libro di Mitchell)
• Apprendimento per rinforzo:
  • Q-learning e Algoritmi Genetici (ppt)
• Valutazione delle prestazioni:
  • Apprendibilità di concetti (PAC learnability) (ppt)
  • Stima dell'errore (ppt)
• Applicazioni:
  • Data mining (se c'è tempo...)
  • Spam Mail e-mail dataset

Esercitazioni ed esame

• Esonero: AA2007: Primo Esonero con soluzioni
• Esonero: AA2007: Secondo Esonero con soluzioni

Risultati prove scritte

• Risultati: AA2007: Risultati secondo esonero

Siti interessanti (Portali di Machine Learning)

• http://www.runabot.com/top/Artifical_Intelligence/Machine_Learning/
• http://www.aic.nrl.navy.mil/~aha/research/machine-learning.html (temporaneamente non disponibile)

Materiale utile (Data repositories e downloads)

Di seguito trovate materiale utile per lo svolgimento delle esercitazioni:

1. Apprendimento di alberi di decisione (programma C4.5)
2. Utilizzo comparato di vari metodi di apprendimento automatico. Il sito WEKA contiene un ambiente sperimentale Java in cui sono implementati i più noti algoritmi di apprendimento automatico (apprendimento rule-based, apprendimento bayesiano, reti neurali, ecc.). La documentazione di Weka è disponibile in formato JavaDoc.
3. Dal sito Machine Learning Repository Content Summary potete scaricare vari data set che si riferiscono a diverse possibili applicazioni di data-mining e classificazione automatica (dati genetici, medici, transazioni commerciali, immagini,...)
4. Toolbox genetic algorithms
5. Alcuni esempi di applicazione di reti neurali (pdf): proteine e riconoscimento di immagini
6. Alcuni applicativi online per SVM: SVMlight e libSVM