Eksploracja danych

Forma zajęć

Wykład (30 godzin) + laboratorium (30 godzin)

Opis

Celem przedmiotu jest zapoznanie studentów z podstawowymi pojęciami, koncepcjami i metodami technologii eksploracji danych.

Sylabus

Autorzy

Kurs został przygotowany przez zespół pracowników Instytutu Informatyki Politechniki Poznańskiej pod kierunkiem prof. dr. hab. inż. Tadeusza Morzego, w składzie: prof. dr hab. inż. Tadeusz Morzy, dr inż. Mikołaj Morzy oraz mgr inż. Anna Leśniewska.

Wymagania wstępne

• Podstawowe wiadomości z zakresu systemów baz danych, magazynów danych oraz analizy danych.

Zawartość

• ====Wykłady====
  • (2 godz.) Kurs rozpoczyna się wprowadzeniem do tematu eksploracji danych. Omówione zostały tutaj podstawowe zagadnienia związane z dziedziną eksploracji danych, przedstawiono główne kierunki rozwoju oraz metody eksploracji danych, jak również możliwości zastosowań w świecie rzeczywistym.
  • (6 godz.) Drugi moduł kursu poświęcony jest problematyce związanej z odkrywaniem asocjacji. W ramach tej części kursu zostały przedstawione następujące zagadnienia: wprowadzenie do problematyki odkrywania asocjacji, sformułowanie problemu, typy reguł asocjacyjnych, podstawowe algorytmy odkrywania binarnych reguł asocjacyjnych - algorytm A-Priori oraz algorytm FP-Growth, wielopoziomowe i wielowymiarowe reguły asocjacyjne, korelacje vs asocjacje.
  • (4 godz.) Trzeci moduł kursu jest poświęcony odkrywaniu wzorców sekwencji. Moduł porusza następujące zagadnienia: sformułowanie problemu odkrywania wzorców sekwencji, podstawowe algorytmy - algorytm GSP oraz algorytm PrefixSpan, odkrywanie wzorców sekwencji z ograniczeniami, uogólnione wzorce sekwencji.
  • (6 godz.) Czwarty moduł poświęcony jest problematyce klasyfikacji.

• Wprowadzenie do eksploracji danych - co to jest eksploracja? metody i zastosowania
• Odkrywanie asocjacji - wprowadzenie, sformułowanie problemu, typy reguł asocjacyjnych
• Algorytmy odkrywania binarnych reguł asocjacyjnych - algorytmy A-Priori oraz FP-Growth
• Wielopoziomowe i wielowymiarowe reguły asocjacyjne - wielopoziomowe reguły asocjacyjne, wielowymiarowe reguły asocjacyjne, asocjacje vs. korelacje
• Odkrywanie wzorców sekwencji - sformułowanie problemu, algorytm GSP
• Odkrywanie wzorców sekwencji - algorytm PrefixSpan, odkrywanie wzorców sekwencji z ograniczeniami, uogólnione wzorce sekwencji
• Klasyfikacja - sformułowanie problemu, metody klasyfikacji, kryteria oceny metod klasyfikacji
• Klasyfikacja - kryteria podziału Indeks Gini oraz Zysk Informacyjny
• Klasyfikacja - obcinanie drzewa, naiwny klasyfikator Bayes'a, kNN, dokładność klasyfikacji
• Grupowanie - wprowadzenie, definicja problemu, klasyfikacja metod grupowania, grupowanie hierarchiczne
• Grupowanie - iteracyjno-optymalizacyjne metody grupowania, algorytm k-średnich, algorytm k-medoidów
• Eksploracja tekstu - wprowadzenie do problemu, wyszukiwanie dokumentów, reprezentacje tekstu
• Eksploracja tekstu - ukryte indeksowanie semantyczne SVD, struktury danych
• Eksploracja sieci Web - klasyfikacja metod, algorytm Page Rank, Hubs&Authorities

Laboratoria

• Przygotowanie danych przy pomocy
• Określenie ważności atrybutów
• Odkrywanie reguł asocjacyjnych
• Naiwny klasyfikator Bayesa
• Adaptatywna sieć Bayesa
• Drzewo decyzyjne
• Analiza skupień - algorytm k-Means
• Analiza skupień - algorytm O-Cluster
• Odkrywanie cech - algorytm Non-Negative Matrix Factorization
• Regresja - algorytm SVM
• Klasyfikacja - algorytm SVM
• Odkrywanie osobliwości - algorytm SVM
• Przetwarzanie tekstu

Literatura

• Data Mining: Concepts and Techniques, J. Han, M. Kamber, Morgan Kaufman, 2000
• Data Mining: Practical Machine Learning Tools and Techniques with Java Implementations, I. H. Witten, E. Frank, Morgan Kaufman, 2000
• Pricinciples of Data Mining, J. Hand, H. Mannila, P. Smyth, MIT Press, 2001
• Systemy uczące się, P. Cichosz, WNT, 2000

Moduły

Wykłady

1. Wprowadzenie WIKI, PDFk, PDF, TEST, FLASH
2. Odkrywanie asocjacji WIKI, PDFk, PDF, TEST, FLASH
3. Algorytmy odkrywania binarnych reguł asocjacyjnych WIKI, PDFk, PDF, TEST, FLASH
4. Wielopoziomowe i wielowymiarowe reguły asocjacyjne WIKI, PDFk, PDF, TEST, FLASH
5. Odkrywanie wzorców sekwencji I WIKI, PDFk, PDF, TEST, FLASH
6. Odkrywanie wzorców sekwencji II WIKI, PDFk, PDF, TEST, FLASH
7. Klasyfikacja I WIKI, PDFk, PDF, TEST, FLASH
8. Klasyfikacja II WIKI, PDFk, PDF, TEST, FLASH
9. Klasyfikacja III WIKI, PDFk, PDF, TEST, FLASH
10. Grupowanie I, WIKI, PDFk, PDF, TEST, FLASH
11. Grupowanie II, WIKI, PDFk, PDF, TEST, FLASH
12. Eksploracja tekstu I, WIKI, PDFk, PDF, TEST, FLASH
13. Eksploracja tekstu II WIKI, PDFk, PDF, TEST, FLASH
14. Eksploracja sieci Web WIKI, PDFk, PDF, TEST, FLASH

Laboratoria

1. Przygotowanie danych do eksploacji DOC, PDFk, PDF, WIKI
2. Określanie ważności atrybutów DOC, PDFk, PDF, WIKI
3. Odkrywanie reguł asocjacyjnych DOC, PDFk, PDF, WIKI
4. Naiwny klasyfikator Bayesa DOC, PDFk, PDF, WIKI
5. Adaptywna sieć Bayesa DOC, PDFk, PDF, WIKI
6. Indukcja drzew decyzyjnych DOC, PDFk, PDF, WIKI
7. Support Vector Machine (klasyfikacja) DOC, PDFk, PDF, WIKI
8. Grupowanie (K-Means) DOC, PDFk, PDF, WIKI
9. Grupowanie (O-Cluster) DOC, PDFk, PDF, WIKI
10. Odkrywanie cech i algorytm Non-Negative Matrix Factorization DOC, PDFk, PDF, WIKI
11. Regresja SVM DOC, PDFk, PDF, WIKI
12. Odkrywanie osobliwości DOC, PDFk, PDF, WIKI
13. Eksploracja danych tekstowych DOC, PDFk, PDF, WIKI

Materiały pomocnicze

1. Przygotowanie danych
2. Odkrywanie reguł asocjacyjnych
3. Odkrywanie cech - algorytm Non-Negative Matrix Factorization
4. Regresja - algorytm SVM
5. Klasyfikacja - algorytm SVM

Dodatkowe zasoby

1. GnuPlot