WsdSI/LJK/z2

From WikiZMSI

Klasyfikacja z użyciem sieci neuronowych

Celem laboratorium jest wykorzystanie narzędzia WEKA do klasyfikacji i badania nad dobraniem odpowiednich parametrów sieci do zadania.

Sprawozdanie z wykonania badań:

  • Wybrać dowolny, interesujący plik z repozytorium UCI. Należy zwrócić uwagę, czy nadaje się do klasyfikacji. Zbiory danych najczęściej są zapisane w .data (format csv) zawierający surowe dane i .name nazwy atrybutów i czasami dodatkowy opis
  • Plik z danymi stanowią zbiór uczący/testujący dla sztucznej sieci neuronowej. Należy odpowiednio go przygotować przystosowując do formatu akceptowanego przez WEKA (arff lub csv). Plik można otworzyć w dowolnym arkuszu kalkulacyjnym i zapisać do formatu csv dodając uprzednio wiersz z nazwami atrybutów.
  • Zawartość sprawozdzania:
    1. Opis zbióru danych:
      • Jakiego problemu klasyfikacji dotyczą dane w tym opis atrybutów i ich typ i jakie klasy zostały wyróżnione (nazwy klas)
      • Czy w zbiorze są brakujące wartości? Jakie atrybuty, ile procent?
      • Jaka jest liczność zbioru próbek?
      • Ile jest próbek w poszczególnych klasach?
      • Czy można z góry określić, że w zbiorze są atrybuty nie wpływające na klasyfikację?
    2. Ustalić model testowania (walidacja krzyżowa). Podać liczbę foldów.
    3. Zestawić wyniki z badań/testów. Skomentować rezultaty:
      • ze zmiany architektury sieci - zmienianie liczby warstw i liczby neuronów w warstwach ukrytych „0” (bez warstwy ukrytej) a i trzy dowolne inne np. ”10,10,12” (trzy warstwy ukryte).
      • z wpływu współczynnika uczenia parametr learningRate wartości 0.1, 05, 0,9 z automatycznym zmniejszaniem [decay - True].
      • z wpływu długości uczeni trainigTime: 500, 1000, 5000
    4. W każdym badaniu notować jakość klasyfikatora mierzoną Correctly Classified Instances i ROC Area
    5. Sformułować wnioski


ALTERNATYWA: Sieci neuronowe typu Perceptron prosty

Autorem intrukcji i zadań jest dr inż. Marcin Pluciński.

Materiały pomocnicze do zajęć.

Opis algorytmu uczenia regułą delta.

Do wysłania: (bez pakowania)

  1. skrypt z uczenia AND, OR, XOR z notatką o liczbie epok uczenia, wagach i wartości błęd
  2. skrypt z uczenia przykładów 2D: 1 separowalny i 1 nieseparowlany z notatką o liczbie epok uczenia, wagach i wartości błędu
  3. skrypt z uczenia przykładów 3D: 1 separowalny i 1 nieseparowlany z notatką o liczbie epok uczenia, wagach i wartości błędu
  4. skrypt z uczenia przykładów 8D: 1 separowalny i 1 nieseparowlany z notatką o liczbie epok uczenia, wagach i wartości błędu
  5. zadanie 3 - pominąć
  6. zadanie 4 - skrypt z własną funkcją uczącą perceptron prosty regułą delta.


Sprawozdanie w formacie i o nazwie imie_nazwisko.pdf należy przesłać na adres jkolodziejczyk[at]wi.zut.edu.pl.