1

Informacje o przedmiocie, literatura, relacje między uczeniem się a optymalizacją

2

Zadanie minimalizacji funkcji celu. Pojęcie zbioru dopuszczalnego. Dwufazowe metody optymalizacji: największego wzrostu oraz metody pseudonewtonowskie. Metody minimalizacji kierunkowej. Sympleks Neldera-Meada.

3

Metody losowe poszukiwania minimum fukcji: a) metoda Monte Carlo - próbkowanie zbioru dopuszczalnego z rozkładem jednostajnym, b) proces błądzenia przypadkowego, c) stochastyczny największy wzrost, d) symulowane wyżarzanie. Zasada "tolerancji" jako podstawa właściwości globalnych metod iteracyjnych optymalizacji.

Metoda próbkowania z niejednostajnym rozkładem generowanych punktów. Przetwarzanie populacji punktów. Sposób konstruowania mieszaniny rozkładów normalnych.

4

Sposób realizacji zmiennych losowych o znanej dystrybuancie metodą odwróconej dystrybuanty. Schemat algorytmu ewolucyjnego i używane słownictwo. Przykład działania algorytmu ewolucyjnego. Metody reprodukcji: proporcjonalna (ruletkowa), progowa, rangowa liniowa, turniejowa.

Metody mutacji: bitowa, rozkładem normalnym, itp. Wzajemne powiązanie reprodukcji, krzyżowania i mutacji.

5

Metody krzyzowania: arytmetyczne, wymieniajace, rownomierne. Miara probkowania realizowanego przez algorytm ewolucyjny. Paradoksy miary probkowania: przemieszczenie maksimow wzgledem maksimow przystosowania, zamiana maksimow lokalnych i globalnych, "polykanie" maksimow o malej mierze zbioru przyciagania przez sasiadujace o wiekszej mierze.

6

Metody uwzgledniania ograniczen. Zewnetrzna i wewnetrzna funkcja kary. Uwzglednianie ograniczen przez algorytm naprawy. Ewolucja lamarkowska i darwinowska na przykladzie algorytmow naprawy.

7

Uwzglednianie wiedzy specyficznej dla problemu. Specjalizowane operatory genetyczne. Polaczenie algorytmu ewolucyjnego z metoda optymalizacji lokalnej. Ewolucja lamarkowska i darwinowska - cd.

8

Eksploracja i eksploatacja. Zasieg operatorow genetycznych. Adaptacja i samoczynna adaptacja zasiegu mutacji (regula 1/5 sukcesow, wlaczanie zasiegu mutacji do informacji genotypowej).

9

Pojecie uczenia sie maszynowego. Uczenie sie z punktu widzenia metod przeszukiwania i optymalizacji. Paradygmaty uczenia sie: z nauczycielem, ze wzmocnieniem, bez nadzoru. Uczenie z nauczycielem jako zadanie minimalizacji bledu nauczenia. Praktyczna realizacja uczenia z nauczycielem: minimalizacja bledu na zbiorze trenujacym. Rola zbioru testowego (walidacyjnego).

10

Algorytm ewolucyjny w maszynowym uczeniu: aproksymacja funkcji w Rⁿ. Aproksymatory parametryczne: wielomianowy, typu perceptron wielowarstwowy. Algorytm ewolucyjny strojacy parametry. Kodowanie i operatory genetyczne pozwalajace na poszukiwanie zarowno parametrow, jak i struktury perceptronu wielowarstwowego. Programowanie genetyczne: kodowanie drzewiaste i operatory.

11

Uczenie nienadzorowane (bez nauczyciela). Sformułowanie zadania grupowania. Grupowanie z centroidami jako zadanie optymalizacji parametrycznej (ustalona liczba centroidów), sposób rozwiązania algorytmem ewolucyjnym. Grupowanie ze zmienną liczbą centroidów - dobór opperatorów genetycznych specjalizowanych do zadania. Poszukiwanie zestawu reguł decyzyjnych w przestrzeniach atrybutów o wartościach dyskretnych - postawienie problemu.

12

Zadanie aproksymacji. Regresja liniowa. Perceptron wielowarstwowy

13

Specjalizowane operatory genetyczne - problem definicji przestrzeni przeszukiwań, metryka przestrzeni. Nieobciążona mutacja. Wykorzystanie algorytmu ewolucyjnego do poszukiwania bazy reguł - podejścia Pitt i Michigan.

14

Reprezentacja drzewiasta chromosomu. Drzewa decyzyjne. Podsumowanie wykładu i powtórka przed egzaminem

8. tydzień

Oddanie specyfikacji projektu i ustalenie zakresu prac i sposobu rozwiązania

11. tydzień

Kontakt z Prowadzącym i przedstawienie wyników dotychczasowej pracy
i jej zatwierdzenie przez Prowadzącego

15. tydzień

Oddanie całości projektu (oprogramowanie i dokumentacja)