Obrazová klasifikácia Mäkká klasifikácia – 2.časť

Prezentácia na tému: "Obrazová klasifikácia Mäkká klasifikácia – 2.časť"— Prepis prezentácie:

1 Obrazová klasifikácia Mäkká klasifikácia – 2.časť

2 Analýzy spektrálneho miešania
množina techník, pri ktorých sa zmiešané spektrálne signatúry porovnávajú so sadou „čistých“ referenčných spektier (meraných v laboratóriu, v teréne alebo na snímke) základný predpoklad je, že spektrálne variácie na snímke sú spôsobené zmiešaním konečného počtu povrchových materiálov výsledkom je odhad približných podielov rozlohy každého pixla pokrytých danými referenčnými triedami lepšia reprezentácia reality zemského povrchu

3 Lineárne modely miešania
Linear mixture models (LMM) – jedny z najpoužívanejších „čisté“ spektrálne signatúry sa nazývajú koncové členy (endmembers) váha pre každú koncovú signatúru je podielom plochy pixla pokrytej danou triedou výsledkom sú podielové obrazy (vrstvy) pre každú triedu (koncového člena) lepšia reprezentácia reality zemského povrchu v Idrisi modul UNMIX

4 Lineárne modely miešania
suma podielov všetkých tried musí byť = 1 DN každého pixla musí byť sumou DN daných koncových členoch váženou ich podielom + E (neznáma chyba) napr. máme dva koncové členy so spektrálnymi hodnotami v 3 pásmach: A (24,132,86) B (56,144,98) pixel, v ktorom je ich podiel 50/50, bude mať spektrálne hodnoty: X (40,138,92)

5 Lineárne modely miešania
ak má pixel spektrálne hodnoty napr.: X (32,135,89) podiel jednotlivých koncových členov A a B vypočítame pomocou sústavy rovníc: fA(24) + fB(56) = 32 fA(132) + fB(144) = 135 fA(86) + fB(98) = 89 kde fA a fB sú frakcie (podiely) tried A a B (v tomto prípade 0,75 a 0,25)

6 Lineárne modely miešania
potom v danom spektrálnom pásme platí: DNX = fA.DNA + fB.DNB + E sústava rovníc sa dá riešiť, len ak počet koncových členov neprekročí počet pásiem, resp. počet pásiem + 1 (vtedy nie je možnosť vypočítať chybu E) to je limitáciou napr. pri SPOT (5 tried a menej), ale nie je to prekážkou pri hyperspektrálnych údajoch, ktoré obsahujú niekoľko desiatok pásiem ďalším obmedzením je predpoklad lineárneho miešania, čo neplatí napr. pri viacnásobných odrazoch od pôdy a vegetácie

7 Lineárne modely miešania
tvorba koncových signatúr v Idrisi - modul ENDSIG

8 Fuzzy klasifikácia založená na fuzzy logike (fuzzy logic) – matematický prístup na kvantifikáciu neurčitých údajov dva striktné údaje „áno“ a „nie“ (1 a 0) sa nahradia kontinuálnym rozsahom od 0 do 1 teória fuzzy (neostrých) množín – zaviedol ju matematik a inžinier Zadeh v r.1965 ako metódu zaobchádzania s neurčitými spôsobmi definovateľným spôsobom využíva sa napr. pri kontrole procesov, manažmente a robení rozhodnutí, v ekonomike, výskume, pri rozoznávaní vzoru Funkcia príslušnosti nadobúda hodnoty od 0 do 1. Nie je to pravdepodobnostná funkcia, ktorá je štatisticky definovaná. Je to skôr priznanie možnosti, že daný prvok je členom množiny, alebo že daný stav je pravdivý.

9 Fuzzy klasifikácia Fuzzy zhlukovanie:
Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

10 Fuzzy klasifikácia binárna príslušnosť je nahradená stupňom príslušnosti (membership value) k množine, ktorý sa spojito mení v intervale od 0 do 1 príslušnosť je vyjadrená pomocou tzv. funkcie príslušnosti (Membership Function, MF, μ) Funkcia príslušnosti nadobúda hodnoty od 0 do 1. Nie je to pravdepodobnostná funkcia, ktorá je štatisticky definovaná. Je to skôr priznanie možnosti, že daný prvok je členom množiny, alebo že daný stav je pravdivý.

11 Fuzzy klasifikácia funkcia príslušnosti NIE JE pravdepodobnostná funkcia, ktorá je štatisticky definovaná príslušnosť v zmysle fuzzy logiky je skôr priznanie možnosti, že prvok je členom množiny alebo že daný jav je pravdivý pri fuzzy klasifikácii stupeň príslušnosti závisí od toho, ako dobre pixel (objekt) spĺňa podmienky opisujúce danú triedu tieto podmienky sú vyjadrené pomocou fuzzy pravidiel, ktoré patria medzi if-then pravidlá: Ak DNR Є [0,50] Potom KP = voda pričom [0,50] je fuzzy množina Funkcia príslušnosti nadobúda hodnoty od 0 do 1. Nie je to pravdepodobnostná funkcia, ktorá je štatisticky definovaná. Je to skôr priznanie možnosti, že daný prvok je členom množiny, alebo že daný stav je pravdivý.

12 Fuzzy klasifikácia hodnota príslušnosti k danej triede je rovná hodnote príslušnosti k fuzzy množine μvoda(pixel) = μ[0,50] (DN(pixel)) stupeň príslušnosti závisí od tvaru funkcie príslušnosti podmienky sa môžu aj kombinovať pomocou fuzzy operátorov AND, OR a NOT vo fuzzy logike je operátor A AND B nahradený minimom MIN (A,B), operátor A OR B maximom MAX (A,B) a operátor NOT B je nahradený (1 – B) Vo fuzzy logike operátor A AND B predstavuje minimum (min(A,B)), operátor A OR B maximum (max(A,B)) a operátor NOT B je nahradený (1-B).

13 Fuzzy klasifikácia definovanie funkcií príslušnosti:
na základe expertných poznatkov (Semantic Import Approach) využitím metód numerickej taxonómie a) na princípe zhlukovania (napr. metóda fuzzy c priemerov – fuzzy alternatíva metódy zhlukovania K Means, ktorá sa nazýva aj fuzzy zhlukovanie – v softvéri Geomatica) b) na základe trénovacích množín (fuzzy kontrolovaná klasifikácia – napr. fuzzy metóda najbližšieho suseda) – nemali by sa vyberať iba homogénne trénovacie množiny, ale aj zmiešané (heterogénne) Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

14 Fuzzy zhlukovanie namiesto toho, aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy bez ohľadu na to, ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých zhlukov Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

15 Fuzzy kontrolovaná klas.
Definovanie fuzzy pravidiel (funkcií príslušnosti uživateľom) – v softvéri eCognition Automatický výpočet funkcií príslušnosti v príznakovom priestore na základe trénovacích množín Fuzzy metóda najbližšieho suseda - v softvéri eCognition Fuzzy metóda minimálnej vzdialenosti – modul FUZCLAS v softvéri Idrisi Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

16 Fuzzy signatúry môžeme použiť „čisté“ signatúry
niekedy však práve zmiešané signatúry poskytujú najlepšie výsledky v Idrisi modul FUZSIG na zber neurčitých (v širšom zmysle) signatúr Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

17 Fuzzy kontrolovaná klas.
FUZCLASS – sigmoidálna funkcia príslušnosti (najpoužívanejšia v teórii množín) 1.parameter: vzdialenosť z-score, pri ktorej bude hodnota príslušnosti 0 2.parameter: či majú byť hodnoty príslušnosti normalizované (t.j. suma MF za pixel = 1) Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

18 Fuzzy kontrolovaná klas.
Fuzzy metóda najbližšieho suseda (NN) v eCognition: hodnota príslušnosti sa vypočíta na základe vzdialenosti d neznámeho objektu od vzorky: z(d) = e-kd2 kde k je parameter sklonu funkcie: k = ln(1/sklon funkcie) , pričom sklon funkcie sa rovná z(d) pre d=1 - čím menší sklon, tým bližšie musí byť objekt k vzorovému objektu, aby bol klasifikovaný Fuzzy zhlukovanie: Namiesto toho,aby bol neznámy pixel (merací vektor) zaradený len do jednej triedy, bez ohľadu na to ako blízko je k danej časti príznakového priestoru, priradí sa mu hodnota „stupňa príslušnosti“ vyjadrujúca, ako ďaleko je pixel (merací vektor) k priemerom všetkých tried (zhlukov).

19 Fuzzy klasifikácia výsledkom fuzzy klasifikácie je vrstva/vrstvy, ktoré vyjadrujú príslušnosť každého pixla/objektu ku každej klasifikačnej triede alebo k vybraným triedam (napr. prvým trom s najvyšším stupňom príslušnosti) Čím má najvyšší stupeň príslušnosti väčšiu hodnotu, tým je klasifikácia spoľahlivejšia. Stabilitu a „čistotu“ klasifikácie vyjadruje tiež vysoký rozdiel medzi prvým a druhým najvyšším stupňom príslušnosti (tak ako je to na prvom obrázku vľavo). Ak je tento rozdiel malý, môže to znamenať dve veci. Ak má prvý aj druhý najvyšší stupeň príslušnosti vysokú hodnotu (obrázok v strede), pravdepodobne sa jedná o zmiešaný pixel/objekt, ktorý zachytáva viacero tried záujmu. Ak sú naopak tieto hodnoty malé (obrázok vpravo), jedná sa o pixel/objekt, ktorý pravdepodobne nepatrí do žiadnej z klasifikačných tried, preto by sa mal označiť ako neklasifikovaný.

20 Klasifikačné stromy patria medzi rozhodovacie stromy (Decision Trees)
skladajú sa z koreňového uzla (root), medziuzlov (internode) a listových uzlov (leaf) koreňový uzol a medziuzly sú rozhodovacie (vyhodnocuje sa otázka alebo test) uzly sú spojené vetvami sú konštruované automaticky na základe množiny pravidiel neparametrické (založené na trénovacích údajoch) v Idrisi modul CTA Binárne rozhodovacie (rozdeľovacie) pravidlá vetvia strom od koreňového uzla. Ak pixle patria do jednej triedy, vytvorí sa list. Ak patria do rôznych tried, vytvorí sa medziuzol a delenie pokračuje.

21 Klasifikačné stromy klasifikačné stromy (Classification Trees) – na predpovedanie kategorických premenných regresné stromy (Regression Trees) – na predpovedanie spojitých premenných CART (Classification and Regression Trees) – kombinácia, používaná pri klasifikácii údajov DPZ Čím má najvyšší stupeň príslušnosti väčšiu hodnotu, tým je klasifikácia spoľahlivejšia. Stabilitu a „čistotu“ klasifikácie vyjadruje tiež vysoký rozdiel medzi prvým a druhým najvyšším stupňom príslušnosti (tak ako je to na prvom obrázku vľavo). Ak je tento rozdiel malý, môže to znamenať dve veci. Ak má prvý aj druhý najvyšší stupeň príslušnosti vysokú hodnotu (obrázok v strede), pravdepodobne sa jedná o zmiešaný pixel/objekt, ktorý zachytáva viacero tried záujmu. Ak sú naopak tieto hodnoty malé (obrázok vpravo), jedná sa o pixel/objekt, ktorý pravdepodobne nepatrí do žiadnej z klasifikačných tried, preto by sa mal označiť ako neklasifikovaný.

22 Umelé neurónové siete Artificial Neural Networks (ANN) – začali sa vyvíjať v 80-tych rokoch ako odozva na modely biologických NN cieľ – umelé systémy schopné sofistikovaných výpočtov, aké prebiehajú v ľudskom mozgu simulujú niektoré vlastnosti človeka ako je samoadaptácia, samoorganizácia a tolerancia voči poruchám husté prepojenie jednoduchých elementov sú neparametrické učenie môže byť kontrolované a nekontrolované siete môžu byť založené na spätnej väzbe a pozitívnej spätnej väzbe

23 ANN - MLP Multi-Layer Perceptron (MLP) – najčastejšie využívaný v DPZ
sieť s pozitívnou spätnou väzbou šírením dozadu (back-propagation) mnohorozmerná nelineárna funkcia štruktúra MLP: šírenie dopredu spätné šírenie

24 ANN - MLP typická sieť BP obsahuje jednu vstupnú vrstvu (údaje DPZ), jednu výstupnú vrstvu (triedy KP) a jednu alebo viac skrytých vrstiev každá vrstva obsahuje uzly (neuróny), pospájané spojeniami s nerovnakou váhou časť pixlov trén. množín sa použije na testovanie šírenie dopredu a späť sa opakuje, až kým sa sieť nenaučí charakteristiky tried v každom kroku sa modifikuje váhová matica pre spojenia cieľom je stanoviť vhodné váhy Počet uzlov vstupnej vrstvy sa rovná počtu pásiem. Počet uzlov výstupnej vrstvy sa rovná počtu tried. Funkcia skrytej vrstvy je analogická ako majú línie rozdeľujúce body v príznakovom priestore do niekoľkých skupín. Výskumy dokazujú, že 3-vrstvová BP sieť môže aproximovať akúkoľvek polynomickú funkciu. Celá operácia neurónovej siete však funguje ako čierna skrinka.

25 ANN - SOM Self-Organizing Map (SOM) – neurónová sieť určená na kontrolovanú a nekontrolovanú klasifikáciu vstupná vrstva – údaje DPZ výstupná vrstva – dvojdimenzionálne (zväčša štvorcové) pole neurónov (môže byť aj 1D) každý výstupný neurón je spojený so všetkými vstupnými Funkcia skrytej vrstvy je analogická ako majú línie rozdeľujúce body v príznakovom priestore do niekoľkých skupín. Výskumy dokazujú, že 3-vrstvová BP sieť môže aproximovať akúkoľvek polynomickú funkciu. Celá operácia neurónovej siete však funguje ako čierna skrinka.

26 ANN - SOM má dve fázy: hrubé ladenie (coarse tuning) – typ nekontrolovanej klasifikácie jemné ladenie (fine tuning) – zjemnenie hraníc medzi triedami na základe trénovacích údajov medzi tým – priraďovanie neurónov (pod-zhlukov) do trénovacích tried – labeling vzniká tzv. príznaková mapa (Feature Map) – charakterizuje vstupné vzorky a je analogická k mapovaniu kôry ľudského mozgu, na ktorej je založené spracovanie priestorových informácií triedy s vysokou variabilitou – veľa neurónov triedy s nízkou variabilitou – málo neurónov Funkcia skrytej vrstvy je analogická ako majú línie rozdeľujúce body v príznakovom priestore do niekoľkých skupín. Výskumy dokazujú, že 3-vrstvová BP sieť môže aproximovať akúkoľvek polynomickú funkciu. Celá operácia neurónovej siete však funguje ako čierna skrinka. Keď spustíme labelovanie zhlukov, vytvorí sa tzv. príznaková mapa (Feature Map), čo je dvojdimenzionálna mapa z viacdimenzionálneho príznakového priestoru, ktorá charakterizuje rozmiestnenie vstupných vzoriek. Je analogická k mapovaniu kôry ľudského mozgu, na ktorej je založené spracovanie priestorových informácií. Príznaková mapa má rozmery výstupnej vrstvy, pričom každý neurón je vyfarbený farbou príslušnej informačnej triedy. Triedy s vysokou variabilitou majú priradený veľký počet neurónov, s nízkou malý počet. Kľúčovou vlastnosťou SOM je zachovanie topológie, t.z. že neurónu reprezentujúce triedy s podobnými vlastnosťami sú spojené (pri sebe). Triedy, ktorých neuróny sú priestorovo oddelené (nespojité), indikujú prípady multimodálneho rozdelenia (jedna trieda - viac vrcholov na histograme).

27 ANN – Fuzzy ARTMAP Fuzzy ARTMAP – neurónová sieť založená na adaptívnej rezonančnej teórii (ART) – biologická teória spracovania kognitívnych informácií okrem iného bola navrhnutá na riešenie dilemy stability-plasticity – vykazuje vysokú stabilitu (zachováva to, čo sa už naučila), ale zároveň sa vie prispôsobiť novým informáciám fuzzy ART – zhlukovací algoritmus, ktorý pracuje s fuzzy analógovými vstupnými vzormi (reálne čísla od 0 do 1) Kognitívny = poznávací

28 ANN – Fuzzy ARTMAP architektúra siete: nekontrolovaná klasifikácia:
F1 – vstupná vrstva (údaje DPZ) F2 – vrstva kategórií (počet neurónov dynamicky rastie počas učenia) kontrolovaná klasifikácia: mapovacia vrstva (Map Field Layer) výstupná vrstva (Output Layer) počet neurónov = počet tried vzťah jedna k jednej Vrstvy F1 a F2 vytvárajú Art a model, mapovacia a výstupná vrstva tvoria Art b model.