Nezávislá analýza komponent

Typické algoritmy pro ICA používají centrování, bělení (obvykle s rozkladem vlastní veličiny) a redukci dimenzionality jako kroky předzpracování za účelem zjednodušení a snížení složitosti problému pro skutečný iterační algoritmus. Bělení a redukce dimenzí lze dosáhnout analýzou hlavních komponent nebo singulární dekompozicí hodnot. Bělení zajišťuje, že se všemi dimenzemi je zacházeno stejně a priori před spuštěním algoritmu. Algoritmy pro ICA zahrnují infomax, FastICA a JADE, ale existuje i mnoho dalších.

ICA je důležitá pro slepé oddělování signálu a má mnoho praktických aplikací. Úzce souvisí (nebo dokonce jde o zvláštní případ) s hledáním faktoriálního kódu dat, tj. nové vektorově ohodnocené reprezentace každého vektoru dat tak, že se unikátně zakóduje výsledným vektorem kódu (bezztrátové kódování), ale komponenty kódu jsou statisticky nezávislé.

Lineární nezávislá analýza komponent může být rozdělena na bezhlučné a hlučné případy,
kdy bezhlučná ICA je zvláštní případ hlučné ICA. Nelineární ICA by měla být považována za samostatný případ.

Data jsou reprezentována náhodným vektorem a
komponenty jako náhodný vektor . Úkolem je transformovat pozorovaná data , pomocí lineární statické transformace W jako

do maximálně nezávislých složek měřených nějakou funkcí nezávislosti.

Složky pozorovaného náhodného vektoru jsou generovány jako součet nezávislých složek , :

váženo míchacími závažími .

Stejný generativní model může být zapsán ve vektorové formě jako
,
kde pozorovaný náhodný vektor je reprezentován
bazickými vektory .
Základové vektory tvoří sloupce směšovací matice a generativní vzorec může být zapsán
jako , Kde .

S přidaným předpokladem nulového průměru a nekorelovaného Gaussova šumu má ICA model podobu .