獨立成分分析(ICA)學習筆記?

獨立成分分析 ICA 是近年來從盲源分離技術發展而來的一種數據驅動的信號處理方法。本篇經驗將從其起源、定義、應用條件、應用等方面對其作詳細的說明。

工具/原料

電腦 一臺

方法/步驟

獨立成分分析(ICA)的起源：

獨立成分分析（Independent Component Analysis），最早應用於盲源信號分離（Blind Source Separation，BBS）。起源於“雞尾酒會問題”，描述如下：在嘈雜的雞尾酒會上，許多人在同時交談，可能還有背景音樂，但人耳卻能準確而清晰的聽到對方的話語。這種可以從混合聲音中選擇自己感興趣的聲音而忽略其他聲音的現象稱為“雞尾酒會效應”。

ICA的定義：（ICA的不確定性——在沒有任何先驗知識的前提下，是無法同時確定w和s的）

假設條件：

1）成分是統計獨立；

2）獨立成分是非高斯分佈（高斯分佈的獨立等同於不相關，最多有且僅有一個高斯分佈，即隨機噪聲）；

3）未知的混合矩陣A是方陣；

4）一般假設被觀測到的信號數量不小於源信號的數量。

（注：各傳感器的噪聲最好忽略不計，如果噪聲較大時，可以把噪聲源看作是一個獨立源進行分析，這樣使得算法更強壯。）

ICA估計方法：(即對條件假設的描述：目標函數，依據它進行無監督學習)

1）非高斯最大化（負熵、高階累積量--常用四階累積量）；

2）互信息最小化；

3）最大似然估計；

4）KL散度；

確定目標函數之後，採用一定的算法（各種自適應優化算法）尋優處理。

應用：

在鬧磁圖（MEG）中分離非自然信號、在金融數據中找到隱藏的因素、自然圖像中減少噪聲、人臉識別、圖像分離、語音信號處理、遠程通信等。

幾個重要的概念：

ICA的兩種不確定性。

ICA處理的詳細步驟如下：

1）零均值：

2）白化：

3）ICA:

ICA的本質：

充分利用了數據的高階統計量。