ica算法在图像盲分离中的应用
本文主要研究了独立成分分析(Independent Component analysis,ICA)算法在图像盲分离中的应用,目的是以独立性为目标函数实现两幅未知叠加方式的混合图像的自动分离。首先,在理论部分简述了盲源分离(Blind Source Separation, BSS)问题的起源和原理、涉及的信息论和统计学知识以及算法的条件约束等。其次,详细介绍了独立成分分析算法的基本步骤及模型的估计。最后,本文以FastICA算法为例,通过实验验证了ICA算法在图像盲分离的有效性。实验结果表明,ICA算法对于无噪混合图像分离的效果优良,分离的性能指标较好;对噪声污染后图像进行盲分离前,应先进行去噪预处理,以获得更好的分离效果。关键词 盲源分离,独立成分分析,图像盲分离
目 录
1 绪论 1
1.1 引言 1
1.2 盲源分离问题概述 1
1.3 国内外研究现况 2
1.4 本文研究内容及章节安排 4
2 独立成分分析理论 4
2.1 ICA的基本原理 5
2.2 ICA模型的假设 5
2.3 ICA中的不确定性 6
2.4 ICA算法的一般步骤 7
3 独立成分分析算法 7
3.1 ICA算法的目标函数 7
3.2 ICA的优化算法 10
4 ICA算法在图像盲分离中的应用 12
4.1 图像盲分离 12
4.2 图像盲分离MATLAB仿真实验 12
5 仿真结果 14
5.1 无噪声状态图像盲分离实验 14
5.2 加入噪声后的图像盲分离实验 16
结论 19
致谢 20
参考文献 21
1 绪论
1.1 引言
信号处理学科在当今这个信息极为发达的社会,在通讯,声呐探测,雷达,医学等方面都会涉及到这一学科。其中,盲信号处理也是该领域研究颇多的学科。盲信号处理涉及的领域包括盲分离技术,盲辨识技术以及盲卷积技术,研究成果也都广泛应用于多个领域,不仅仅是 *好棒文|www.hbsrm.com +Q: #351916072#
一维信号处理,在多维信号领域都有涉及,例如常用的语音信号以及图像信号的处理。在实际生活中,生物医学,金融数据,军事探测等领域都会应用到这一知识。本文主要研究盲源分离问题,即混合方式未可知的混合信号分离技术。在此之前,国内外学者已对这一课题作出了深入的研究,目前也是备受关注的一个研究领域。本文将在此基础上主要研究ICA算法在图像盲分离中的运用,以独立性为目标函数实现两幅叠加的图像自动分离。
1.2盲源分离问题概述
关于盲源分离问题,首先要了解一个著名的问题———“鸡尾酒会问题”。设在一个房间内,有三个不同的录音器,分别设置在房间的三个不同的位置,用于收录房间内发出的语音信号,而此时假设房间内有多个人(这里我们就假设是三个人),三个人发出的语音信号分别记为,,,其中表示原始信号的幅值,t则表示时间量。记三个录音器收录到的语音信号分别为,,,那么很显然三个录音器收录到的信号都是三个人语音信号的线性组合。
用数学表达式表达即为:
其中,即权,它由发言者与收音器之间的距离长远决定。而我们需要做的就是根据这些由麦克风收录的混合语音信号估算出原始的语音信号,这就是典型的盲源分离问题。当然,在该问题中我们假设忽略各种外来因
素,例如噪声等干扰。 要求出,如果已知,那么根据线性方程组很容易估算出来,但是在现实情况中是未知的,仅根据观测到的求出,这就是盲源分离问题。在这个问题上,我们不妨根据原始信号自身的统计特性来估计和。我们假设由元素构成的矩阵是可逆矩阵,那么一定存在一个元素为的系数矩阵,,使得:
那么只需要找到矩阵能够使得相互之间统计独立,在这些信号都是非高斯的这一假设条件下,那么我们就可以大致认为等价于原始信号。盲源分离的步骤大概分为:首先建立模型,具体情况下情况会有所不同,模型也各有不同;其次,相应的目标函数的选择,最后,根据已建立的ICA模型,选择最优的学习算法。具体步骤下文会详细介绍。
在满足信号都具有非高斯性或者说相互统计独立这一约束条件的情况下,利用信息论以及统计学概率论的知识来估计出,从而分离出原始信号。
总的来说,盲源分离问题,就是指在我们并不知道原始信号是以何种方式混合在一起的情况下,还依旧能分离出混合在一起的若干个原始信号。上文也说到,盲源分离技术在多个领域,各个行业都有所狩猎,因此,这个课题也是备受国内外学者关注,有大量卓越的研究成果出来,在数据挖掘,雷达勘测,数字水印,生物医学等领域成绩突出。当然,对于该课题的研究还在深入发展中。
1.3国内外研究现况
1.3.1 国外研究现状
自从在1986年,法国学者Herault和Jutten提出了可以解决两个独立源信号混合的盲源分离问题[1]。Common首次界定了解决盲源分离问题的独立成分分析方法的概念的独立成分分析方法的概念和假设条件,从数学原理上为独立成分分析作了一个统一的框架,即ICA[2]。此后对于ICA问题学者们提出了很多算法。我们大致可以从两个方面介绍:首先,从统计学的角度,主要提出了高阶累积量算法;基于独立性度量的指标,提出了非高斯性极大化,最大似然估计等。其中有几种比较著名的算法。例如1995年,Bell和Sejnowski提出了信息极大化算法,即Infomax算法[3]。该算法利用熵作为准则,通过极大化输出熵来信息极大化。并根据此种算法建立了相应的准则函数,推导出一种自适应盲源分离和盲反卷积法。1996年,Amari和Cichocki等人发现Infomax算法存在收敛速度慢的问题,于是提出用自然梯度法来改进信息极大化算法算法[4]。改进后的算法不需要计算矩阵的逆,而求矩阵的逆本身需要很大的计算量,省去这一环节之后算法的收敛速度大大提高。之后,Cardoso又提出在独立成分分析中应用最大似然估计法[5]。但是之后,学者们对已提出的各种算法进行了对比。发现基于信息极大化的方法与最大似然估计法的作用基本相似,基于负熵最大化的方法和互信息极小化也基本一致,这些算法基本可以在一定条件下进行统一,将他们统一到信息论的框架下。之后,随着研究的深入,Lee,Girolami和Sejnowski等学者提出了扩展的信息极大化算法(ExtICA算法)[6],该算法不需要源信号均为非高斯性信号,考虑到存在非高斯性信号如超高斯,亚高斯信号之间相互混合的情况也可以进行盲分离。1997年,Hyvarinen和Oja等人针对之前算法采用梯度升降法后收敛速度不佳这一问题,提出了固定点算法,也就是FixedPoint算法[7]。该算法的长处就是收敛速度更快,更稳定。
目 录
1 绪论 1
1.1 引言 1
1.2 盲源分离问题概述 1
1.3 国内外研究现况 2
1.4 本文研究内容及章节安排 4
2 独立成分分析理论 4
2.1 ICA的基本原理 5
2.2 ICA模型的假设 5
2.3 ICA中的不确定性 6
2.4 ICA算法的一般步骤 7
3 独立成分分析算法 7
3.1 ICA算法的目标函数 7
3.2 ICA的优化算法 10
4 ICA算法在图像盲分离中的应用 12
4.1 图像盲分离 12
4.2 图像盲分离MATLAB仿真实验 12
5 仿真结果 14
5.1 无噪声状态图像盲分离实验 14
5.2 加入噪声后的图像盲分离实验 16
结论 19
致谢 20
参考文献 21
1 绪论
1.1 引言
信号处理学科在当今这个信息极为发达的社会,在通讯,声呐探测,雷达,医学等方面都会涉及到这一学科。其中,盲信号处理也是该领域研究颇多的学科。盲信号处理涉及的领域包括盲分离技术,盲辨识技术以及盲卷积技术,研究成果也都广泛应用于多个领域,不仅仅是 *好棒文|www.hbsrm.com +Q: #351916072#
一维信号处理,在多维信号领域都有涉及,例如常用的语音信号以及图像信号的处理。在实际生活中,生物医学,金融数据,军事探测等领域都会应用到这一知识。本文主要研究盲源分离问题,即混合方式未可知的混合信号分离技术。在此之前,国内外学者已对这一课题作出了深入的研究,目前也是备受关注的一个研究领域。本文将在此基础上主要研究ICA算法在图像盲分离中的运用,以独立性为目标函数实现两幅叠加的图像自动分离。
1.2盲源分离问题概述
关于盲源分离问题,首先要了解一个著名的问题———“鸡尾酒会问题”。设在一个房间内,有三个不同的录音器,分别设置在房间的三个不同的位置,用于收录房间内发出的语音信号,而此时假设房间内有多个人(这里我们就假设是三个人),三个人发出的语音信号分别记为,,,其中表示原始信号的幅值,t则表示时间量。记三个录音器收录到的语音信号分别为,,,那么很显然三个录音器收录到的信号都是三个人语音信号的线性组合。
用数学表达式表达即为:
其中,即权,它由发言者与收音器之间的距离长远决定。而我们需要做的就是根据这些由麦克风收录的混合语音信号估算出原始的语音信号,这就是典型的盲源分离问题。当然,在该问题中我们假设忽略各种外来因
素,例如噪声等干扰。 要求出,如果已知,那么根据线性方程组很容易估算出来,但是在现实情况中是未知的,仅根据观测到的求出,这就是盲源分离问题。在这个问题上,我们不妨根据原始信号自身的统计特性来估计和。我们假设由元素构成的矩阵是可逆矩阵,那么一定存在一个元素为的系数矩阵,,使得:
那么只需要找到矩阵能够使得相互之间统计独立,在这些信号都是非高斯的这一假设条件下,那么我们就可以大致认为等价于原始信号。盲源分离的步骤大概分为:首先建立模型,具体情况下情况会有所不同,模型也各有不同;其次,相应的目标函数的选择,最后,根据已建立的ICA模型,选择最优的学习算法。具体步骤下文会详细介绍。
在满足信号都具有非高斯性或者说相互统计独立这一约束条件的情况下,利用信息论以及统计学概率论的知识来估计出,从而分离出原始信号。
总的来说,盲源分离问题,就是指在我们并不知道原始信号是以何种方式混合在一起的情况下,还依旧能分离出混合在一起的若干个原始信号。上文也说到,盲源分离技术在多个领域,各个行业都有所狩猎,因此,这个课题也是备受国内外学者关注,有大量卓越的研究成果出来,在数据挖掘,雷达勘测,数字水印,生物医学等领域成绩突出。当然,对于该课题的研究还在深入发展中。
1.3国内外研究现况
1.3.1 国外研究现状
自从在1986年,法国学者Herault和Jutten提出了可以解决两个独立源信号混合的盲源分离问题[1]。Common首次界定了解决盲源分离问题的独立成分分析方法的概念的独立成分分析方法的概念和假设条件,从数学原理上为独立成分分析作了一个统一的框架,即ICA[2]。此后对于ICA问题学者们提出了很多算法。我们大致可以从两个方面介绍:首先,从统计学的角度,主要提出了高阶累积量算法;基于独立性度量的指标,提出了非高斯性极大化,最大似然估计等。其中有几种比较著名的算法。例如1995年,Bell和Sejnowski提出了信息极大化算法,即Infomax算法[3]。该算法利用熵作为准则,通过极大化输出熵来信息极大化。并根据此种算法建立了相应的准则函数,推导出一种自适应盲源分离和盲反卷积法。1996年,Amari和Cichocki等人发现Infomax算法存在收敛速度慢的问题,于是提出用自然梯度法来改进信息极大化算法算法[4]。改进后的算法不需要计算矩阵的逆,而求矩阵的逆本身需要很大的计算量,省去这一环节之后算法的收敛速度大大提高。之后,Cardoso又提出在独立成分分析中应用最大似然估计法[5]。但是之后,学者们对已提出的各种算法进行了对比。发现基于信息极大化的方法与最大似然估计法的作用基本相似,基于负熵最大化的方法和互信息极小化也基本一致,这些算法基本可以在一定条件下进行统一,将他们统一到信息论的框架下。之后,随着研究的深入,Lee,Girolami和Sejnowski等学者提出了扩展的信息极大化算法(ExtICA算法)[6],该算法不需要源信号均为非高斯性信号,考虑到存在非高斯性信号如超高斯,亚高斯信号之间相互混合的情况也可以进行盲分离。1997年,Hyvarinen和Oja等人针对之前算法采用梯度升降法后收敛速度不佳这一问题,提出了固定点算法,也就是FixedPoint算法[7]。该算法的长处就是收敛速度更快,更稳定。
版权保护: 本文由 hbsrm.com编辑,转载请保留链接: www.hbsrm.com/jsj/jsjkxyjs/1282.html