🧠 概率图模型 (PGM)

贝叶斯网络 (BN) 是有向无环图模型，通过利用条件独立关系来紧凑地表征联合概率分布。贝叶斯网络研究的一个核心问题是结构学习：给定一个数据集，找到最能解释数据的有向无环图。

我的研究贡献了基于评分和基于约束的贝叶斯网络结构学习算法。特别关注这些算法在高维数据集上的可扩展性，及其在分布估计算法中的应用。

开发并评估贝叶斯网络分类器，包括朴素贝叶斯、树增广朴素贝叶斯 (TAN) 和通用贝叶斯网络分类器。研究贝叶斯网络结构对分类性能的影响，以及专门针对分类任务而非密度估计进行结构优化的方法。

在分布估计算法 (EDA) 中，贝叶斯网络被用作核心概率模型。在这种背景下，EDA 每一代都会从选定的种群中学习贝叶斯网络，然后通过采样生成新的候选解。贝叶斯网络的质量直接影响进化搜索的效率。

马尔可夫网络（也称为马尔可夫随机场）是无向图模型，通过团块 (cliques) 上的势函数表示联合概率分布。与贝叶斯网络不同，它们能够自然地表示变量间的对称依赖关系，适用于影响方向不明确或无关紧要的问题。

研究结构化受限玻尔兹曼机作为基于能量的概率模型，并应用于图像去噪和分类。结构化 RBM 扩展了标准 RBM，允许在隐藏层和/或可见层内部建立结构化连接，使其能够捕捉数据中更复杂的依赖模式。

研究深度玻尔兹曼机 (DBM) 和深度信念网络 (DBN) 这种层次化概率模型。探讨堆叠受限玻尔兹曼机如何实现对输入数据日益抽象的表征学习，并应用于表示学习和生成建模。

开发并评估基于评分的算法，用于从数据中学习概率图模型的结构。这些算法在图结构空间中搜索，以寻找能最大化给定评分函数（如贝叶斯信息准则 BIC 或 BDe 评分）的结构。

研究从依赖数据中学习正则藤 Copula 图结构的算法。藤 Copula 提供了一个灵活的框架，利用一系列二元 Copula 组成的树序列（即藤结构）对多变量依赖性进行建模。

利用概率图模型对高维数据进行密度估计和异常检测。通过学习数据正常分布的模型，可以将概率极低的观测数据识别为异常。应用于工业监控、网络安全和医学诊断。

利用概率图模型生成保留原始数据统计特性的合成数据。这对于数据增强、隐私保护下的数据发布，以及在真实数据稀缺或敏感时生成模型训练数据非常有用。

应用概率图模型来建模和分析大脑连接数据。利用 PGM 表示大脑的功能性和结构性连接，应用于大脑解码、神经反馈及认知过程研究。

• Echegoyen C, Mendiburu A, Santana R and Lozano JA (2012). Toward Understanding EDAs Based on Bayesian Networks Through a Quantitative Analysis. IEEE TEVC.
• Echegoyen C, Lozano JA, Santana R and Larrañaga P (2007). Exact Bayesian network learning in estimation of distribution algorithms. CEC 2007.
• Echegoyen C, Santana R, Lozano JA and Larrañaga P (2008). The impact of probabilistic learning algorithms in EDAs based on Bayesian networks. MEDAL Report.
• Echegoyen C, Mendiburu A, Santana R and Lozano JA (2009). Analyzing the probability of the optimum in EDAs based on Bayesian networks. CEC 2009.
• Echegoyen C, Mendiburu A, Santana R and Lozano JA (2009). A quantitative analysis of estimation of distribution algorithms based on Bayesian networks. GECCO 2009.
• Echegoyen C, Mendiburu A, Santana R and Lozano JA (2010). Estimation of Bayesian networks algorithms in a class of complex networks. GECCO 2010.
• Echegoyen C, Mendiburu A, Santana R and Lozano JA (2010). Analyzing the k most probable solutions in EDAs based on Bayesian networks. LION 2010.
• Larrañaga P, Karshenas H, Bielza C and Santana R (2012). A review on probabilistic graphical models in evolutionary computation. JMLR Workshop.
• Larrañaga P, Karshenas H, Bielza C and Santana R (2013). A Review on Evolutionary Algorithms in Bayesian Network Learning and Inference Tasks. International Journal of Approximate Reasoning.
• Santana R and Shakya S (2012). Probabilistic Graphical Models and Markov Networks. Markov Networks in Evolutionary Computation.
• Santana R (2006). Advances in Probabilistic Graphical Models for Optimization and Learning. Applications in Protein Modelling and EDA Design. PhD Thesis, University of the Basque Country.
• Santana R (2012). MN-EDA and the Use of Clique-Based Factorisations in EDAs. Markov Networks in Evolutionary Computation.
• Zangari-de-Souza M, Santana R, Mendiburu A, Bengoetxea E and Pozo A (2015). MOEA/D-GM: Using probabilistic graphical models in MOEA/D for solving combinatorial optimization problems. CEC 2015.
• Mendiburu A, Santana R and Lozano JA (2007). A parallel framework for loopy belief propagation. GECCO 2007.
• Santana R, Larrañaga P and Lozano JA (2010). Synergies between network-based representations and probabilistic graphical modeling in the solution of combinatorial optimization problems. J. Statistical Mechanics.