超限学习机:理论、技术与应用
上QQ阅读APP看书,第一时间看更新

前言

超限学习机(Extreme Learning Machine, ELM)是受生物学习机制的启发,借助随机投影与最优化方法解决机器学习任务中常见问题的快速神经网络模型。具体而言,其所提倡的学习机制在很大程度上克服了传统神经网络模型训练过程中存在的“时间冗长”和“人工干预依赖性强”等问题,有效缓解了“维数灾难”和“过拟合”等现象带来的不便,具备学习速度快、拟合能力强、泛化性良好等特点,并在自然图像检索与分类、生物信息识别、遥感影像解译、医疗影像疾病诊断等实际应用领域的研究中取得了长足的进步。

ELM具有直观的几何解释和精巧的数学表达形式,同时具备经典神经网络的函数逼近能力与统计学习理论基础。自21世纪初被正式提出并证明有效以来,ELM保持了良好的发展势头。虽然相关理论基础及各变种算法实现的基本框架已初步形成,但ELM的整体发展时间、科研资金投入仍不足以比拟其他机器学习技术(如支持向量机、深度学习等),且尚未有相关中文专著关注该新兴技术。

本书是国内第一本专门对ELM进行介绍和论述的著作。该书在内容上对近年来ELM发展过程中所取得的成果进行详尽归纳与总结,涵盖ELM主要基础知识、技术手段与经典应用案例,并提出尚未解决的开放性问题,便于读者进一步钻研探索。

作者结合ELM理论,介绍了ELM在数据特征学习任务方面的若干研究成果。作者相信,相关工作是对ELM特征学习能力的一次直接、深刻的讨论与阐述。

为了满足信号处理领域学者对ELM这一新兴机器学习技术的学习与研究需求,本书着重强调可读性。首先,“问题导向”是作者梳理写作思路的重要原则,在给出模型的系统论述之前,均详细分析待解决问题与任务难点,而对所述模型在解决该问题上的机理、优势与局限性同样予以归纳总结,进而帮助读者更清晰地理解与使用所涉及的理论方法。其次,作者试图尽可能少地列举抽象的数学概念,而对于无法避免的数学基础知识,则置于正文之后的附录中方便读者查阅。

本书得以出版,要感谢人民邮电出版社有限公司对作者出版工作的大力帮助;感谢北京理工大学龙腾教授对本书的关心与支持;感谢南洋理工大学Guang-Bin Huang教授对本书第1、7章撰写的悉心指导;感谢北京理工大学赵保军教授给予的宝贵建议,同时感谢作者课题组的成员:敬栋麟、韩煜祺、李震、南京宏、唐玮、田义兵、崔婷婷、贾森、吴晨、潘宇、黄云、段晨辉、张子鹏、瓢正泉、杨星莎、王红硕等,他们都对本书提供了帮助。

ELM发展非常迅速,当前已出现多学科、多理论交叉现象。由于作者水平有限,很难对其众多交叉领域均有精深理解,更兼时间和精力有限,书中错谬之处在所难免,欢迎读者批评指正,来函请发至cwdeng@bit.edu.cn,不胜感激。

邓宸伟

019年10月