作为一个重要的科学分支，它一直受到人们的广泛重视，并在诸多工程领域得到迅速推广和应用，如系统控制、人工智能、模式识别、生产调度、VLSI技术和计算机工程等。鉴于实际工程问题的复杂性、约束性、非线性、多极小、建模困难等特点，寻求一种适合于大规模并行且具有智能特征的算法已成为有关学科的一个主要研究目标和引人注目的研究方向。 20世纪80年代以来，一些新颖的优化算法，如人工神经网络、混沌、遗传算法、进化规划、模拟退火、禁忌搜索及其混合优化策略等，通过模拟或揭示某些自然现象或过程而得到发展，其思想和内容涉及数学、物理学、生物进化、人工智能、神经科学和统计力学等方面，为解决复杂问题提供了新的思路和手段。这些算法独特的优点和机制，引起了国内外学者的广泛重视并掀起了该领域的研究热潮，且在诸多领域得到了成功应用。在优化领域，由于这些算法构造的直观性与自然机理，因而通常被称作智能优化算法(intelligent optimization algorithms)，或称现代启发式算法(modern heuristic algorithms)。
为了使系统达到最优的目标所提出的各种求解方法称为最优化方法。最优化在运筹学和管理科学中起着核心作用。最优化通常是极大或极小化某个多变量的函数，并满足一些等式或不等式约束。最优化技术对社会的影响日益增加，应用的种类和数量快速增加。随着计算机的发展，一些过去无法解决的复杂优化问题已经能够通过计算机来求得近似解。所以，计算机求解优化问题的方法研究也就显得越来越重要了。对于简单的函数优化问题，经典算法比较有效且能获得函数的精确最优解，但是对于具有非线性、多极值等特点的复杂函数及组合优化问题而言，经典算法往往无能为力。基于系统动态演化的算法及基于此类算法而构成的混合型算法又可称为智能优化算法。
群智能算法
随着人们对生命本质的不断了解，生命科学正以前所未有的速度迅猛发展，使人工智能的研究开始摆脱经典逻辑计算的束缚，大胆探索起新的非经典计算途径。在这种背景下，社会性动物(如蚁群、蜂群、鸟群等)的自组织行为引起了人们的广泛关注，许多学者对这种行为进行数学建模并用计算机对其进行仿真，这就产生了所谓的“群智能”。社会性动物的妙处在于：个体的行为都很简单，但当它们一起协同工作时，却能够“突现”出非常复杂(智能)的行为特征。例如，单只蚂蚁的能力极其有限，但当这些简单的蚂蚁组成蚁群时，却能完成像筑巢、觅食、迁徙、清扫蚁巢等复杂行为;一群行为显得盲目的蜂群能造出精美的蜂窝;鸟群在没有集中控制的情况下能够同步飞行等。在这些自组织行为中，又以蚁群在觅食过程中总能找到一条从蚁巢到食物源的最短路径最为引入注目。群智能算法作为一种新兴的演化计算技术，已成为越来越多研究者的关注焦点，它与人工生命，特别是进化策略以及遗传算法有着极为特殊的联系。群智能算法研究领域主要有两种算法：蚁群算法和粒子群优化算法。
蚁群算法：是对蚂蚁群落食物采集过程的模拟，已成功应用于许多离散优化问题。通过对蚂蚁复杂的社会行为的研究.科学家们发现基于其行为模式的模型可以用来求解复杂的组合优化问题。为了解决计算机科学中的最短路径问题，基于蚂蚁行为特征所发展起来的算法演变成一个被广泛认可并非常成功的新的研究领域--蚁群优化(ACO)。
粒子群优化算法：起源于对简单社会系统的模拟，最初是模拟鸟群觅食的过程，但后来发现它是一种很好的优化工具。粒子群优化算法(Particle Swarm optimization,PSO)又翻译为粒子群算法、微粒群算法、或微粒群优化算法。是通过模拟鸟群觅食行为而发展起来的一种基于群体协作的随机搜索算法。
遗传算法
遗传算法是模拟生物在自然环境中优胜劣汰、适者生存的遗传和进化过程而形成的一种具有自适应能力的，全局性的概率搜索算法。遗传算法将问题的每一个可能性解看作是群体中的一个个体(染色体)，并将每一个染色体编码成串的形式，再根据预定的目标函数对每个个体进行评价，给出一个适应值。算法将根据适应度值进行它的寻优过程。遗传算法的寻优过程是通过选择、杂交和变异三个遗传算子来具体实现的。