CPU作为计算机系统的运算和控制核心，是信息处理、程序运行的终执行单元。CPU 自产生以来，在逻辑结构、运行效率以及功能外延上取得了巨大发展。CPU是计算机的大脑。
程序的运行过程，实际上是程序涉及到的、未涉及到的一大堆的指令的执行过程。当程序要执行的部分被装载到内存后，CPU要从内存中取出指令，然后指令解了码(以便知道类型和操作数，简单的理解为CPU要知道这是什么指令)，然后执行该指令。再然后取下一个指令、解了码、执行，以此类推直到程序退出。
在计算机体系结构中，CPU 是对计算机的所有硬件资源（如存储器、输入输出单元） 进行控制调配、执行通用运算的核心硬件单元。CPU 是计算机的运算和控制核心。计算机系统中所有软件层的操作，终都将通过指令集映射为CPU的操作。
由于CPU访问内存以得到指令或数据的时间要比执行指令花费的时间长很多，因此在CPU内部提供了一些用来保存关键变量、临时数据等信息的通用寄存器。所以，CPU需要提供 一些特定的指令，使得可以从内存中读取数据存入寄存器以及可以将寄存器数据存入内存。
CPU控制技术的主要形式，时间控制。将时间定时应用于各种操作中，就是所谓的时间控制。在执行某一指令时，应当在规定的时间内完成，CPU的指令是从高速缓冲存储器或存储器中取出，之后再进行指令译码操作，主要是在指令寄存器中实施，在这个过程中，需要注意严格控制程序时间。
更优化的CPU架构是superscalar架构（超标量架构）。这种架构将取指、解了码、执行单元分开，有大量的执行单元，然后每个取指 解了码的部分都以并行的方式运行。比如有2个取指 解了码的并行工作线路，每个工作线路都将解了码后的指令放入一个缓存缓冲区等待执行单元去取出执行。
