流水线技术是一种将每条指令分解为多步，并让各步操作重叠，从而实现几条指令并行处理的技术。程序中的指令仍是一条条顺序执行，但可以预先取若干条指令，并在当前指令尚未执行完时，提前启动后续指令的另一些操作步骤。这样显然可加速一段程序的运行过程。
流水线的6步为：
( 1 ) 取指令：C P U从高速缓存或内存中取一条指令。
( 2 ) 指令译码：分析指令性质。
( 3 ) 地址生成：很多指令要访问存储器中的操作数，操作数的地址也许在指令字中，也许要经过某些运算得到。
( 4 ) 取操作数：当指令需要操作数时，就需再访问存储器，对操作数寻址并读出。
( 5 ) 执行指令：由A L U执行指令规定的操作。
( 6 ) 存储或"写回"结果。最后运算结果存放至某一内存单元或写回累加器A。
在理想情况下，每步需要一个时钟周期。当流水线完全装满时，每个时钟周期平均有一条指令从流水线上执行完毕，输出结果，就像轿车从组装线上开出来一样。
流水线技术是通过增加计算机硬件来实现的。例如要能预取指令，就需要增加取指令的硬件电路，并把取来的指令存放到指令队列缓存器中，使M P U能同时进行取指令和分析、执行指令的操作。