主机与存储器之间的缓存专利技术分析

2015-11-23吴海旋

河南科技 2015年11期

吴海旋

（国家知识产权局专利局专利审查协作河南中心，河南郑州 450000）

1 主机与存储器之间的缓存的基本概念

主机的存取速度较快，而存储器的存取速度较慢，为了使二者之间的速度能够匹配出现了主机与存储器之间的缓存技术。缓存与存储器之间以块为单位进行数据交换，当主机发出读取数据或指令时，它同时将读取到的数据或指令保存到一个缓存块中。当主机第二次需要读取相同的数据时，它可以从缓存的块中得到相应的数据。因为缓存的存取速度远远大于存储器的速度，这样系统的整体性能就得到很大的提高。缓存块大小为几个字，一般与传输数据块的大小相同，当主机从存储器读一个字的数据时，它将会同时把存储器中和它相邻的内容读到同一块中［1-2］。

图1 主机、存储器以及缓存之间的关系

2 主机与存储器之间的缓存技术发展概况

主机与存储器之间的缓存技术的发展路线主要包括：第一非阻塞缓存技术，第二牺牲缓存技术，第三跟踪缓存技术［3］。

主机与存储器之间的缓存技术发展的初期，当缓存发生缺失时，主机必须先停下来，然后从存储器中调取缺失的数据块，以执行接下来的命令。非阻塞的缓存技术允许发生缓存缺失时，主机在等待缓存给出数据的同时，从指令缓存中取指令继续工作。数据系统控制公司的专利US4370710A，1983年1月25日公开了一种利用缺失信息保持寄存器以防止缓存未命中的死锁的缓存结构，其公开了非阻塞缓存的实现方法，该系统维持了一个缺失信息寄存器组，当发生缓存缺失时记录所需要的信息，相当于一个中断保护寄存器，保存中断发生时的上下文信息，并发送堆栈以配合其他装置进行缺失处理，而缓存继续应对另外的数据请求。后来随着主机以及缓存技术的发展，每条指令所耗费的机器周期数据量急剧下降，当发生一次缓存缺失时，缺失的损失是一百个指令周期甚至更多。数据设备公司的专利US5261066A，1993年11月9日公开了一种小全相连缓存和预取缓存的数据处理系统和方法，在缓存和它与下一级存储器是数据通路之间设一个全相连的缺失缓存，缺失缓存的容量比一级缓存的容量小，缺失缓存用来存放由于失效而被丢弃的块。当一级缓存发生缺失时，在访问下一级存储器前，先检查缺失缓存中是否有所需的块，有则将该块与一级缓存中某个块交换。但这主要使存储器与缓存中的内容相对应，这使得缓存中的每行按照虚拟地址或物理地址顺序存放数据或指令。英特尔公司的专利US5381533A，1995年1月10日公开了一种位于独立于虚拟地址线的跟踪部件周围的动态指令流缓存，缓存是一个双端口缓存，两个端口都有各自的数据线和地址线，一个端口主机和存储器交互，另一个与线缓冲相连，缓存的输入来自线缓冲，然后线缓冲将数据和地址送至缓存，线缓冲存储分支预测指令，下一地址和踪迹。相比之前的根据预先决定的地址来进行顺序线性组织的缓存，跟踪缓存是根据实际程序的执行进行动态组织。若程序有分支，缓存根据分支转移结果把下一条需要执行的指令组织到这一个缓存块中，减少了缓存缺失［4］。

3 主机与存储器之间的主流缓存技术

英特尔公司是生产处理器、芯片组、板卡及系统等的厂家，同时其对缓存的发展也有重要贡献，因此，选择英特尔公司为本领域的重要申请人，对其专利进行梳理，得出英特尔公司关于缓存技术发展的脉络［5］。

专利US5829025A，1998年10月27日公开了一种多级缓存中缓存单元分配的方法，提出了非即时数据和即时数据的数据标识方法，和基于该方法的缓存分配原理。在缓存分配时被快取的数据是频繁使用的数据，所以缓存块分配时应尽量避免分给那些短时间不用的数据。专利US6202129A，2001年3月13日通过引入一个共享的缓存结构来消除独立缓冲器，减小了硬件开销，US2002007441A1，2002年1月17日公开了一种即时和非即时指令的共享缓存结构，本质技术与专利US6202129A相同，只是从另一个方面对缓存进行保护。US2003126365A1，2003年7月3日公开了一种在多核系统中多个处理核之间缓存块的转移，缓存的一致性是通过每个核的专用缓存，不需要将数据路由到片外的存储器，再从片外存储器读取数据，提高了缓存一致性效率。US2004039880A1，2004年2月26日公开了一种多核处系统中共享缓存的一致性的方法和装置，第一级高速缓存将多个缓存块维持在两个不同的修改状态中。第一修改状态表明修改的高速缓存块最近拷贝，第二修状态表明修改的缓存块的过时拷贝。US2008022049A1，2008年1月24日公开了共享缓存中的动态预分类，通过对数据的预分类的方法减小对共享缓存中数据的存取时间，降低功耗。