今天听了一个博士师兄的论文答辩,试图提高分布式存储并行和共享存储并行中,循环中并行粒度。

分布式存储下的并行,可以简单的理解为片间的并行,集群,很多CPU的计算机中的并行都属于这一类,这类并行强调的是消息传递,因为每个计算单元都有自己的存储空间,且这些存储是相互独立的,靠消息传递的方式来维护存储一致性,这类程序通常使用MPI工具做并行程序开发。这种并行一般是进程之间的并行,每个进程都有独立的资源管理和消息收发,地址空间相互独立。

共享存储下的并行则不同,采用线程间的并行策略,即并行任务之间采用共享存储空间的形式,存储和资源都是共享的。这类并行多存在于现在流行的多核和众核系统中。主要面临的问题是一致性,缓存一致性是最主要的,因为多核系统通常是每个单核有一级cache,而多个核之间又共享二级或者三级cache,据说CPU上30%多的功耗都用在了维持一致性上。片上面积也一半多用来做了cache。OPENMP就是为共享存储而生的编程工具。 Continue reading »

 

今天的会议日程比昨天轻松。五个报告。

  1. 台湾资讯研究院的游本中老师,未来编译研究的潜在领域展望。
  2. 江南所,关于精细编译调优的
  3. 计算所,关于并行的
  4. 上交 关于llvm的
  5. 武大 关于MCU编译器开发的

其中,游老师的演讲最为重量级,也对我们这些晚生最有指导意义。大牛就是大牛,在美国混了这么久,现在又是台湾某个研究所的所长,编译领域的了解可谓渊博,虽然还谦虚的说自己的讲义只是匆匆的准备,但是演讲的过程却功底颇厚。 Continue reading »

 

今天参加了国内几个做编译器的单位做的研讨会,有计算所,中国科大,intel,北京大学,清华大学,武汉大学,复旦大学,北京科技大学,北京理工大学,浙江大学,国防科技大学等,据说基本云集了国内几乎所有做编译研究的机构(公司除外)。

一天,10几个报告下来,基本发现国内做编译的无非做几个领域,最多的在并行优化,做有GPU的混合结构下的优化,国防科大的天河,北大的实验集群,基本都在做GPU和CPU混合的优化,看来它们最头疼的问题是之间的通信。还有其他几家做多核的基本也一样,如浙江大学的多核嵌入式,清华的程序切片技术提取并行通信模型。 Continue reading »

 

2.0 动机

翻译者:erlv,转载请注明出处 http://lingcc.com

并行化的前景已经在至少三十年的时间里让研究者着迷不已。虽然过去并行计算的性能已经预示了前景而且吸引了不少投资,但是最终还总是单处理器计算占据上 风。然而,我们认为通用计算正在向并行体系结构做着不可逆转的改变。这次与以往又有什么不同呢?这次向增加并行性的转变并不是一种基于基于新颖的并行性软 件和体系结构的昂首向前,而实际上只是在面对在硅晶体上高效实现传统单处理器体系结构上越来越大的挑战时一种不得已的退却。
下面,我们将通过几个指导性的概念来详细的展现计算技术是如何演变的。他们将仿效新闻周刊的方式,以传统的经验观点(CW)和取代他的经验观点对比的形式列举出来。我们将在以后的讨论中使用CW #n来引用这些对比:

Continue reading »

 

1 引言

翻译者:erlv,转载请注明出处 http://lingcc.com

从Intel跟随IBM的Power 4 和 Sun 微系统的Niagara处理器宣布其以后的高性能微处理器将以多处理器或者多核为基础开始,计算机工业就转换变了他的路线。在这个行业上”多核”这一时髦 词开始取代过去每一代半导体处理技术都从一个单处理开始的历史,走向了每代将使片上的核心翻一番的时代。多核毋庸置疑的会提升很多时序上独立的多任务负载 情况下的性能,但是多核如何使每个单独的任务变得更快呢?若不充分挖掘和改进能耗,程序设计从串行到适度并行化的转变将会是十分困难的。因此,多核不像是 理想的未来计算技术发展方向。
Continue reading »

 

摘要

翻译者:erlv,转载请注明出处 http://lingcc.com

近来向并行微处理器的转变是计算技术的一个里程碑。工业界已经为通过二进制兼容和缓存一致性来保留过去的程序范例能在多核处理器可用设计好了路线图。工业界的智力投资也开始转变为在新一代硅材料上成倍增加核数。

由伯克力的多个学科的研究人员组成的研究小组已经就这一转变讨论了将近两年。我们的观点是:这一软件和硬件并行化的变革对有2-8个处理器的系统将很有效,但当16核和32核的处理器系统出现之后效果将可能会减小,就像较大的指令级并行造成的减小一样。 Continue reading »

 

译者注:
文章的英文原名为 The Landscape of Parallel Computing Research: A View from Berkeley。文章是2006年12月发布的,作者为Krste Asanovic,Ras Bodik,Bryan Christopher Catanzaro,Joseph James Gebis,Parry Husbands,Kurt Keutzer,David A. Patterson,William Lester Plishker,John Shalf,Samuel Webb Williams,Katherine A. Yelick。
文章链接地址:www.eecs.berkeley.edu/Pubs/TechRpts/2006/EECS-2006-183.html

Continue reading »

2009-2011© 编译点滴 Suffusion theme by Sayontan Sinha

无觅相关文章插件,快速提升流量