徽标
联盟百科
通讯
下载应用,请到 Google Play
新! 在您的Android™设备上下载联盟百科!
自由
比浏览器更快的访问!
 

并行计算

指数 并行计算

并行计算(parallel computing)一般是指许多指令得以同时进行的计算模式。在同時進行的前提下,可以將計算的過程分解成小部份,之後以並行方式來加以解決。 電腦軟體可以被分成數個運算步驟來執行。為了解決某個特定問題,軟體採用某個演算法,以一連串指令執行來完成。傳統上,這些指令都被送至單一的中央处理器,以循序方式執行完成。在這種處理方式下,單一時間中,只有單一指令被執行(processor level: 比较微处理器,CISC, 和RISC,即流水线Pipeline的概念,以及后来在Pipeline基础上以提高指令处理效率为目的的硬件及软件发展,比如branch-prediction, 比如forwarding,比如在每个运算单元前的指令堆栈,汇编程序员对programm code的顺序改写)。平行運算採用了多個運算單元,同時執行,以解決問題。.

38 关系: 单指令流多数据流可扩放性均匀访存模型多指令流多数据流大规模并行处理机对剖宽度对称多处理工作站机群中央处理器一维线性连接平均延迟标准并发计算并行向量处理机并行快速傅里叶变换并行排序任务并行分布式共享存储处理机嵌入全高速缓存访存模型算法约翰·冯·诺伊曼网孔连接网络直径节点度非均匀访存模型非远程存储访问模型訊息傳遞介面计算机科学資料平行超立方体连接阿姆达尔定律LogP模型PRAM模型Sun-Ni定理洗牌交换连接整体同步并行计算模型执行时间总线

单指令流多数据流

单指令流多数据流(Single Instruction Multiple Data,縮寫:SIMD)是一种采用一个控制器来控制多个处理器,同时对一组数据(又称“数据向量”)中的每一个分别执行相同的操作从而实现空间上的并行性的技术。 在微处理器中,单指令流多数据流技术则是一个控制器控制多个平行的处理微元,例如Intel的MMX或SSE,以及AMD的3D Now!指令集。 圖形處理器(GPU)擁有強大的並行處理能力和可程式流水線,面對单指令流多数据流時,運算能力遠超傳統CPU。OpenCL和CUDA分別是目前最廣泛使用的開源和專利通用圖形處理器(GPGPU)運算語言。.

新!!: 并行计算和单指令流多数据流 · 查看更多 »

可扩放性

#重定向 可扩展性.

新!!: 并行计算和可扩放性 · 查看更多 »

均匀访存模型

均匀访存模型(Uniform Memory Access)通常簡稱UMA,指所有的物理存储器被均匀共享,即处理器访问它们的时间是一样的。UMA亦稱作统一寻址技术或統一記憶體存取。 这种系统因为高度的资源共享也被称为紧耦合系统(Tightly Coupled System)。.

新!!: 并行计算和均匀访存模型 · 查看更多 »

多指令流多数据流

多指令流多数据流(Multiple Instruction Stream Multiple Data Stream,縮寫:MIMD),是使用多个控制器来异步地控制多个处理器,从而实现空间上的并行性的技术。.

新!!: 并行计算和多指令流多数据流 · 查看更多 »

大规模并行处理机

大规模并行处理机(Massively Parallel Processor)是由多个由微处理器,局部存储器及网络接口电路构成的节点组成的并行计算体系;节点间以定制的高速网络互联。大规模并行处理机是一种异步的多指令流多数据流,因为它的程序有多个进程,它们分布在各个微处理器上,每个进程有自己独立的地址空间,进程之间以消息传递进行相互通信。.

新!!: 并行计算和大规模并行处理机 · 查看更多 »

对剖宽度

网络的对剖宽度(Bisection Width)是指对分网络所要移去的最少边数。 其數目等於对剖平面的链路数,與每条链路的连线数(或稱作链路宽度或通道宽度)二者之間的乘積,即表示穿越对剖平面總共的连线数。.

新!!: 并行计算和对剖宽度 · 查看更多 »

对称多处理

對稱多處理(Symmetric multiprocessing,縮寫為 SMP),也譯為均衡多處理、對稱性多重處理,是一種多處理器的電腦硬體架構,在對稱多處理架構下,每個處理器的地位都是平等的,對資源的使用權限相同。現代多數的多處理器系統,都採用對稱多處理架構,也被稱為對稱多處理系統(Symmetric multiprocessing system)。在這個系統中,擁有超過一個以上的處理器,這些處理器都連接到同一個共享的主記憶體上,並由單一作業系統來控制。在多核心處理器的例子中,對稱多處理架構,將每一個核心都當成是獨立的處理器。 在對稱多處理系統上,在作業系統的支援下,無論行程是處於使用者空間,或是核心空間,都可以分配到任何一個處理器上運行。因此,行程可以在不同的處理器間移動,達到負載平衡,使系統的效率提升。.

新!!: 并行计算和对称多处理 · 查看更多 »

工作站机群

没有描述。

新!!: 并行计算和工作站机群 · 查看更多 »

中央处理器

中央处理器 (Central Processing Unit,缩写:CPU),是计算机的主要设备之一,功能主要是解释计算机指令以及处理计算机软件中的数据。计算机的可编程性主要是指对中央处理器的编程。中央处理器、内部存储器和输入/输出设备是现代电脑的三大核心部件。1970年代以前,中央处理器由多个独立单元构成,后来发展出由集成电路制造的中央处理器,這些高度收縮的元件就是所謂的微处理器,其中分出的中央处理器最為复杂的电路可以做成单一微小功能强大的单元。 中央处理器廣義上指一系列可以执行复杂的计算机程序的逻辑机器。这个空泛的定义很容易地将在“CPU”这个名称被普遍使用之前的早期计算机也包括在内。无论如何,至少从1960年代早期开始,这个名称及其缩写已开始在电子计算机产业中得到广泛应用。尽管与早期相比,“中央处理器”在物理形态、设计制造和具体任务的执行上有了极大的发展,但是其基本的操作原理一直没有改变。 早期的中央处理器通常是为大型及特定应用的计算机而定制。但是,这种昂贵的为特定应用定制CPU的方法很大程度上已经让位于开发便宜、标准化、适用于一个或多个目的的处理器类。这个标准化趋势始于由单个晶体管组成的大型机和微机年代,随着集成电路的出现而加速。IC使得更为复杂的中央处理器可以在很小的空间中设计和制造(在微米的數量级)。中央处理器的标准化和小型化都使得这一类数字设备和電子零件在现代生活中的出现频率远远超过有限应用专用的计算机。现代微处理器出现在包括从汽车到手机到儿童玩具在内的各种物品中。.

新!!: 并行计算和中央处理器 · 查看更多 »

一维线性连接

并行计算 Category:并行计算.

新!!: 并行计算和一维线性连接 · 查看更多 »

平均延迟标准

平均延迟(Mean Tardiness),指所有个别流延迟的平均值,平均延迟时间指输出信号滞后于输入信号的时间,它是表示开关速度的参数。 Category:運籌學.

新!!: 并行计算和平均延迟标准 · 查看更多 »

并发计算

并发计算(Concurrent computing,或譯為並行處理、共時計算),是一種程式計算的形式,在系統中,至少有兩個以上的計算在同時運作,計算結果可能同時發生。用來實作並行系統(Concurrent system)的程式語言與各種演算法,統稱為並行計算。 並行程式通常被設計為互動式的運算過程,因為它的運算過程是不確定的,在設計上的難度較高。設計並行程式最大的挑戰,在於確保不同運算執行步驟間的互動或是通訊,能以正確的順序進行,同時,也要確保在不同執行步驟間共享的資源,能夠正確被存取。在這個領域的先驅人物有艾兹赫尔·戴克斯特拉、東尼·霍爾與泊·派克·漢森等人。.

新!!: 并行计算和并发计算 · 查看更多 »

并行向量处理机

向量处理器,又称数组处理器,是一种实现了直接操作一维数组(向量)指令集的中央处理器(CPU)。这与一次只能处理一个数据的标量处理器正相反。向量处理器可以在特定工作环境中极大地提升性能,尤其是在数值模拟或者相似领域。向量处理器最早出现于20世纪70年代早期,并在70年代到90年代期间成为超级计算机设计的主导方向,尤其是多个克雷(Cray)平台。由于90年代末常规处理器设计性能提升,而價格快速下降,基于向量处理器的超级计算机逐渐让出了主导地位。 现在,绝大多数商业化的CPU实现都能够提供某种形式的向量处理的指令,用来处理多个(向量化的)数据集,也就是所谓的SIMD(单一指令、多重数据)。常见的例子有 VIS, MMX, SSE, AltiVec 和 AVX。向量处理技术也能在游戏主机硬件和图形加速硬件上看到。在2000年,IBM,东芝和索尼合作开发了Cell处理器,集成了一个标量处理器和八个向量处理器,应用在索尼的PlayStation 3游戏机和其他一些产品中。 其他CPU设计还可能包括多重指令处理多重(向量化的)数据集的技术——也就是所谓的MIMD(多重指令、多重数据)——并实现了VLIM。此类设计通常用于特定应用场合,而不是面向通用计算机的市场化产品。在富士通的 FR-V VLIW/vector 处理器中,组合使用了两种技术。.

新!!: 并行计算和并行向量处理机 · 查看更多 »

并行快速傅里叶变换

没有描述。

新!!: 并行计算和并行快速傅里叶变换 · 查看更多 »

并行排序

并行排序算法是计算机并行计算能力大大发展之后,为了提高排序效率而提出的算法。.

新!!: 并行计算和并行排序 · 查看更多 »

任务并行

任務平行(Task parallelism),也稱為功能平行(function parallelism)或控制平行(control parallelism),是平行計算程序设计模型的一种。在这个模型中,每一个线程执行一个分配到的任务,而这些线程则被分配(通常是操作系统内核)到该并行计算体系的各个计算节点中去。.

新!!: 并行计算和任务并行 · 查看更多 »

分布式共享存储处理机

分散式共享記憶體(英語:Distributed shared memory,簡稱DSM), 也被視為一種分散的全域地址空間 (Distributed Global Address Space), 屬於電腦科學的一種機制,可以透過硬體或軟體來實作。分散式共享記憶體主要使用在叢集電腦中,叢集電腦中的每一個網路結點(node)都有非共享的記憶體空間與共享的記憶體空間。該共享記憶體的位置空間(address space)在所有結點是一致的。簡單說,同一時間下在結點A讀取0x00001234會和結點B讀取0x00001234得到一樣的值。.

新!!: 并行计算和分布式共享存储处理机 · 查看更多 »

嵌入

嵌入可以指:.

新!!: 并行计算和嵌入 · 查看更多 »

全高速缓存访存模型

并行计算 Category:并行计算.

新!!: 并行计算和全高速缓存访存模型 · 查看更多 »

算法

-- 算法(algorithm),在數學(算學)和電腦科學之中,為任何良定义的具體計算步驟的一个序列,常用於計算、和自動推理。精確而言,算法是一個表示爲有限長列表的。算法應包含清晰定義的指令用於計算函數。 算法中的指令描述的是一個計算,當其時能從一個初始狀態和初始輸入(可能爲空)開始,經過一系列有限而清晰定義的狀態最終產生輸出並停止於一個終態。一個狀態到另一個狀態的轉移不一定是確定的。隨機化算法在内的一些算法,包含了一些隨機輸入。 形式化算法的概念部分源自尝试解决希尔伯特提出的判定问题,並在其后尝试定义或者中成形。这些尝试包括库尔特·哥德尔、雅克·埃尔布朗和斯蒂芬·科尔·克莱尼分别于1930年、1934年和1935年提出的遞歸函數,阿隆佐·邱奇於1936年提出的λ演算,1936年的Formulation 1和艾倫·圖靈1937年提出的圖靈機。即使在當前,依然常有直覺想法難以定義爲形式化算法的情況。.

新!!: 并行计算和算法 · 查看更多 »

约翰·冯·诺伊曼

约翰·冯·诺伊曼(John von Neumann,,,),原名诺依曼·雅诺士·拉约士(Neumann János Lajos,),出生於匈牙利的美國籍猶太人数学家,现代電子計算機与博弈论的重要创始人,在泛函分析、遍历理论、几何学、拓扑学和数值分析等众多数学领域及計算機學、量子力學和经济学中都有重大貢獻。 冯·诺伊曼从小就以过人的智力与记忆力而闻名。冯·诺伊曼一生中发表了大约150篇论文,其中有60篇纯数学论文,20篇物理学以及60篇应用数学论文。他最后的作品是一个在医院未完成的手稿,后来以书名《》发布,表现了他生命最后时光的兴趣方向。 “诺依曼”和“诺伊曼”2种同音不同字的德音汉语译名写法都比较常见。另外也有资料采用其英音汉语译名“冯纽曼”。.

新!!: 并行计算和约翰·冯·诺伊曼 · 查看更多 »

网孔连接

二维网孔有以下两种常见的变形:.

新!!: 并行计算和网孔连接 · 查看更多 »

网络直径

网络直径(network diameter)是指网络中任意两节点间的最长距离,一般用链路树来度量。通常要提高網路傳輸的品質和速度下,網路直徑就會減小。.

新!!: 并行计算和网络直径 · 查看更多 »

节点度

节点(顶点)的度是指和该节点(顶点)相关联的边的条数。特别地,对于有向图,.

新!!: 并行计算和节点度 · 查看更多 »

非均匀访存模型

非统一内存访问架构(Non-uniform memory access,简称NUMA)是一种为多处理器的电脑设计的内存,内存访问时间取决于内存相对于处理器的位置。在NUMA下,处理器访问它自己的本地内存的速度比非本地内存(内存位于另一个处理器,或者是处理器之间共享的内存)快一些。 非统一内存访问架构的特点是:被共享的内存物理上是分布式的,所有这些内存的集合就是全局地址空间。所以处理器访问这些内存的时间是不一样的,显然访问本地内存的速度要比访问全局共享内存或远程访问外地内存要快些。另外,NUMA中内存可能是分层的:本地内存,群内共享内存,全局共享内存。 NUMA架构在逻辑上遵循对称多处理(SMP)架构。它是在二十世纪九十年代被开发出来的,开发商包括Burruphs(后来的优利系统),Convex Computer(后来的惠普),意大利霍尼韦尔信息系统(HISI)(后来的Group Bull),Silicon Graphics公司(后来的硅谷图形),Sequent电脑系统(后来的IBM),通用数据(EMC),Digital(后来的Compaq,现惠普)。这些公司研发的技术后来在类Unix操作系统中大放异彩,并在一定程度上运用到了Windows NT中。 首个基于NUMA的Unix系统商业化实现是对称多处理XPS-100系列服务器,它是由VAST公司的Dan Gielen为HISI设计。这个架构的巨大成功使HISI成为了欧洲的顶级Unix厂商。.

新!!: 并行计算和非均匀访存模型 · 查看更多 »

非远程存储访问模型

并行计算 Category:并行计算.

新!!: 并行计算和非远程存储访问模型 · 查看更多 »

訊息傳遞介面

訊息傳遞界面/接口(Message Passing Interface,縮寫MPI)是一個平行計算的應用程式接口(API),常在超級電腦、電腦叢集等非共享內存環境程序設計。.

新!!: 并行计算和訊息傳遞介面 · 查看更多 »

计算机科学

计算机科学用于解决信息与计算的理论基础,以及实现和应用它们的实用技术。 计算机科学(computer science,有时缩写为CS)是系统性研究信息与计算的理论基础以及它们在计算机系统中如何与应用的实用技术的学科。 它通常被形容为对那些创造、描述以及转换信息的算法处理的系统研究。计算机科学包含很多分支领域;有些强调特定结果的计算,比如计算机图形学;而有些是探討计算问题的性质,比如计算复杂性理论;还有一些领域專注于怎样实现计算,比如程式語言理論是研究描述计算的方法,而程式设计是应用特定的程式語言解决特定的计算问题,人机交互则是專注于怎样使计算机和计算变得有用、好用,以及随时随地为人所用。 有时公众会误以为计算机科学就是解决计算机问题的事业(比如信息技术),或者只是与使用计算机的经验有关,如玩游戏、上网或者文字处理。其实计算机科学所关注的,不仅仅是去理解实现类似游戏、浏览器这些软件的程序的性质,更要通过现有的知识创造新的程序或者改进已有的程序。 尽管计算机科学(computer science)的名字里包含计算机这几个字,但实际上计算机科学相当数量的领域都不涉及计算机本身的研究。因此,一些新的名字被提议出来。某些重点大学的院系倾向于术语计算科学(computing science),以精确强调两者之间的不同。丹麦科学家Peter Naur建议使用术语"datalogy",以反映这一事实,即科学学科是围绕着数据和数据处理,而不一定要涉及计算机。第一个使用这个术语的科学机构是哥本哈根大学Datalogy学院,该学院成立于1969年,Peter Naur便是第一任教授。这个术语主要被用于北欧国家。同时,在计算技术发展初期,《ACM通讯》建议了一些针对计算领域从业人员的术语:turingineer,turologist,flow-charts-man,applied meta-mathematician及applied epistemologist。 三个月后在同样的期刊上,comptologist被提出,第二年又变成了hypologist。 术语computics也曾经被提议过。在欧洲大陆,起源于信息(information)和数学或者自动(automatic)的名字比起源于计算机或者计算(computation)更常见,如informatique(法语),Informatik(德语),informatika(斯拉夫语族)。 著名计算机科学家Edsger Dijkstra曾经指出:“计算机科学并不只是关于计算机,就像天文学并不只是关于望远镜一样。”("Computer science is no more about computers than astronomy is about telescopes.")设计、部署计算机和计算机系统通常被认为是非计算机科学学科的领域。例如,研究计算机硬件被看作是计算机工程的一部分,而对于商业计算机系统的研究和部署被称为信息技术或者信息系统。然而,现如今也越来越多地融合了各类计算机相关学科的思想。计算机科学研究也经常与其它学科交叉,比如心理学,认知科学,语言学,数学,物理学,统计学和经济学。 计算机科学被认为比其它科学学科与数学的联系更加密切,一些观察者说计算就是一门数学科学。 早期计算机科学受数学研究成果的影响很大,如Kurt Gödel和Alan Turing,这两个领域在某些学科,例如数理逻辑、范畴论、域理论和代数,也不断有有益的思想交流。.

新!!: 并行计算和计算机科学 · 查看更多 »

資料平行

資料平行(Data parallelism,又譯為數據平行),是一種多處理器的平行運算模式,將資料分配到不同的平行運算節點中。資料平行把大的任务化解成若干个相同的子任务,处理起来比任务平行简单。.

新!!: 并行计算和資料平行 · 查看更多 »

超立方体连接

超立方体连接可以作为格雷码的一个几何解释。一个4维的超立方体在三维空间中的投影是由两个立方体连接而成的,编号平面的方向和连接方向是一样的。对于一个N.

新!!: 并行计算和超立方体连接 · 查看更多 »

阿姆达尔定律

阿姆達爾定律(Amdahl's law,Amdahl's argument),一個計算機科學界的經驗法則,因吉恩·阿姆達爾而得名。它代表了處理器并行運算之後效率提升的能力。.

新!!: 并行计算和阿姆达尔定律 · 查看更多 »

LogP模型

LogP是由大衛·卡勒等人提出的,它使用了L,O,G,P四个参数来描述这个模型。; L (Latency):表示信息从源到目的地所需的时间;; O (Overhead):表示处理器接受或发送一条消息所需额外开销,并且在此期间处理器不能做作任何操作;; G (Gap):表示处理器连续进行两次发送或接收消息之间必须有的时间间隔;; P (Processor):表示处理器的数目。 由上可以看出,LogP模型一方面充分讨论了网络的通信特性,另一方面却放弃了对网络拓扑的讨论。在LogP中没有出现超级步的概念,这是因为LogP中是消息同步的,也就是说,一旦消息到达了处理器我们就可以使用,而不必要等到下一个超级步。.

新!!: 并行计算和LogP模型 · 查看更多 »

PRAM模型

没有描述。

新!!: 并行计算和PRAM模型 · 查看更多 »

Sun-Ni定理

没有描述。

新!!: 并行计算和Sun-Ni定理 · 查看更多 »

洗牌交换连接

洗牌交换连接是一种非常有意思的连接,它是两种连接的组合:洗牌(Shuffle)与交换(Exchange)。 洗牌连接是按照以下方法连接的,首先,我们假设有8个节点,从0到7编号。然后将它分成两半,并像洗牌那样,将一组中的一张牌放到另一组的另一张牌之上。于是,原先的次序就变成了04152637,然后你对照的列出原来的次序01234567,于是洗牌连接就是将0连到0,4连到1,1连到2......

新!!: 并行计算和洗牌交换连接 · 查看更多 »

整体同步并行计算模型

整体同步并行计算模型(Bulk Synchronous Parallel Computing Model),又名大同步模型或BSP模型,由哈佛大学Viliant和牛津大学Bill McColl提出。 BSP的创始人是英国著名的计算机科学家Valiant,他希望像冯·诺伊曼体系结构那样,架起计算机程序语言和体系结构间的桥梁,故又称作桥模型(Bridge Model)。该模型使用了三个属性描述:模块(Components)、选路器(Router)和同步路障器执行时间L。.

新!!: 并行计算和整体同步并行计算模型 · 查看更多 »

执行时间

并行计算 Category:并行计算.

新!!: 并行计算和执行时间 · 查看更多 »

总线

总线(Bus)是指计算机组件间规范化的交换数据(data)的方式,即以一种通用的方式为各组件提供数据传送和控制逻辑。從另一個角度來看,如果說主機板(Mother Board)是一座城市,那麼匯流排就像是城市裡的公共汽車(bus),能按照固定行車路線,傳輸來回不停運作的位元(bit)。這些線路在同一時間內都僅能負責傳輸一個位元。因此,必須同時採用多條線路才能傳送更多資料,而匯流排可同時傳輸的資料數就稱為寬度(width),以位元為單位,匯流排寬度愈大,傳輸效能就愈佳。匯流排的頻寬(即單位時間內可以傳輸的總資料數)為:匯流排頻寬.

新!!: 并行计算和总线 · 查看更多 »

重定向到这里:

並行運算平行計算平行计算平行處理并行算法并行计算机

传出传入
嘿!我们在Facebook上吧! »