1、引言-单机体系结构与并行计算环境的相关性发展 单机体系结构,单机: 微型/小型/中型/大型/巨型计算机; 紧密耦合多处理机特点:运算器单/多CPU ; 控制器集中式; 存储器全局分时共享; I/O系统总线互联问题: 运算器为中心; 程序和数据同等对待解决: 软硬件功能分配; 好的性能价格比,引言-单机体系结构与并行计算环境的相关性发展 网络计算环境,网络计算: 多个计算机用户共享网络计算资源协同工作; 单个计算机用户使用网络计算资源独立工作特点: “运算器”多计算机系统; “控制器”分布式; “存储器”物理分布、逻辑共享; “I/O系统”网“线” 互联问题: 互联互通; 资源共享; 系统安全,
2、引言-单机体系结构与并行计算环境的相关性发展 整体结构相关性-1, 运算器双CPU多计算机系统 控制器DMA,IOP服务器+网管软硬件 存储器SM,DMDSM,NAS,SAN ,DAS I/O系统IO通道及设备分时共享网络共享,引言-单机体系结构与并行计算环境的相关性发展 整体结构相关性-2(云),传统体系结构,并行计算体系结构,引言-单机体系结构与并行计算环境的相关性发展 算法,传统算法顺序存储顺序执行并行算法任务分解并行执行,精确求解,正确求解,加速比,效率,可扩放性,引言-单机体系结构与并行计算环境的相关性发展 编程方法,传统编程方法高级语言及应用语言程序设计算法实现并行编程方法网络程序
3、设计判断程序并行化借用法重新设计,WWW-What? Why? How?-1,什么是并行计算?(What is Parallel Computing)并行计算就是在并行计算机或分布式计算机等高性能计算机系统上所做的超级计算。包括:体系结构、算法和编程为什么要学习并行计算? (Why do we study P.C.)加快计算速度,缩短运行时间提高计算精度增强模型计算问题(非数值计算问题),WWH-What? Why? How?-2,如何学习并行计算? (How to study P.C.)算法与体系结构相结合算法与编程相结合算法与应用相结合算法与技术相结合,课程内容,层次 以算法为核心,涉及算
4、法理论实现技术,并行计算相关问题,砌墙问题问题描述:,解决方法,求解方法-区域划分问题为例-1,纵向划分假设用8人,即处理器数N=8问题分为8部分(8段)每段长为l设工人工作速度相同期望得到加速比为s,sN理想效率: =S/N1(100%)实际效率 考虑到交叉等待时间l overlap 实际 = 1-其中 c 是一个取决于交叉问题实际情况的常数; l是交叉长度。,求解方法-区域划分问题为例-2,水平划分如果允许每人差一块砖开始工作,那么当第一人砌完第7块砖开始砌第8块砖时,第8人开始并行工作loverlap较小前期等待时间长当l相对较长时,较好投入人数受墙高限制(即层数限制)即并行度小。可见效率和并行度仍是一对矛盾!,求解方法-区域划分问题为例-3,参考资料,教学大纲见附件教材并行计算 结构 算法 编程 中国科大 . 陈国良编著. 高教出版社出版.教学教学方式: 课堂教学考试:开卷,