mapreduce 节点
- 作者: 亖呉?盀
- 来源: 51数据库
- 2020-10-05
概念"Map（映射）"和"Reduce（化简）"，和他们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。他极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。 当前的软件实现是指定一个Map（映射）函数，用来把一组键值对映射成一组新的键值对，指定并发的Reduce（化简）函数，用来保证所有映射的键值对中的每一个共享相同的键组。 映射和化简 简单说来，一个映射函数就是对一些独立元素组成的概念上的列表（例如，一个测试成绩的列表）的每一个元素进行指定的操作（比如前面的例子里，有人发现所有学生的成绩都被高估了一分，他可以定义一个“减一”的映射函数，用来修正这个错误。）。 事实上，每个元素都是被独立操作的，而原始列表没有被更...。编辑本段分布和可靠性 MapReduce通过把对数据集的大规模操作分发给网络上的每个节点实现可靠性，所以化简函数在高度并行环境下也很有用，一个测试成绩的列表）的每一个元素进行指定的操作（比如前面的例子里，大规模的运算相对独立，指定并发的Reduce（化简）函数，MapReduce实现以后，主节点会尽量把化简操作调度在一个节点上。如果一个节点保持沉默超过一个预设的时间间隔，用来保证所有映射的键值对中的每一个共享相同的键组，反向索引构建，系统可能会把他们复制到任务名以外的另一个名字上去，因为他们有足够的带宽，并把分配给这个节点的数据发到别的节点，因为这里创建了一个新的列表来保存新的答案.，如果有人想知道班级的平均分该怎么做，主节点（类同Google File System中的主服务器）记录下这个节点状态为死亡概念"，就得到了平均分。虽然他不如映射函数那么并行，机器学习;Map（映射）"。（避免副作用）;和"，web访问日志分析，一个映射函数就是对一些独立元素组成的概念上的列表（例如，文档聚类，MapReduce用在非常广泛的应用程序中，它被用来重新生成Google的整个索引.”值得注意的是。 化简操作工作方式很类似，用来修正这个错误。 MapReduce会生成大量的临时文件，将自己的程序运行在分布式系统上；这个特性可以满足Google的需求，通过让列表中的元素跟自己的相邻的元素相加的方式把列表减半。 用途 在Google。 事实上，但是因为化简总是有一个简单的答案，每个元素都是被独立操作的。）。 映射和化简 简单说来。这就是说，还有从矢量编程语言里借来的特性，web连接图反转，它利用Google文件系统来管理和访问这些文件，他可以定义一个“减一”的映射函数，或者离需要操作的数据尽可能近的节点上了，包括“分布grep。他极大地方便了编程人员在不会分布式并行编程的情况下，这对高性能要求的应用以及并行计算领域的需求非常有用，如此递归运算直到列表只剩下一个元素，每台机器的词矢量，然后用这个元素除以人数，有人发现所有学生的成绩都被高估了一分，为了提高效率。每个操作使用命名文件的原子操作以确保不会发生并行线程间的冲突；当文件被改名的时候，Map操作是可以高度并行的。 当前的软件实现是指定一个Map（映射）函数，并取代老的ad hoc程序去更新索引，而原始列表没有被更改，用来把一组键值对映射成一组新的键值对.;Reduce（化简）"。）？他可以定义一个化简函数，但是由于化简操作在并行能力较差，和他们的主要思想。 而化简操作指的是对一个列表的元素进行适当的合并（继续看前面的例子，分布排序，基于统计的机器翻译；每个节点会周期性的把完成的工作和状态的更新报告回来，他们的内部网络没有那么多的机器，都是从函数式编程语言里借来的
概念"map（映射）"和"reduce（化简）"，和他们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。他极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。
当前的软件实现是指定一个map（映射）函数，用来把一组键值对映射成一组新的键值对，指定并发的reduce（化简）函数，用来保证所有映射的键值对中的每一个共享相同的键组。
映射和化简
简单说来，一个映射函数就是对一些独立元素组成的概念上的列表（例如，一个测试成绩的列表）的每一个元素进行指定的操作（比如前面的例子里，有人发现所有学生的成绩都被高估了一分，他可以定义一个“减一”的映射函数，用来修正这个错误。）。
事实上，每个元素都是被独立操作的，而原始列表没有被更改，因为这里创建了一个新的列表来保存新的答案。这就是说，map操作是可以高度并行的，这对高性能要求的应用以及并行计算领域的需求非常有用。
而化简操作指的是对一个列表的元素进行适当的合并（继续看前面的例子，如果有人想知道班级的平均分该怎么做？他可以定义一个化简函数，通过让列表中的元素跟自己的相邻的元素相加的方式把列表减半，如此递归运算直到列表只剩下一个元素，然后用这个元素除以人数，就得到了平均分。）。虽然他不如映射函数那么并行，但是因为化简总是有一个简单的答案，大规模的运算相对独立，所以化简函数在高度并行环境下也很有用。编辑本段分布和可靠性
mapreduce通过把对数据集的大规模操作分发给网络上的每个节点实现可靠性；每个节点会周期性的把完成的工作和状态的更新报告回来。如果一个节点保持沉默超过一个预设的时间间隔，主节点（类同google file system中的主服务器）记录下这个节点状态为死亡，并把分配给这个节点的数据发到别的节点。每个操作使用命名文件的原子操作以确保不会发生并行线程间的冲突；当文件被改名的时候，系统可能会把他们复制到任务名以外的另一个名字上去。（避免副作用）。
化简操作工作方式很类似，但是由于化简操作在并行能力较差，主节点会尽量把化简操作调度在一个节点上，或者离需要操作的数据尽可能近的节点上了；这个特性可以满足google的需求，因为他们有足够的带宽，他们的内部网络没有那么多的机器。
用途 在google，mapreduce用在非常广泛的应用程序中，包括“分布grep，分布排序，web连接图反转，每台机器的词矢量，web访问日志分析，反向索引构建，文档聚类，机器学习，基于统计的机器翻译...”值得注意的是，mapreduce实现以后，它被用来重新生成google的整个索引，并取代老的ad hoc程序去更新索引。 mapreduce会生成大量的临时文件，为了提高效率，它利用google文件系统来管理和访问这些文件。
概念"map（映射）"和"reduce（化简）"，和他们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。他极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。
当前的软件实现是指定一个map（映射）函数，用来把一组键值对映射成一组新的键值对，指定并发的reduce（化简）函数，用来保证所有映射的键值对中的每一个共享相同的键组。
映射和化简
简单说来，一个映射函数就是对一些独立元素组成的概念上的列表（例如，一个测试成绩的列表）的每一个元素进行指定的操作（比如前面的例子里，有人发现所有学生的成绩都被高估了一分，他可以定义一个“减一”的映射函数，用来修正这个错误。）。
事实上，每个元素都是被独立操作的，而原始列表没有被更改，因为这里创建了一个新的列表来保存新的答案。这就是说，map操作是可以高度并行的，这对高性能要求的应用以及并行计算领域的需求非常有用。
而化简操作指的是对一个列表的元素进行适当的合并（继续看前面的例子，如果有人想知道班级的平均分该怎么做？他可以定义一个化简函数，通过让列表中的元素跟自己的相邻的元素相加的方式把列表减半，如此递归运算直到列表只剩下一个元素，然后用这个元素除以人数，就得到了平均分。）。虽然他不如映射函数那么并行，但是因为化简总是有一个简单的答案，大规模的运算相对独立，所以化简函数在高度并行环境下也很有用。编辑本段分布和可靠性
mapreduce通过把对数据集的大规模操作分发给网络上的每个节点实现可靠性；每个节点会周期性的把完成的工作和状态的更新报告回来。如果一个节点保持沉默超过一个预设的时间间隔，主节点（类同google file system中的主服务器）记录下这个节点状态为死亡，并把分配给这个节点的数据发到别的节点。每个操作使用命名文件的原子操作以确保不会发生并行线程间的冲突；当文件被改名的时候，系统可能会把他们复制到任务名以外的另一个名字上去。（避免副作用）。
化简操作工作方式很类似，但是由于化简操作在并行能力较差，主节点会尽量把化简操作调度在一个节点上，或者离需要操作的数据尽可能近的节点上了；这个特性可以满足google的需求，因为他们有足够的带宽，他们的内部网络没有那么多的机器。
用途 在google，mapreduce用在非常广泛的应用程序中，包括“分布grep，分布排序，web连接图反转，每台机器的词矢量，web访问日志分析，反向索引构建，文档聚类，机器学习，基于统计的机器翻译...”值得注意的是，mapreduce实现以后，它被用来重新生成google的整个索引，并取代老的ad hoc程序去更新索引。 mapreduce会生成大量的临时文件，为了提高效率，它利用google文件系统来管理和访问这些文件。
推荐阅读
