Hadoop:reducer 的数量不等于我在程序中设置的数量

Hadoop: Number of reducer is not equal to what I have set in program(Hadoop:reducer 的数量不等于我在程序中设置的数量)
本文介绍了Hadoop:reducer 的数量不等于我在程序中设置的数量的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着跟版网的小编来一起学习吧!

问题描述

限时送ChatGPT账号..

我在 mapred-site.xml 中将 mapred.tasktracker.reduce.tasks.maximum 设置为 10,并且我还在我的 jobConf.setNumReduceTasks(5)工作.

I have set mapred.tasktracker.reduce.tasks.maximum to 10 in mapred-site.xml, and I also write jobConf.setNumReduceTasks(5) in my job.

如果我在 Shell 中运行作业,一切正常.

Everything is ok if I run the job in Shell.

但是当我通过 eclipse 运行相同的作业时,只启动了一个 reducer.

But when I run the same job by eclipse, only one reducer was launched.

我尝试在 Eclipse 中编辑 Map/Reduce Locations,并将 mapred.reduce.tasks 设置为 10.但这仍然不起作用.

I try to edit Map/Reduce Locations in eclipse, and set mapred.reduce.tasks to 10. But that still doesn't work.

在eclipse中还有什么可以调整的参数吗?

Is there any other parameters I can adjust in eclipse?

推荐答案

在eclipse中运行好像是使用本地job runner.它只支持 0 或 1 个减速器.如果您尝试将其设置为使用多个减速器,它会忽略它并只使用一个.

Running it in eclipse seems to use the local job runner. It only supports 0 or 1 reducers. If you try to set it to use more than one reducer, it ignores it and just uses one anyway.

这篇关于Hadoop:reducer 的数量不等于我在程序中设置的数量的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持跟版网!

本站部分内容来源互联网,如果有图片或者内容侵犯了您的权益,请联系我们,我们会在确认后第一时间进行删除!

相关文档推荐

How to send data to COM PORT using JAVA?(如何使用 JAVA 向 COM PORT 发送数据?)
How to make a report page direction to change to quot;rtlquot;?(如何使报表页面方向更改为“rtl?)
Use cyrillic .properties file in eclipse project(在 Eclipse 项目中使用西里尔文 .properties 文件)
Is there any way to detect an RTL language in Java?(有没有办法在 Java 中检测 RTL 语言?)
How to load resource bundle messages from DB in Java?(如何在 Java 中从 DB 加载资源包消息?)
How do I change the default locale settings in Java to make them consistent?(如何更改 Java 中的默认语言环境设置以使其保持一致?)