在 Map reduce java 中跳过 .csv 的第一行

Skipping the first line of the .csv in Map reduce java(在 Map reduce java 中跳过 .csv 的第一行)
本文介绍了在 Map reduce java 中跳过 .csv 的第一行的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着跟版网的小编来一起学习吧!

问题描述

限时送ChatGPT账号..

由于 mapper 函数对每一行都运行,我可以知道如何跳过第一行吗?对于某些文件,它包含我想忽略的列标题

As mapper function runs for every line , can i know the way how to skip the first line. For some file it consists of column header which i want to ignore

推荐答案

在mapper中读取文件时,数据以键值对的形式读入.关键是下一行开始的字节偏移量.对于第 1 行,它始终为零.所以在映射器函数中执行以下操作

In mapper while reading the file, the data is read in as key-value pair. The key is the byte offset where the next line starts. For line 1 it is always zero. So in mapper function do the following

    @Override
    public void map(LongWritable key, Text value, Context context) throws IOException {
        try {
            if (key.get() == 0 && value.toString().contains("header") /*Some condition satisfying it is header*/)
                return;
            else {
                // For rest of data it goes here
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
    }     

这篇关于在 Map reduce java 中跳过 .csv 的第一行的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持跟版网!

本站部分内容来源互联网,如果有图片或者内容侵犯了您的权益,请联系我们,我们会在确认后第一时间进行删除!

相关文档推荐

How to send data to COM PORT using JAVA?(如何使用 JAVA 向 COM PORT 发送数据?)
How to make a report page direction to change to quot;rtlquot;?(如何使报表页面方向更改为“rtl?)
Use cyrillic .properties file in eclipse project(在 Eclipse 项目中使用西里尔文 .properties 文件)
Is there any way to detect an RTL language in Java?(有没有办法在 Java 中检测 RTL 语言?)
How to load resource bundle messages from DB in Java?(如何在 Java 中从 DB 加载资源包消息?)
How do I change the default locale settings in Java to make them consistent?(如何更改 Java 中的默认语言环境设置以使其保持一致?)