帳モメのotanuft

Stay hungry, stay foolish.

2013-11-01から1ヶ月間の記事一覧

リモートからHadoopのJobをキックするとき

Configuration conf =new Configuration(); conf.set(FileSystem.FS_DEFAULT_NAME_KEY, "hdfs://192.168.0.1:8020"); としないと、 java.lang.IllegalArgumentException: Wrong FS: hdfs://192.168.0.1:8020/***, expected: file:///でエラーになる。 スキー…

JavaのRuntime.execでCannot allocate memory

もし今サーバーがUnix系OSでJavaでRuntime.exec()を使おうと思っているなら、今すぐ別の方法を検討してください。後でとんでもない目にあいますよ。 http://d.hatena.ne.jp/Kazumi007/20090930/1254319746 とんでもない目にあいました。 実行系は、Linux JDK…

HiveServer2を利用してJDBC経由でクエリ投げたらPermission denied

HDFSのPermissionと、HiveServerへのJDBC接続のuserをあわせる。

HadoopのJob設定時のConfigurationの注意

Hadoop 1.x系 Job job = new Job(conf, "jobName"); でJobを作った後に、 job.getConfiguration().set("name", "value"); で設定した値は、Mapperから読み取ることはできない。 new Jobする前に、 Configuration conf = new Configuration(); conf.set("a", …