본문 바로가기

Items

(391)
Write failed: Broken pipe Message : Write failed: Broken pipe hadoop 서버 4 대를 구성하고 어느날 2,3,4 번 서버를 내렸다가 올렸다. 그리고 난 후 1번 서버에서 2,3,4 모두로 ssh 가 문제가 생겼다. 열심히 검색해보고 찾아봤더니 방법은 1. 서버를 내렸다 올린다. 2. /etc/ssh/sshd_config 설정의 특정 옵션을 설정해준다. [root@h001 ~]# vi /etc/ssh/sshd_config ClientAliveInterval 60 ClientAliveCountMax 3 그런데 다시 들어가서 해보니 된다. 시간이 또 너무 타오를 것 같아서 skip 하는 것으로 ... 그냥 두고 못보는 스타일이지만 좀 지쳤다 ㅠ.ㅠ;:
SSH in Linux with voice [하둡] ssh 설치 입니다. 가상머신 vmware Linux Centos Server 4 EA commands used ssh-keygent -t rsa ssh h002 cp id_rsa.pub authorized_keys chmod 700 .ssh chmod 644 authorized_keys ssh h002 "cat ./.ssh/id_rsa.pub" authorized_keys
[hadoop@h001 ~]$ cat .hivehistory with 항공데이터 [hadoop@h001 ~]$ cat .hivehistory show tables;show databases;show databases; create table jtemp01 (a int, b string);create table jtmep01_invites (a int, b string) partitioned by (cs string); describe jtemp01;describe jtemp01_invites;alter table jtemp01 add columns (new_col int);alter table invites add columns ( new_col2 int comment 'aaaa comment');alter table jtmep01_invites add columns( new_col..
HIVE 상에서 사용할 수 있는 명령어 HIVE 상에서 사용할 수 있는 명령어 ! != $ELEM$$KEY$ $VALUE$ $elem$$key$ $value$ %& ( )); * +, - ./ : = ADD ALLALTER AND ARRAYAS ASC BIGINTBINARY BOOLEAN BUCKETBUCKETS BY CASTCLUSTER CLUSTERED COLLECTIONCOLUMNS COMMENT CREATEDATA DATE DATETIMEDELIMITED DESC DESCRIBEDIRECTORY DISTINCT DISTRIBUTEDOUBLE DROP EXPLAINEXTENDED EXTERNAL FALSEFIELDS FLOAT FORMATFROM FULL FUNCTIONGROUP INPATH INPUTFORMATINSERT INT INT..
Brief introduction of myself here. Brief introduction of myself here. Name : Jacob Cho. Am interested in Data analytics. Has DAP, SQLP. Studied this kinds of books captured of my bookcase . This is my personal workplace. It's like dark place :-). It's only for being absorbed in Big data analytics.Recently I have been studying Big data techs and surely, as you expected, troubling a lot in installing and building Hadoop eco system...
Algorithmic Illusions : Hidden Biases of Big Data in 2013 Strata Conference 2013 Strata Conference Kate Crawford, "Algorithmic Illusions : Hidden Biases of Big Data " [[ 2013 Strata Conference ]]동영상들이 들어볼 만 함. 시간 될 때 마다 하나식 check 예정 Table of ContentsO’Reilly Strata Conference 2013Distributed Environmental Data: On the Ground at the Data Sensing LabI. KeynotesYael Garten, "Big Data on Small Devices: Data Science goes Mobile"Eric Colson, "Committing to Recommendation Algo..
Hive install and QL use with no voice It's SQLike but results in output by running map-reduce You should install hadoop before starting this hive installation cause hive us hdfs of hadoop HIVE 설치 및 HIVEQuery 사용하는 내용을 담았습니다. (* 먼저는 Hadoop 이 설치되어 있어야 합니다) - Hive 설치 ( MetaStoreDB 를 위한 Mysql 이 아닌 Derby 사용 하였습니다. - Mysql 은 추후에 시도해 보렵니다.) - Hive configuration (정확한 설정부분은 저도 좀 더 study 가 필요합니다. 됐다가 안됐다가 ㅠㅠ)- Hive Basic Query - 외부 데이타 밀어넣기 항공..
NameNode format and put the file into HDFS [ Hadoop bigdata ] NameNode format and put the file into HDFS [ Hadoop bigdata ]