타이타닉 데이터 분석 3.Feature Engineering (Final)

-

#테스트의 생존자 열에 NA값을 넣고 rbind를 이용해 두 시트를 합친다.

test$Survived <-na p="">combi <-rbind test="" train="">


#R에선 문자열은 팩터화시키는데 이를 케릭터화시킨다. text character는 문자열을 분리할 수 있다.

combi$Name <- ame="" as.character="" combi="" p="">combi$Name[1]
[1] "Braund, Mr. Owen Harris"


#,와. 를 기준으로 문자열을 분리시킨다.

strsplit(combi$Name[1], split='[,.]')
[[1]]
[1] "Braund"       " Mr"          " Owen Harris"



#Mr라는 단어만 분리시킨다.

strsplit(combi$Name[1], split='[,.]')[[1]][2]
[1] " Mr"


#combi의 title열에 함수의 조건에 맞는 값들을 넣는다. 밑의 명령어의 결과값은 Mr,Miss,Mrs 등으로 표현 될 것이다.

combi$Title <- ame="" combi="" div="" fun="function(x)" sapply="" split="[,.]" strsplit="" x="">


#sapply란 무엇인가?

lapply: 결과를 리스트 형태로 반환
sapply: 벡터, 또는 행렬의 형태로 반환 (s: simplify)
> patients.sub
  weight height
1   65.4    170
2   55.0    155
3  380.0     NA
4   72.2    173
5   51.0    161
6     NA    166

> lapply( patients.sub, mean, na.rm = TRUE )
$weight
[1] 124.72

$height
[1] 165

> sapply( patients.sub, mean, na.rm = TRUE )
weight height
124.72 165.00 


#띄어쓰기를 없애고 깔끔하게 Mr,Mrs,Miss 등을 만든다.

combi$Title <- combi="" div="" itle="" sub="">


#sub란 무엇인가?

x=abcd(ef를 x=abcdef로 바꾸고 싶을때,
sub("||(","",x) 나 sub("(","",x,fixed=TRUE)를 이용해 바꿔야한다.
즉, sub는 단어나 글자를 바꿀 때 쓰인다.


#마무리로 Title열을 팩터화 시킨다.

combi$Title <- combi="" div="" factor="" itle="">


#가족 수 열을 만들어 구한다. 가족 수 또한 결과에 영향을 미칠 것이라는 추측.

combi$FamilySize <- 1="" arch="" combi="" div="" ibsp="">


#Surname 열을 추가해 sapply로 이름 열에서 첫번째 단어를 뽑아 대입한다.

combi$Surname <- ame="" combi="" div="" fun="function(x)" sapply="" split="[,.]" strsplit="" x="">


#FamilyID라는 열을 만들어 FamilySize와 Surname값들을 합쳐 대입한다.

combi$FamilyID <- amilysize="" as.character="" combi="" div="" paste="" sep="" urname="">


#가족 수가 2보다 작으면 small이라는 값을 넣는다.

combi$FamilyID[combi$FamilySize <= 2] <- div="" mall="">


#combi의 FamilyID로 famIDs라는 데이터 프레임을 만든다.

famIDs <- amilyid="" combi="" data.frame="" div="" table="">


#2보다 작은 값을 Freq에 넣는다.

famIDs <- 2="" div="" famids="" req="">


#패밀리 아이디를 덮어쓰고 팩터화 시킨다.

combi$FamilyID[combi$FamilyID %in% famIDs$Var1] <- div="" mall="">
combi$FamilyID <- amilyid="" combi="" div="" factor="">

#마지막으로 combi를 test와 train으로 분리시킨다.

train <- combi="" div="">
test <- combi="" div="">

#의사결정나무를 그리고 예측하고 저장한다.

fit <- age="" data="train," div="" embarked="" familyid="" familysize="" fare="" method="class" parch="" pclass="" rpart="" sex="" sibsp="" title="" urvived="">

Prediction <- div="" fit="" predict="" test="" type="class">
> submit <- assengerid="test$PassengerId," data.frame="" survived="Prediction)</div">
> write.csv(submit, file = "myfirstdtree.csv", row.names = FALSE)





Q. %in%은 무엇인가?

댓글

댓글 쓰기

이 블로그의 인기 게시물

윈도우 설치에서 파티션 설정 오류(NTFS)

-
이미지
요즘 컴퓨터 OS를 갈아엎느라 시간가는 줄 모르게 컴퓨터를 해댔다. 다른 거 할 수도 없었다. 네트워크도 공부해야하는데 하지 못했다. 그래서 내가 포맷하고 OS 설치하면서 겪은 오류들을 적고자 한다. 처음 OS를 쓰다가 USB로 OS를 설치하다 보면 전에 쓰던 OS를 갈아엎는 경우가 있다. 밑의 그림처럼 나올 것이다. 그럼 주 하드디스크를 포맷버튼 누르고 OS를 설치하고 싶을 것이다. 하지만 대부분은 오류가 떠서 안될텐데..되면 말고.. (출처: http://digitaku.com/719) 윈도우를 NTFS로 포맷된 파티션에 설치해야하다는 오류가 뜬다면 (출처: http://caleb1783.tistory.com/362) 1. 우선 설치 시작화면으로 돌아가서 2. shift+f10 으로 cmd를 띄운다. 3. diskpart 명령어를 치고 enter을 누른다. 4. list disk 를 통해 디스크 목록을 본다. 5. 포맷하고 싶은 디스크를 확인한다. 6. 만약 disk0이면 select disk0 을 통해 disk0을 선택한다. 7. 그리고 가장 중요한 clean 명령어를 통해 깨끗히 지운다. 8. exit을 통해 나간다. 9. 다시 컴퓨터를 껐다가 usb 부팅을 통해 OS를 설치한다.
자세한 내용 보기

[exploit writing] 1_스택 기반 오버플로우 (1) First

-
이미지
Corelan가 쓴 Exploit Writing 을 통해 이제 뭔가 보안 공부의 첫 걸음을 시작하려 한다. 목표 윈도우 xp에서 의 취약점을 이용한 스택 오버 플로우 한다. 준비 프로그램 1. kali (가상 머신) 2. windows xp (가상 머신) 3. windows xp 에서 windbg 4. windows xp 에서 펄 스크립트를 사용하기 위한 액티브펄 5. windows xp 에서 펄 스크립트를 사용하기 위한 per dev kit 6. Easy RM to MP3 Converter 과정 1. 우선 xp에서 Easy RM to MP3 Converter를 설치한다. 2. 빈 윈도우 xp에서는 위에 쓴 준비물 중 펄 스크립트 파일을 실행시키기 위한 프로그램들을 설치한다. 3. 메모장에 밑의 코드를 작성하고 test.pl이라는 이름으로 저장한다. my $file = "crash.m3u"; my $junk = "\x41" x 10000; open($FILE, ">$file"); print $FILE "$junk"; close($FILE); print "m3u File Created Successfully \n"; 4. 그럼 밑의 그림처럼 아이콘들이 있을 것이다. 6. test 파일을 실행 시키면 위에서 봤듯이 crash.m3u 라는 파일이 생성될 것이다. (커맨드 라인을 이용해서 test 파일을 실행시키면 m3u File Created Successfully 문구가 나옴) 7. 이제 Easy RM to MP3 Converter를 실행시키고 crash 파일을 LOAD 하면  에러 메시지가 나온다. 이 수행결과는 converter 가 crash 되지 않고, 정상적인 에러 메시지를 출력함을 알 수 있다. 8....
자세한 내용 보기

하둡 설치 오류 정리

-
이미지
길고 긴 설치였다. 이틀동안 하둡 설치하는데 시간을 다 썼다. 이 때까지 오류 나왔던 것들을 다시 한 번 정리하는 의미에서 글을 쓰겠다. 이 게시글은 설치 가이드가 아닌 오류를 정리하는 글이다. 우선 나의 하둡 설치 환경에 대해 설명하자면, VirtualBox 에서 3개의 우분투 16.04버젼을 설치하고 컴퓨터의 이름은 hadoop1-VirtualBox hadoop2 hadoop3으로 하였다.  첫번째 로 만났던 고난은 리눅스의 계정 관리였다. 되도록이면 adduser을 통해 3개의 가상 머신에 hadoop이라는 계정을 만들어주는 걸 강력 추천한다. 그래야 나중에 혼동이 없고 configure 파일 수정할 때 편리하다. hadoop@hadoop1-VirtualMachine $ 위와 같이 써있으면 전자 hadoop은 계정이고 후자는 컴퓨터 이름이다.  두번째 는 ras_pub 이었다. 즉, ssh 연결할 때 비밀번호 없이 공개 키를 주어 접속할 수 있도록하는 방법이다. hadoop@hadoop1에서 hadoop@hadoop2로 ssh 접속을 하기 위해 전자에서 후자로 공개 키를 복사해서 주었을 것이다. 책에서는 이렇게 하면 끝이라고 했지만 후자에서 전자로 또 공개 키를 복사해주는 것이 좋다고 한다.  세번째 는 네트워크 접속 거부이다. 여기서 엄청 애 먹었다. iptables 나 netstat을 통해 이것저것 다 해봤다. 가장 효과적인 것은 gufw 를 apt-get install 해서 방화벽을 재설정했다. 나는 9000, 9001, 50070, 50090 포트를 모두 열어놨고 내부 네트워크에서 오는 접속은 모두 허용했다. 마지막으로 내가 생각하는 해결책은 /etc/hosts 에 있는 파일을 수정하는 것이다. 설치 가이드를 보면 이 파일을 수정하게 되는데 아래와 같이 되어 있었다. 127.0.0.1 localhost 127.0.1.1 hadoop1 두번째 있는 127.0.1.1 ...
자세한 내용 보기