데이터베이스와 빅데이터에 대한 나름대로의 고찰

-
파일시스템의 단점

1. 파일 시스템에 있는 데이터를 읽고 메모리에 올리는 부분이 컴퓨터의 연산 과정 중에 제일 느리다. 왜냐하면 파일시스템은 목차가 없는 책처럼 원하는 정보에 대한 위치를 모르기 때문에 처음부터 끝까지 찾아야한다.

2. 동시성 제어라는 문제가 있다. 어떤 두 사람이 같은 데이터를 사용할 경우 발생하는 문제를 말한다. 

3. 보안 문제. 파일에 데이터를 저장해 놓으면 파일에 접근할 수 있는 사람은 누구나 데이터를 볼 수 있으며 악의적인 사용자라면 남용할 수 있다.


데이터베이스

데이터 베이스는 위와 같은 파일시스템의 단점들을 보완하고 편의성을 높이기 위해 고안해낸 것이다. 그리고 데이터베이스를 도서관으로 비유하자면 , 도서관의 구성요소는 책, 책꽂이, 도서 관리 시스템이라 할 수 있다.

책은 데이터라 할 수있고
책꽂이는 테이블이라 할 수 있으며
도서 관리 시스템은 데이터 베이스의 종류 중 하나 일 것이다.


테이블 & 기본키

테이블은 데이터를 잘 정리해 나열해 놓은 곳이라 할 수 있다. 우리가 사용하는 표처럼 열(column)과 행(row)로 구성되어 있다. 
각 데이터은 기본키를 가져야한다는 기본 규칙을 따라야한다. 기본키는 테이블에서 각각의 데이터를 유일하게 구분하는 키라고 한다. 책으로 예를 들자며 도서관에서 그 책만이 가지는 식별값을 가져야한다는 것이다. 식별값 중에 ISBN을 예로 들 수 있겠다.


정규화

정규화란 의미 있는 데이터끼리 하나의 테이블에 속하게끔 테이블을 분리하여 정리하는 것이다. 

3개 이상의 규칙이 있지만 보통 3번째까지만 정규화를 한다.
(http://wiki.gurubee.net/pages/viewpage.action?pageId=1507663)

정규화의 기본 원칙은 한 테이블에 중복된 데이터를 없애는 것이다. 

제 1 정규화


제 2 정규화


제 3 정규화




빅데이터 

빅데이터는 옛날에 내가 게시했던 데이터 사이언스와 유사한 것 같다. 빅데이터 분석이 주를 이루고 있으며 RDBMS 구조를 가진 데이터 베이스보다는 NoSQL을 선호한다. 
빅데이터를 분석의 예를 들자면 미국이 겨울이 되면 감기가 시작되고 어느 주에서 어느 주로 감기가 이동하는지 제일 빨리 아는 곳은 어디일까? 정답은 구글이다.
구글은 빅데이터 분석으로 미국 보건복지부보다 더 정확히 알고 있다. 

잘 알려진 빅데이터의 속성 4V는 Volume , Variety , Velocity , Value 이다.
자세한 설명은 생략한다.

위와 같은 속성들을 데이터 베이스에 저장하기엔 RDBMS 구조는 적정하지 않았다. 왜냐하면 Variety 속성을 만족시키지 못했다. RDBMS 에서는 예를 들어 성별이면 남과 녀 중에 하나 문자열을 써야 했지만 빅데이터는 Variety 를 추구해 이미지나 동영상이나 문장을 저장하게 해야했기 때문이다.

(http://develop.sunshiny.co.kr/883)



Reference 

책 - 개발자가 되고 싶으세요?
http://develop.sunshiny.co.kr/883
http://wiki.gurubee.net/pages/viewpage.action?pageId=1507663

댓글

댓글 쓰기

이 블로그의 인기 게시물

윈도우 설치에서 파티션 설정 오류(NTFS)

-
이미지
요즘 컴퓨터 OS를 갈아엎느라 시간가는 줄 모르게 컴퓨터를 해댔다. 다른 거 할 수도 없었다. 네트워크도 공부해야하는데 하지 못했다. 그래서 내가 포맷하고 OS 설치하면서 겪은 오류들을 적고자 한다. 처음 OS를 쓰다가 USB로 OS를 설치하다 보면 전에 쓰던 OS를 갈아엎는 경우가 있다. 밑의 그림처럼 나올 것이다. 그럼 주 하드디스크를 포맷버튼 누르고 OS를 설치하고 싶을 것이다. 하지만 대부분은 오류가 떠서 안될텐데..되면 말고.. (출처: http://digitaku.com/719) 윈도우를 NTFS로 포맷된 파티션에 설치해야하다는 오류가 뜬다면 (출처: http://caleb1783.tistory.com/362) 1. 우선 설치 시작화면으로 돌아가서 2. shift+f10 으로 cmd를 띄운다. 3. diskpart 명령어를 치고 enter을 누른다. 4. list disk 를 통해 디스크 목록을 본다. 5. 포맷하고 싶은 디스크를 확인한다. 6. 만약 disk0이면 select disk0 을 통해 disk0을 선택한다. 7. 그리고 가장 중요한 clean 명령어를 통해 깨끗히 지운다. 8. exit을 통해 나간다. 9. 다시 컴퓨터를 껐다가 usb 부팅을 통해 OS를 설치한다.
자세한 내용 보기

[exploit writing] 1_스택 기반 오버플로우 (1) First

-
이미지
Corelan가 쓴 Exploit Writing 을 통해 이제 뭔가 보안 공부의 첫 걸음을 시작하려 한다. 목표 윈도우 xp에서 의 취약점을 이용한 스택 오버 플로우 한다. 준비 프로그램 1. kali (가상 머신) 2. windows xp (가상 머신) 3. windows xp 에서 windbg 4. windows xp 에서 펄 스크립트를 사용하기 위한 액티브펄 5. windows xp 에서 펄 스크립트를 사용하기 위한 per dev kit 6. Easy RM to MP3 Converter 과정 1. 우선 xp에서 Easy RM to MP3 Converter를 설치한다. 2. 빈 윈도우 xp에서는 위에 쓴 준비물 중 펄 스크립트 파일을 실행시키기 위한 프로그램들을 설치한다. 3. 메모장에 밑의 코드를 작성하고 test.pl이라는 이름으로 저장한다. my $file = "crash.m3u"; my $junk = "\x41" x 10000; open($FILE, ">$file"); print $FILE "$junk"; close($FILE); print "m3u File Created Successfully \n"; 4. 그럼 밑의 그림처럼 아이콘들이 있을 것이다. 6. test 파일을 실행 시키면 위에서 봤듯이 crash.m3u 라는 파일이 생성될 것이다. (커맨드 라인을 이용해서 test 파일을 실행시키면 m3u File Created Successfully 문구가 나옴) 7. 이제 Easy RM to MP3 Converter를 실행시키고 crash 파일을 LOAD 하면  에러 메시지가 나온다. 이 수행결과는 converter 가 crash 되지 않고, 정상적인 에러 메시지를 출력함을 알 수 있다. 8....
자세한 내용 보기

하둡 설치 오류 정리

-
이미지
길고 긴 설치였다. 이틀동안 하둡 설치하는데 시간을 다 썼다. 이 때까지 오류 나왔던 것들을 다시 한 번 정리하는 의미에서 글을 쓰겠다. 이 게시글은 설치 가이드가 아닌 오류를 정리하는 글이다. 우선 나의 하둡 설치 환경에 대해 설명하자면, VirtualBox 에서 3개의 우분투 16.04버젼을 설치하고 컴퓨터의 이름은 hadoop1-VirtualBox hadoop2 hadoop3으로 하였다.  첫번째 로 만났던 고난은 리눅스의 계정 관리였다. 되도록이면 adduser을 통해 3개의 가상 머신에 hadoop이라는 계정을 만들어주는 걸 강력 추천한다. 그래야 나중에 혼동이 없고 configure 파일 수정할 때 편리하다. hadoop@hadoop1-VirtualMachine $ 위와 같이 써있으면 전자 hadoop은 계정이고 후자는 컴퓨터 이름이다.  두번째 는 ras_pub 이었다. 즉, ssh 연결할 때 비밀번호 없이 공개 키를 주어 접속할 수 있도록하는 방법이다. hadoop@hadoop1에서 hadoop@hadoop2로 ssh 접속을 하기 위해 전자에서 후자로 공개 키를 복사해서 주었을 것이다. 책에서는 이렇게 하면 끝이라고 했지만 후자에서 전자로 또 공개 키를 복사해주는 것이 좋다고 한다.  세번째 는 네트워크 접속 거부이다. 여기서 엄청 애 먹었다. iptables 나 netstat을 통해 이것저것 다 해봤다. 가장 효과적인 것은 gufw 를 apt-get install 해서 방화벽을 재설정했다. 나는 9000, 9001, 50070, 50090 포트를 모두 열어놨고 내부 네트워크에서 오는 접속은 모두 허용했다. 마지막으로 내가 생각하는 해결책은 /etc/hosts 에 있는 파일을 수정하는 것이다. 설치 가이드를 보면 이 파일을 수정하게 되는데 아래와 같이 되어 있었다. 127.0.0.1 localhost 127.0.1.1 hadoop1 두번째 있는 127.0.1.1 ...
자세한 내용 보기