[kaggle] titanic tutorial 1

Overview of How Kaggle’s Competitions Work

1. Join the Competition

Read about the challenge description, accept the Competition Rules and gain access to the competition dataset.

2. Get to Work

Download the data, build models on it locally or on Kaggle Kernels (our no-setup, customizable Jupyter Notebooks environment with free GPUs) and generate a prediction file.

3. Make a Submission

Upload your prediction as a submission on Kaggle and receive an accuracy score.

4. Check the Leaderboard

See how your model ranks against other Kagglers on our leaderboard.

5. Improve Your Score

 

 

https://www.kaggle.com/alexisbcook/titanic-tutorial

Titanic Tutorial

 

1번 join competition

 

2번 These rules govern how many submissions you can make per day, the maximum team size, and other competition-specific details. Then, click on "I Understand and Accept"

 

3번 데이터 파일이 kaggle/inputs/titanic에 있어서 그걸 이용하면 된다.

 

**loc을 이용해서 dataframe의 행, 열 정보를 알 수 있다.

[]만 사용하면 Series가 반환되고 [[]]를 사용하면 dataframe이 반환된다.

 

4번 머신러닝을 이용하지 않고 하나의 컬럼인 성별만 고려했을때 70%의 accuracy를 보였다.

이런 방식을 수동적으로 하면 힘들다 그래서 머신러닝 기법을 이용해서 성능을 높여보자.

 

5번 random forest model을 이용해보자.

https://eunsukimme.github.io/ml/2019/11/26/Random-Forest/

Random Forest(랜덤 포레스트) 개념 정리

 

이것은 ensemble model로 여러가지 decision tree를 vote하여 결과를 도출합니다. 이렇게 하면 overfitting을 억제할 수 있는데 하나의 decision tree에서는 overfit이 생길 수 있어도 여러가지를 사용하기때문에 피하게 됩니다.

 

https://wooono.tistory.com/104

[ML] 의사결정트리(Decision Tree) 란?

random forest model을 알기 위해서는 decision tree에 대해서 알아야합니다. classification, regression problem에 모두 사용이 가능하고 방식은 스무고개와 같습니다. 

 

이 random forest model을 사용해서 feature 중 pclass, sex, parch, sibsb를 사용하였습니다.

 

6번 데이터에 pandas의 get_dummies메소드를 사용하여 봅시다. 데이터를 수치로 전환해주는 역할을 합니다.

https://devuna.tistory.com/67

[pandas] pd.get_dummies() : 데이터전처리/가변수 만들기

이때 object를 숫자로 바꾸기만 하면 되지 왜 더미를 추가해주는 과정을 갖느냐라고 물어볼 수 있는데 그 이유는 월, 화, 수에서 1,2,3으로 변환된다고 하면 실제로는 관계성이 없는데 1,2,3을 하면 1 + 2 = 3으로 관계성을 갖게 되고 이러한 관계성을 없애기 위해서 더미를 추가해주는 것이다. 각 컬럼 중에서 필요한 sex 컬럼에 대해서만 함수가 작동한다.

 

6번 sklearn을 사용해서 모델로 학습을 해주면 성능이 향상되고 to_csv로 csv로 저장을 해서 다시 제출을 하면 순위에 변동이 생긴 것을 확인할 수 있다.

 

https://www.kaggle.com/lsjung567/myfirstkaggle?scriptVersionId=62819164