전체 글 (38) 썸네일형 리스트형 Decision Tree Classification ( 의사결정분류) 개념과 python 예제 Decision Tree Classification 1. 정의 참조 : Decision Tree Regression 2. Python Example from sklearn.datasets import load_iris import io import pydot from IPython.core.display import Image from sklearn.tree import export_graphviz import matplotlib as mpl import numpy as np import matplotlib.pyplot as plt from sklearn.metrics import confusion_matrix iris = load_iris() X = iris.data[:, [2, 3]] y = iris.. 모델 성능에 중요한 bias and Variance 개념 설명 ( 편향과 분산 ) bias and Variance ( 편향과 분산 ) 어느것에 치중하여 모델을 설정할 것인가 ? 이 두가지중는 목적에 따라 좋은 성능의 모델을 만드는데에 꼭 필요한 개념입니다. 이 두가지는 tradeoff(트레이드오프) 관계입니다. ( 한가지가 높으면, 다른한가지는 줄어듭니다. ) Hight Variance , low Bias ==> overfitting Low variance , High Bias ==> underfitting 1. 이미지와 함께 설명 => variance가 증가하게 된다면 , 데이터의 점들의 분산은 예측력을 좀 더 떨어뜨린다. => 그리고 bias가 커지게 된다면 실제값과 예측값의 오차는 커진다. 그럼 어떻게? => 모형에 더 많은 변수를 넣게 되면 복잡성은 증가하고, variance는.. ML에서 모델 결합 - Bagging과 Boosting 개념설명 Bagging과 Boosting 주로 머신러닝에서 많이 사용하는 기법 2가지를 설명드리겠습니다. 1. 앙상블 기법 ( Ensemble) Bagging과 Boosting이 해당 된다. 동일한 학습 알고리즘을 사용하여 여러모델을 학습시킨다. 서로 다른 모델을 결합하여 새로운 모델을 만들어내는 방법( Stacking ) 과 대조 2. Bagging 여러번 샘플을 뽑아서 각 모델을 학습시켜 결과 집계하는 방법 이렇게 하는 이유 : 알고리즘의 안정성과 정확성을 향상시키기 위해서 높은 bias로 인한 언더피팅 높은 variance로 인한 오버피팅 오버피팅을 피할 수 잇는 가장 좋은 방법 대표적으로 많이 사용되는 것으로는 Random Forest 3. Boosting bagging이 일반적인 모델을 만드는데 집중한 .. Decision Tree Regression (의사결정나무) 개념과 python 예제 Decision Tree Regression ( 의사결정나무 ) 1. 정의 의사 결정 나무(decision tree)는 여러 가지 규칙을 순차적으로 적용하면서 독립 변수 공간을 분할하는 분류 모형이다. 분류(classification)와 회귀 분석(regression)에 모두 사용될 수 있기 때문에 CART(Classification And Regression Tree)라고도 한다. 전체 학습 데이터 집합(부모 노드)을 해당 독립 변수의 값이 기준값보다 작은 데이터 그룹(자식 노드 1)과 해당 독립 변수의 값이 기준값보다 큰 데이터 그룹(자식 노드 2)으로 나눈다. 각각의 자식 노드에 대해 1~2의 단계를 반복하여 하위의 자식 노드를 만든다. 단, 자식 노드에 한가지 클래스의 데이터만 존재한다면 더 이상.. Machine Learning Study List 1. Regression Decision Tree Regression Generalized Linear Model - Regression Linear Regression XGB Regression Random Forest Regression KNN regression Ridge Regression Lasoo Regression Elastic Net Regression Classification Decision Tree Classification Logistic Regression SVM Classification XGB Classification KNN Classification Naive Bayes Random Forest Classification 2. Clustering 3. TimeSeriese .. Study List 1. Image Classification 1) Inception 2) VGG 3) ResNet 4) DenseNet 5) MobileNet 6) CapsNet 7) R - CNN 2. Image GAN 1) GAN 2) DCGAN 3) LSGAN 4) ACGAN 5) Pregressive GAN 6) Stack GAN 7) Pix2Pix 8) Cycle GAN 9) Style GAN 3. Image Segmentation 4. Image Detection 5. Image Similarity 이전 1 2 3 4 5 다음