Truman Show

logistic regression 분류를 하는데 있어서 가장 흔한 경우는 이분법을 기준을 분류하는 경우 - 예) 특정고객이 물건을 구매할지(1) 안할것인지(0) 어떤 기업이 부도가 날것인지(1) 안날것인지(0) 동훈이랑 서영이랑 친구인지(1) 아닌지(0) 오늘 비가 올것인지(1) 안올것인지(0) 적용분야 : 기업의 부도예측, 주가, 환율, 금리등의 Up/Down 예측 R로 코딩하기 1. 성적 예측 # 데이터 불러오기 score

회귀분석(regression) 인과관계를 분석하는 방법 인과관계 어떤 변수가 어떤 변수에게 어떤 영향을 주는지를 판단 인과관계의 조건 1. x가 변할때 y도 변한다. 교육연수 -> 생활만족도 2. 시간적으로 선행되어야 한다. 교육연수가 먼저 선행되어야 한다. 3. 외생변수를 통제(다른 요인을 통제하고 인과관계를 분석) 교육연수 -> 생활만족도 다른 요인 (성별, 직업, 거주지, 근무연수, ...) 상관관계 변수와 변수가 어떤 연관이 있는지 방향성을 나타내다. 종속변수, 목표변수 영향을 받는 변수 독립변수, 설명변수 영향을 주는 변수 예 ) 독립변수 종속변수 담배량 폐암 배기량 연료소비량 광고비 매출액 수학 인공지능 전문가 -> 돈 -> 생활만족도 -> 자동차 판매량 -> 연료소비량 독립변수의 수 1개일때..

군집화 - 비지도학습 데이터를 클러스터 (cluster, 유사한 아이템의 그룹)로 자동 분리하는 비지도 학습이다.(unsupervised learning) 군집화는 데이터 안에서 발견되는 자연스런 그룹에 대한 통찰력을 제공 클러스터 안에 있는 아이템들은 서로 비슷해야 하지만 클러스터 밖에 있는 아이템과는 아주 달라야 한다. 군집화 활용 분야 생물학 분야 : 식물계통학에서 다수의 속성을 공유하는 종과 속의 분류 유전 데이터의 유사성 분석 의료 분야에서는 단층촬영으로 클러스터 분석을 사용하여 3차원 이미지에서 여러 유형의 조직을 구별 비지니스에서는 소비자 집단을 여러 시장으로 분할하거나 소비자를 분류하여 각 소비자 그룹별 마케팅 믹스 전략을 사용 사회관계망 분석에서는 여러 그룹의 커미니티를 인식하는데 사용 ..

연관규칙 ,연관성분석 (association analaysis) - 비지도 학습 대량의 데이터에 숨겨진 항목간의 연관규칙을 찾아내는 기법으로서 다른말로 장바구니 분석(market basket analysis)이라고도 한다. 실제 연관성 분석은 월마트, 아마존 등 여러기업에서 다양한 마케팅 활동에 활용하고 있으며 더 나아가 사회 네트워크 분석에도 활용할 수 있다. 장점 대규모 거래 데이터에 대해 작업을 할 수 있다. 이해하기 쉬운 규칙을 생성해준다. 데이터마이닝과 데이터 베이스에서 예상치 못한 지식을 발굴하는데 유용하다. 단점 작은 데이터셋에는 그다지 유용하지 않다 진정한 통찰력과 상식을 분리하기 위한 노력이 필요하다. 지지도(support) 전체 거래중 연관성 규칙을 구성하는 항목들이 포함된 거래의 비율..

앙상블 (Ensemble) 어려운 문제의 결론을 내기 위해 여러명의 전문가로 위원회를 구성해 다양한 의견을 수렴하고 결정하듯이 앙상블 학습의 목표는 다양한 분류기의 예측 결과를 결합함으로써 단일분류기보다 신뢰성이 높은 예측값을 얻는다. 문제를 해결하기위해 전문가들을 모으는것 voting : 서로 다른 알고리즘으로 결과를 낸뒤 다수결로 정하는것 bagging : 의사결정트리를 가지고 하되 트레인데이터의 표본을 뽑아낼때 중복으로 뽑아냄 하나의 알고리즘으로하되 데이터가 랜덤하게 뽑아냄(중복될 수 있음) 랜덤 포레스트(RandomForest) decesion tree와 bagging을 결합한 알고리즘 매실행시마다 랜덤하게 관측치와 변수를 선택하므로 실행결과가 조금씩 달라지게된다. (변수를 바꿔가면서 실행한다.)..

1. 아이리스 데이터 (파이썬) # 데이터 불러오기 / 데이터 정보 확인 import pandas as pd iris = pd.read_csv("C:/data/iris.csv") iris.info() iris.head() # 목표변수와 나머지 변수들을 따로 저장 x = iris.iloc[:,0:4] y = iris.iloc[:,4] # 데이터 분포 확인 x.info() # 데이터 프레임 y.value_counts() # 시리즈 # 데이터셋 나누고 라벨 분포 확인 from sklearn.model_selection import train_test_split x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.20) from collection..

타이타닉 데이터셋 (titanic.csv) survived : 목표변수, 종속변수, 생존여부(0:사망, 1:생존) pclass : 좌석 등급 name : 탑승객 이름 gender : 성별 age : 나이 sibsp : 함께 탑승한 형제수 parch : 함께 탑승한 부모수 ticket : 티켓 번호 fare : 탑승권 가격 cabin : 선실 번호 embarked : 탑승 승착장 R 로 분석하기 # 데이터 불러오기 및 데이터 정보 확인 titanic

의사결정트리 지도학습 해석력이 좋다.(현장에서 많이쓰임) : 어떤컬럼을 먼저 바라봐야 분류가 잘되는지 의사결정규칙(decision rule)을 나무구조(tree)로 도표화하여 분류와 예측을 수행하는 분석방법이다. 활용분야 은행대출 : 도산업체 분류 (예측) 과거의 데이터로부터 도산기업과 도산화지 않은 기업을 찾아내는 방법 카드 발급 대상 : 신용불량자 분류 (예측) 통신 : 이탈고객 (해지자, 번호이동) 분류, 새로운 서비스 대상 고객선정 쇼핑 : direct mailing 대상 고객선정 장점 지도학습 (분류, 예측)의 데이터마이닝 기법 규칙의 이해가 쉽다, SQL과 같은 DB언어로 표현 적용결과에 의해 IF-THEN 으로 표현되는 규칙이 생성 해석력이 좋다. 분류알고리즘(R) C5.0 : 엔트로피 지수..

1. 네이버 영화평 크롤링 및 긍정/부정 평가 나누기 (레미제라블) - R 사용 https://truman.tistory.com/163?category=853967

붓꽃데이터 (iris.csv) 설명 SepalLength : 꽃받침의 길이 SepalWidth : 꽃받침의 폭 PetalLength : 꽃잎의 길이 PetalWidth : 꽃잎의 폭 Name : 붓꽃의 종류 Iris-setosa Iris-versicolor Iris-virginica 1. R + kNN # 데이터 불러오기 iris