반응형

전체 글 231

파이썬(Python) - 예외사항 처리

예외사항 프로그램 실행중에 발생하는 오류 예외(오류) 종류 Synax Error : 문법오류 print("안녕하세요) Name Error : 참조 변수가 없을때 발생 print(x) Index Error : 인덱스 범위를 잘못지정 했을 때 발생 lst = [1,2,3] lst[3] Key Error : dictionary 형에서 없는 key를 사용할 때 발생하는 오류 dict = {'이름':'홍길동'} dict['이름'] dict['주소'] # 키 미리 확인 dict.get("아이디") dict.get("비번") # 키가 없으면 None / 아무일도 안일어남 Attribute Error : 모듈, 클래스에 잘못된 속성을 참조할때 오류 import datetime datetime.datetime.now()..

컴퓨터/파이썬 2020.03.30

파이썬(Python) - 스크래핑 ② 웹 스크래핑/크롤링 연습, wordcloud사용

기본 용어 http(hyper text transfer protocol) hyper text는 마우스로 클릭하면 다른페이지로 이동하는 기능 http는 다음에 나올 html로 작성되어 있는 hyper text를 전송하기 위한 프로토콜(규약, 약속) URL(Uniform Resource Locator) 인터넷 주소 HTML(Hyper Text Markup Language) 웹페이지를 작성하는 문법 언어 F12(개발자 도구)눌러서 볼수 있다. 웹 브라우저(web browser) html을 보기 좋게 출력하는 응용 소프트웨어 웹 스크래핑 연습 BeautifulSoup 데이터를 추출하는데 필요한 기능이 들어 있는 라이브러리, 파싱(parsing)라이브러리 라고도 한다. 파싱은 받아온 데이터에서 필요한 내용만 추출..

컴퓨터/파이썬 2020.03.25

파이썬(Python) - 스크래핑 ① 스크래핑 기초

스크래핑(scraping) 컴퓨터 프로그램이 다른 프로그램으로부터 들어오는 인간이 읽을 수 있는 출력으로부터 데이터를 추출하는 기법이다. BeautifulSoup 데이터를 추출하는데 필요한 기능이 들어 있는 라이브러리, 파싱(parsing)라이브러리 라고도 한다. 파싱은 받아온 데이터에서 필요한 내용만 추출하는 것을 의미한다. from bs4 import BeautifulSoup 예제 1) html = """ 동해물과 백두산이 마르고 닳도록 하느님이 보우하사 우리나라만세 """ # BeautifulSoup 객체 생성 soup = BeautifulSoup(html, "html.parser") soup # BeautifulSoup 객체의 html -> body -> h1 태그 출력 h1 = soup.html..

컴퓨터/파이썬 2020.03.25

파이썬(Python) - 정규표현식과 메타문자

1. 정규표현식(Regular Expression) 문자의 패턴을 찾을때 많이 사용 문자열에서 특정한 패턴과 일치하는 문자열을 검색하거나 치환, 제거하는 기능을 제공한다. 2. 메타문자 a.b .위치에 모든 문자 a[.] .를 문자로 인식해서 찾을때 a*b *앞 문자를 0번, 1번, 몇번 이상 a+b +앞 문자를 최소 1번 이상 반복 a{2}b {n}앞 문자를 n번 반복 a{2,3}b {n,m}앞 문자를 n번 또는 m번 반복 ab?c ?앞 문자를 0번, 1번 반복 a|b a 또는 b [a-zA-Z] 알파벳 모두 찾기 [0-9] 숫자 모두 찾기 \d 숫자 모두 찾기 \D 숫자가 아닌것과 매치 (= [^0-9]) \s 공백 문자 모두 찾기 \S 공백문자가 아닌것과 매치 \w 문자, 숫자 (= [a-zA-Z0..

컴퓨터/파이썬 2020.03.24

파이썬(Python) - matplotlib ③ 상자 그림 / 줄기잎 그림

1. 상자그림 (box plot) 5가지의 요약 수치 값으로 표현된다. 최소값(0), 제1사분위수(25), 중위수(50), 제3사분위수(75), 최대값(100) 사분위값 : np.percentile(객체,[0,25,50,75,100]) 1) 중앙값 : 관측값을 크기순으로 정렬한 후 가운데 위치하는 값 관측값이 홀수일때 중앙값 # 차례로 정렬 했을때 중간번째 있는 값 weight = Series([35,40,45,50,55,60,65]) statistics.median(weight) # 내부에서 이런 식이 돌아가고 있다. weight = Series([35,40,45,50,55,60,65]) weight = weight.sort_values() weight = weight.reset_index(drop=T..

컴퓨터/파이썬 2020.03.24

파이썬(Python) - matplotlib ② histogram

histogram 자료가 모여 있는 위치나 자료의 분포에 관한 대략적인 정보를 한눈에 파악할 수 있는 장점은 있으나 구체적인 수치정보를 쉽게 알아볼수없는 단점이 있다. 예) ages=[21,24,26,27,29,31,37,39,40,42,45,50,51,59,60,68] 1. List 형식 # 키에 관한 데이터 (이산형 데이터) height = [157,163,180,162,186,178,173,152,156,184,170,171,172] type(height) 1) 도수분포표로 만들기 # 분할 구간 만들기 (150~160, 160~170, 170~180, 180~190) bins = [150,160,170,180,190] # pd.cut(객체, 구간, 구간 기준) # 구간 기준 기본값은 True blo..

컴퓨터/파이썬 2020.03.23

파이썬(Python) - matplotlib ① pie chart / bar chart / line plot

1. 자료의 시각화 1) 자료 어떠한 가치 판단을 할 수 있는 근거가 되는 재료 문제해결을 위한 원재료로 처리되진 않은 숫자, 문자, 일련의 사실이나 기록들의 모임 2) 양적자료 (Qunatitative Data, 수치형 자료) 수치로 측정이 가능한 자료 테이블 생성할때 숫자로 되어있는거 양적자료이다. 연속형 자료(continuous data) : 실수형 예) commission_pct, 키, 몸무게 이산형 자료(discrete data) 정수형 예) 출생아수, 남학생수, 왼손잡이수 3) 질적자료(Qualitaive Data, 범주형 자료) 수치 측정이 불가능한 자료 자료의 내포하는 의미가 있는 자료 순위형 자료 (ordinal data) : 학점(A+,B,..), 매우좋아, 보통, 아주나쁘다 명목형 자..

컴퓨터/파이썬 2020.03.22

파이썬(Python) - 파이썬에서 오라클 SQL로 접속하는 방법

1. Anaconda Prompt창을 관리자 권한으로 실행한다. 2. cx_Oracle 라이브러리를 설치한다. 혹시 라이브러리가 기존에 설치되어 있다면 업그레이드한다. python -m pip install cx_Oracle --upgrade 3. 파이썬 IDE를 실행시키고 cx_Oracle를 임포트한다. import cx_Oracle 4. 접속해야할 DB서버의 아이피 주소 혹은 서버이름, 포트번호, SID 정보를 입력한다. dsn = cx_Oracle.makedsn("localhost",1521,"xe") dsn 5. 데이터 베이스의 이름, 비밀번호, dsn으로 데이터 베이스에 연결한다. db = cx_Oracle.connect("hr","1234",dsn) db 6. SQL문 실행 메모리 영역(cur..

컴퓨터/파이썬 2020.03.19

오라클 SQL - Top - N 분석

SQL에서 Top-N분석을 하기 위해서는 rank() over()문을 사용한다. 1.1) rank()는 중복 순위 다음 순위를 건너뛰고 1.2) dense_rank()는 중복 순위 다음 순위를 건너뛰지 않는다. rank() over()에서 over()은 분석함수이며 괄호 안에 2.1) order by를 사용하여 정렬하거나 2.2) partition by를 사용하여 분류별 랭크를 지정할 수 있다. 2.3) 또한 select절의 group함수 뒤에 over()을 붙이면 group by절을 사용하지 않아도 되며 2.4) group함수 뒤에 over(order by)를 붙이면 정렬 및 누적 연산을 구할 수있다. 1. rank와 dense_rank 1.1 select rank() over(order by sala..

컴퓨터/SQL 2020.03.19

SQL문 처리 단계

1. parse 문법(syntax)검사 -> 의미(semantic)검사 -> 권한 검사 -> 실행 계획 생성 메모리에 실행 계획 만든다. 실행계획 : 데이터를 어떻게 찾아오는게 가장 좋은지(데이터 엑세스방법 : rowidscan / fulltablescan) 2. bind 변수에 실제값이 들어가는 단계 SQL 문장의 변수처리 : select * from employees where employee_id = :v_id; 변수처리하는 이유는 실행계획을 sharing하기 위해서이다. sql문장의 실행계획을 sharing하려면 대소문자, 공백문자, tap키, enter키, 주석문자, 힌트, 상수값, 리터럴값이 다 맞아야한다. 실행계획 sharing 못하면 실행계획을 만들어야한다. -> CPU 사용량과 디스크 I..

컴퓨터/SQL 2020.03.18
반응형