전체 글 47

tqdm 사용법 파이썬

파이썬 tqdm 라이브러리 사용법 파이썬에서 반복문을 사용할 때, 반복이 얼마나 남았는지를 확인하고 싶을 때가 있다. 예전에는, 반복문 중간에 if 조건을 넣어서 얼마나 진행되는지 확인하곤했다. 이러한 문제를 해결해줄 수 있는게 tqdm 라이브러리다 반복이 얼마나 남았는지 프로그레스바로 알수있다. import tqdm for i in tqdm.tqdm(range(100000000)): i+=1 print(i) tqdm 사용법은 간단하다 1. 먼저 tqdm을 import한다 2. 반복가능한 대상(이터러블)을 tqdm() 안에 넣어준다 그러면 위와 같이, 코드 하단에 얼마나 진행되었고, 몇초가 남았는지, 몇초가 걸렸는지 등을 확인할 수 있다. trange tqdm() 말고 trange()라는 방법도 있다 아..

파이썬 2022.06.15

용량큰 sql 파일 실행하는 방법

테이블을 추출해서 다른 서버에 복원하는 작업 등을 할 때, .sql 파일로 데이터를 추출하면 용량이 너무 커서 뷰어나 ssms에서 파일을 열 수 없는 경우가 있습니다. 이 때, sql 파일을 열지 않고 바로 실행하는 방법이 있습니다. 윈도우&로컬DB 기준으로 명령 프롬프트를 실행하고, 다음과 같이 입력하여 실행할 수 있습니다. sqlcmd -d {db이름} -Q "{쿼리 내용}" ex. sqlcmd -d TESTDB -Q "SELECT * FROM tblTest;" 파라미터가 매우 많아서, 세부 내용은 sqlcmd 공식 문서를 확인해보시면 좋습니다. 감사합니다.

기타 2022.01.14

jupyter lab에서 ipython-sql로 DB 접속하기(SQL Server, MySQL, postgreSQL)

안녕하세요. 주피터 노트북 혹은 주피터랩에서 DB에 바로 접속하는 방법입니다. 보통 파이썬으로 DB에 있는 데이터를 가공하거나 분석할 때, csv 등으로 데이터를 다운로드한 후 파이썬으로 불러서 사용합니다. ipython-sql 라이브러리를 사용하면, 주피터에서 DB에 바로 접근할 수 있습니다. 1. 라이브러리를 설치합니다. pip install ipython-sql 2. 데이터베이스용 드라이버 라이브러리를 설치합니다. 접속하려는 DB에 해당하는 라이브러리를 설치하시면 됩니다. ex. SQL server의 DB에 접속하려면 pyodbc를 설치하시면 됩니다. # sql server pip install pyodbc # PostgreSQL pip install pyscopg2 # MySQL pip insta..

파이썬 2021.08.25

Matrix Factorization 알고리즘을 사용한 상품 추천

In [1]: from IPython.core.display import display, HTML display(HTML("")) Matrix Factorization을 통한 상품 추천¶ 1. 개요¶목적 상품 구매 데이터 탐색 상품 추천 모델을 만들어 고객 만족도 증대 및 매출 증대 작업 기간 2020.12.15. ~ 2020.12.29. 데이터 출처 쇼핑몰 주문 데이터 참고 Collaborative Filtering for Implicit Feedback Datasets https://yeomko.tistory.com/5 https://velog.io/@vvakki_/series/Recommendation-System https://medium.com/code-states/%EC%B6%94%EC%B2%..

데이터 분석 2021.01.13

파이썬 기초 통계분석

파이썬에서 기본적인 추리 통계분석 패키지를 사용하는 방법입니다. In [1]: from IPython.core.display import display, HTML display(HTML("")) In [2]: import pandas as pd import numpy as np from scipy import stats 추리통계¶ t 검증¶ 독립표본 t 검증¶ In [3]: sample1=np.random.randint(1000,size=50) sample2=np.random.randint(1000,size=50) print("평균") print(np.mean(sample1)) print(np.mean(sample2)) print("표준편차") print(np.std(sample1)) print(np.s..

파이썬 2020.10.20

파이썬 공휴일, 연휴 날짜 구하기 with pytimekr

파이썬으로 공휴일 날짜 구하기 pytimekr pytimekr이라는 라이브러리를 사용해서 공휴일 날짜를 쉽게 할 수 있습니다. 1. 먼저 pytimekr을 인스톨합니다. 2. 라이브러리를 불러오고, 메소드를 호출하여 간편하게 사용할 수 있습니다. 아래 이미지처럼 반복문과 함께 사용하면, 연도별 공휴일 날짜를 빠르게 구할 수 있습니다. 3. 그 외 공휴일 날짜 구하기 위한 코드입니다. 전체 코드입니다. # 라이브러리 호출 from pytimekr import pytimekr # 추석 pytimekr.chuseok() # 설날 pytimekr.lunar_newyear() # 한글날 pytimekr.hangul() # 어린이날 pytimekr.children() # 광복절 pytimekr.independenc..

파이썬 2020.10.19

파이썬으로 서든어택 데이터 수집: 병영수첩 전적 크롤링

서든어택 크롤링 서든어택 전적을 크롤링하여, csv 파일로 저장합니다. 아래 이미지의 빨간 박스 안의 데이터를 수집합니다. 수집한 데이터를 아래 이미지의 csv 파일로 저장합니다. selenium 패키지를 사용하기 때문에 크롬 웹드라이버가 필요합니다. 파이썬으로 쿠팡 로그인 쿠팡 자동 로그인 파이썬과 selenium을 사용하여 자동으로 쿠팡에 로그인하는 방법입니다. 먼저 selenium을 사용하려면 크롬 웹드라이버가 필요하기 때문에, 다운로드해야 합니다. 크롬 웹드라이버 95pbj.tistory.com 위의 글을 참고하여, 크롬 웹드라이버를 다운로드할 수 있습니다. 코드1 필요한 라이브러리를 호출하고, 함수를 선언하는 부분입니다. import csv import time from datetime impo..

파이썬 2020.10.12

맥북 터미널 bash 혹은 zsh로 변경하기

맥북을 카탈리나로 초기화하니, 터미널에 변화가 생겼습니다. 기존에는 bash가 기본값이었는데, 이제는 zsh로 바뀌었네요. 일단 눈에 띄는 변화는 $가 %로 바뀌었네요. 기본값을 변경하는 방법입니다. 명령 실행 후 터미널을 다시 실행하면, 기본값이 변경됩니다. 1. zsh를 기본값으로 변경 chsh -s /bin/zsh 2. bash를 기본값으로 변경 chsh -s /bin/bash

기타 2020.10.11

엑셀 셀 선택하면 느려질 때 해결방법

엑셀 속도가 느려질 때 해결방법엑셀을 사용하다보면 가끔씩 엑셀의 속도가 느려질 때가 있다. 그 원인은 매우 다양한데, 오늘은 그 중에서 셀을 선택하고 복사하면 느려지는 경우의 해결책이다. 위의 이미지처럼 특정 셀을 선택하고 복사를 한 후, 커서가 움직이지 않는다거나 입력이 느려지는 등, 엑셀의 속도가 매우 느려질 때가 있다. 선택한 셀의 범위가 많지 않음에도 그런 경우, 혹시 해당 엑셀 파일을 인터넷에서 내려받거나, 타인에게서 받은 파일인지 확인해야한다. 인터넷에서 내려받은 경우 or 타인에게서 받은 경우, 아래 이미지와 같이 '제한된 보기' 상태로 파일이 열렸을 것이다. 간혹 제한된 보기로 열린 파일을 편집하면서, 셀을 복사하면 엑셀의 속도가 느려진다. 이러한 경우 작업하던 파일을 다른이름으로 저장한 ..

기타 2020.07.14