CLIEN

본문 바로가기 메뉴 바로가기 보기설정 테마설정
톺아보기 공감글
커뮤니티 커뮤니티전체 C 모두의광장 F 모두의공원 I 사진게시판 Q 아무거나질문 D 정보와자료 N 새로운소식 T 유용한사이트 P 자료실 E 강좌/사용기 L 팁과강좌 U 사용기 · 체험단사용기 W 사고팔고 J 알뜰구매 S 회원중고장터 B 직접홍보 · 보험상담실 H 클리앙홈
소모임 소모임전체 ·굴러간당 ·아이포니앙 ·주식한당 ·MaClien ·일본산당 ·방탄소년당 ·자전거당 ·소시당 ·개발한당 ·야구당 ·안드로메당 ·이륜차당 ·골프당 ·퐁당퐁당 ·노젓는당 ·AI당 ·스팀한당 ·물고기당 ·맛있겠당 ·찰칵찍당 ·총쏜당 ·캠핑간당 ·패스오브엑자일당 ·IoT당 ·이브한당 ·창업한당 ·심는당 ·바다건너당 ·나스당 ·소셜게임한당 ·클다방 ·사과시계당 ·키보드당 ·소리당 ·리눅서당 ·육아당 ·콘솔한당 ·가상화폐당 ·라즈베리파이당 ·3D메이킹 ·X세대당 ·ADHD당 ·AI그림당 ·날아간당 ·배드민턴당 ·농구당 ·블랙베리당 ·곰돌이당 ·비어있당 ·FM당구당 ·블록체인당 ·보드게임당 ·활자중독당 ·볼링친당 ·냐옹이당 ·문명하셨당 ·클래시앙 ·요리한당 ·쿠키런당 ·대구당 ·DANGER당 ·뚝딱뚝당 ·디아블로당 ·개판이당 ·동숲한당 ·날아올랑 ·전기자전거당 ·e북본당 ·갖고다닌당 ·패셔니앙 ·도시어부당 ·FM한당 ·포뮬러당 ·젬워한당 ·걸그룹당 ·안경쓴당 ·차턴당 ·땀흘린당 ·하스스톤한당 ·히어로즈한당 ·인스타한당 ·KARA당 ·꼬들한당 ·덕질한당 ·어학당 ·가죽당 ·레고당 ·LOLien ·Mabinogien ·임시소모임 ·미드당 ·밀리터리당 ·땅판당 ·헌팅한당 ·오른당 ·영화본당 ·MTG한당 ·노키앙 ·적는당 ·방송한당 ·PC튜닝한당 ·그림그린당 ·소풍간당 ·품앱이당 ·리듬탄당 ·달린당 ·Sea마당 ·SimSim하당 ·심야식당 ·윈태블릿당 ·미끄러진당 ·축구당 ·나혼자산당 ·스타한당 ·파도탄당 ·테니스친당 ·테스트당 ·빨콩이당 ·공대시계당 ·여행을떠난당 ·터치패드당 ·트윗당 ·VR당 ·시계찬당 ·WebOs당 ·위스키당 ·와인마신당 ·WOW당 ·윈폰이당
임시소모임
고객지원
  • 게시물 삭제 요청
  • 불법촬영물등 신고
  • 쪽지 신고
  • 닉네임 신고
  • 제보 및 기타 제안
© CLIEN.NET
공지[점검] 잠시후 서비스 점검을 위해 약 30분간 접속이 차단됩니다. (금일 18:15 ~ 18:45)

팁과강좌

PC/모바일 파이썬 강좌? 멜론 Top 100 차트 내용 추출하기 25

5
2013-01-18 04:05:05 190.♡.0.215
케이준감자튀김

안녕하세요,

 

멜론 차트 추출하기를 주제로 써 보았습니다. 이번엔 간단해요. 소스 코드도 엄청 짧구요.

 

나름 쓸모있는 듯 해도 별 쓰잘데 없는 그런 프로그램,

뭔가 잡다하지만 나름은 쓸모있을 듯하기도 한 문서,

 

그런게 딱 제 스타일입니다.

부담 없이 보아 주셨으면 합니다.

 

낚시(?)를 위해 시작 부분만 따로 여기에 올립니다. 나머지 내용은 링크의 PDF에서 보실 수 있습니다. 로그인하지 않으신 분들이나 모바일로 클리앙에 접속하시는 분들도 PDF를 쉽게 볼 수 있도록 링크를 걸었습니다. 첨부 파일이 업로드 되지 않아 링크로만 게시하도록 하겠습니다.

 


 

====== 멜론 Top 100 차트 내용 추출하기======

이번에는 아주 간단한 내용입니다.

국내 음원유통사의 하나인 멜론 차트의 내용을 추출하는 방법을 다루고자 합니다. 일단 멜론 차트의 내용을 추출, 가공했을 때 얻을 수 있는 건 무엇일까요? 일단 겉모양을 쏙 빼고 알짜(콘텐츠)만 있기 때문에 다른 식으로 활용하기 좋습니다. 차트를 바탕으로 어떤 조사를 한다든지, 나름대로의 집계를 할 때 좋을 것입니다. 물론 멜론 가요 차트는 한 예입니다. 이 문서가 보여주는 방법 자체를 응용한다면 웹에 있는 여러 자료(data)를 추출, 가공하여 유용한 정보(information)로 활용하는 것이 가능합니다.

개인적인 의견입니다만, 멜론 웹사이트에는 뭔가 덕지덕지 붙어있는 것이 너무 많습니다. 차트 자체에 눈이 집중되지 않고 산만합니다. 차트 정보만 분석할 목적이라면 본 스크립트를 통해 정보를 받아 엑셀로 보는 게 더 나아 보입니다.

** 이 문서는 2013년 01월의 멜론 웹페이지를 대상으로 하였습니다. 멜론 웹사이트의 개편 등으로 인해 HTML 문서 구조는 변경될 수 있습니다. **

===== 기반 지식 =====

이번에 설명하려는 기반 사항은 매우 단순합니다.

==== 웹 크롤링 ====
지난번 '네이버 웹툰 저장하기' 문서에서 거의 다 언급하였습니다. 그 문서와 이번 문서에서 하려는 내용은 근본적으로는 동일합니다. 다만 지난번에는 정규식을 사용하여 HTML 문서에서 단순하게 링크만을 추출하는 것이 작업의 전부였다면, 이번에는 HTML 문서의 구조를 조금 더 파헤치는 것이 다릅니다. 이렇게 웹에 있는 문서를 수집 분석하는 것은 검색 엔진이 기본적으로 하는 일 중 하나입니다. 이런 것을 '웹 크롤링 (web crawling)'이라고 합니다. 우리가 하는 일은 이 웹 크롤링과 유사합니다만, 특정 목적이 강하지요.

==== CSV (Comma-Separated Values) 파일 ====

'CSV'라는 용어를 미리 언급하고 넘어가겠습니다.그냥 텍스트 파일이라고 생각하시면 됩니다! 엑셀 같은 스프레드 시트(spread sheet)프로그램이 읽고 쓰는 파일 목록 중 하나입니다...

케이준감자튀김 님의 게시글 댓글
  • 주소복사
  • Facebook
  • X(Twitter)
댓글 • [25]
흙기사
IP 121.♡.167.60
01-18 2013-01-18 05:49:15 / 수정일: 2017-04-30 10:59:57
·
이런건 코딩보다 저렇게 설명 쓰는데 5배쯤 시간이 많이 걸리는데, 수고하셨습니다! ㅋㅋㅋ
웹에서 필요한 내용 긁어오는 용도로 파이썬 정말 편한거 같아요.
edge
IP 209.♡.73.33
01-18 2013-01-18 06:54:58 / 수정일: 2017-04-30 10:59:57
·
elementtree+xpath가 html 처리의 정석이긴해도 BeautifulSoup이 확실히 편한거 같더군요.
에러가 있는 html도 왠만한건 다 처리해주고.
북북
IP 112.♡.254.50
01-18 2013-01-18 11:01:20 / 수정일: 2017-04-30 10:59:57
·
+1
_Jun
IP 150.♡.15.133
01-18 2013-01-18 07:30:01 / 수정일: 2017-04-30 10:59:57
·
전 파이썬은 안써버릇해서 잘 몰랐는데..
잘 보겠습니다!
전 node.js + node-jquery 조합 쓰는데 간편하고 좋아요
newtype
IP 164.♡.106.146
01-18 2013-01-18 09:05:15 / 수정일: 2017-04-30 10:59:57
·
node.js + node-jquery 강좌 기대하겠습니다.
관심이 많아요!
weever
IP 61.♡.24.158
01-18 2013-01-18 08:40:03 / 수정일: 2017-04-30 10:59:57
·
오호~~ 기다렸던 강좌입니다~~
파이썬을 공부하려던 궁극적인 목적이 나왔군요 ㅎㅎ
감사!!
라이크유
IP 223.♡.164.28
01-18 2013-01-18 08:52:55 / 수정일: 2017-04-30 10:59:57
·
와우 좋은 강좌 감사합니다. 필력이 있으시네요. 조만간 오랜만에 파이썬 관련 책니 한권 나올꺼 같습니다^^ 결혼만 안했어도 좀 삽질해보고 싶네요 ㅎ *
newtype
IP 164.♡.106.146
01-18 2013-01-18 09:04:51 / 수정일: 2017-04-30 10:59:57
·
좋은 강좌 감사드립니다. ^^
기타사외유출
IP 121.♡.181.213
01-18 2013-01-18 09:05:15 / 수정일: 2017-04-30 10:59:57
·
저도 돌리는 사이트 특성상 크롤링이 중요한데 잘 보겠습니다!
지금은 PHP + SIMPLE HTML DOM PARSER 로 크롤링해서 DB에 넣은 뒤에 DB -> JSON 으로 뿌려주는 PHP 를 만들어서 자바스크립트로 호출해서 동적으로 뿌려주고 있네요
edge
IP 209.♡.73.33
01-18 2013-01-18 10:34:45 / 수정일: 2017-04-30 10:59:57
·
PHP의 simple_dom + mb_ereg 보다 Python의 BeautifulSoup + regex 조합이 훨씬 강력하더군요.
타스케
IP 114.♡.11.208
01-18 2013-01-18 13:40:37 / 수정일: 2017-04-30 10:59:57
·
BS에 +1
흙_
IP 125.♡.70.63
01-18 2013-01-18 09:18:05 / 수정일: 2017-04-30 10:59:57
·
강좌글과 연관없는 질문 하나 드려도 될까요? 이번에 파이썬을 배워보려하는데 2.x기준으로 배워야할지 3.x기준으로 배워야할지 잘 판단이 안서네요 2.x에서 작업하시다가 3.x로 넘어가신분 혹시 계신가요?
바나나쥬스
IP 50.♡.235.207
01-18 2013-01-18 09:22:14 / 수정일: 2017-04-30 10:59:57
·
3.x가 나온지 몇년이 됐는데도, 대부분 사람들은 2.x을 쓰고 있습니다 ... 그리고 넘어갈 생각들을 안하고 있죠.

무조건~ 2.x으로 시작하세요.
Afri
IP 93.♡.219.199
01-18 2013-01-18 10:43:23 / 수정일: 2017-04-30 10:59:57
·
몇몇 부분에서 애로사항이 좀 있어요. 파이썬 2.x 로 만든 zip 파일 풀때 파일명 인코딩 맞춰서 푸는 간단한 스크립트를 파이썬 3.x 로 바꾸려고 삽질했는데, 도저히 2.x 처럼 간단하게는 안되더군요. 유니코드 관련 내부적으로는 더 깔끔해졌는데 기능/편의성 측면으로는 아직 잘 모르겠습니다.
흙_
IP 115.♡.131.46
01-18 2013-01-18 18:44:54 / 수정일: 2017-04-30 10:59:57
·
답변 감사합니다 ㅎㅎ 2. 버전으로 시작해야겠네요 ㅎㅎ
사.랑
IP 210.♡.47.96
01-18 2013-01-18 09:51:40 / 수정일: 2017-04-30 10:59:57
·
좋은 글 감사합니다.
SMOOTHIE
IP 166.♡.253.101
01-18 2013-01-18 10:23:16 / 수정일: 2017-04-30 10:59:57
·
일단 추천부터;;; 허겁지겁;;; =3==3=3=33
힘내라아빠
IP 221.♡.65.162
01-18 2013-01-18 11:57:26 / 수정일: 2017-04-30 10:59:57
·
감사합니다!
Montblanc
IP 59.♡.130.50
01-18 2013-01-18 12:06:32 / 수정일: 2017-04-30 10:59:57
·
고맙습니다. 글 쓰신 분 근처에 계시면 밥 대접하고 싶음. 이런 분들은 나라에서 상 드려야 함.
미생공
IP 211.♡.194.21
01-18 2013-01-18 13:19:58 / 수정일: 2017-04-30 10:59:57
·
파이썬 공부한다고 하면서 주제 잡기가 에매한데 참 고맙습니다.
이런분들이 사회에서 좋은 대접을 많이 받는 분위기가 이루어 져야 하는데요
복 많이 받으세요 ^^*
얼룩고양이
IP 119.♡.80.70
01-18 2013-01-18 13:27:11 / 수정일: 2017-04-30 10:59:57
·
nodejs + node-jquery + yql로 가사 검색하는 CLI 만들었었는데... 그런거 같이 붙이면 재밌겠네요 ㅎㅎ
타스케
IP 114.♡.11.208
01-18 2013-01-18 13:41:39 / 수정일: 2017-04-30 10:59:57
·
긁어온 내용을 DB에 저장할 때도
# -*- coding: cp949 -*-
설정이면 충분한가요?

예전에 한글은 저장이 안되서 포기했던 기억이.. ㅠㅠ
무신론자
IP 211.♡.21.152
01-18 2013-01-18 16:55:15 / 수정일: 2017-04-30 10:59:57
·
진짜 책 하나 써주세요 ㅎㅎ
라이크유
IP 223.♡.164.28
01-18 2013-01-18 18:59:30 / 수정일: 2017-04-30 10:59:57
·
+1 *
Mr-K
IP 116.♡.29.29
01-20 2013-01-20 12:05:37 / 수정일: 2017-04-30 10:59:57
·
+1 *
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp
지나치게 큰 이미지의 크기는 조정될 수 있습니다.
목록으로
글쓰기
글쓰기
목록으로 댓글보기 이전글 다음글
아이디  ·  비밀번호 찾기 회원가입
이용규칙 운영알림판 운영소통 재검토요청 도움말 버그신고
개인정보처리방침 이용약관 책임의 한계와 법적고지 청소년 보호정책
©   •  CLIEN.NET
보안 강화를 위한 이메일 인증
안전한 서비스 이용을 위해 이메일 인증을 완료해 주세요. 현재 회원님은 이메일 인증이 완료되지 않은 상태입니다.
최근 급증하는 해킹 및 도용 시도로부터 계정을 보호하기 위해 인증 절차가 강화되었습니다.

  • 이메일 미인증 시 글쓰기, 댓글 작성 등 게시판 활동이 제한됩니다.
  • 이후 새로운 기기에서 로그인할 때마다 반드시 이메일 인증을 거쳐야 합니다.
  • 2단계 인증 사용 회원도 최초 1회는 반드시 인증하여야 합니다.
  • 개인정보에서도 이메일 인증을 할 수 있습니다.
지금 이메일 인증하기
등록된 이메일 주소를 확인하고 인증번호를 입력하여
인증을 완료해 주세요.