1. 程式人生 > >【Python爬蟲】從html裏爬取中國大學排名

【Python爬蟲】從html裏爬取中國大學排名

ext 排名 所有 一個 requests 空格 創建 .text request

from bs4 import BeautifulSoup
import requests
import bs4 #bs4.element.Tag時用的上
#獲取網頁頁面HTML
def getHTMLText(url):
try:
r = requests.request("get", url,timeout=30)
r.raise_for_status() #如不是200報錯
r.encoding = r.apparent_encoding #猜測編碼然後賦予給解碼 編碼模式
demo = r.text
soup = BeautifulSoup(demo, "html.parser") #做湯
return soup
except:
return ""
#分析並返回列表
def fillUnivList(ulist,html):
soup = html
for tr in soup.find("tbody").children: #從湯裏找tbody標簽的兒子遍歷
if isinstance(tr,bs4.element.Tag): #如果標簽是標簽名字
tds = tr("td") #尋找tr裏所有td列表,然後賦予tds
ulist.append([tds[0].string,tds[1].string,tds[3].string]) #加入013號
pass #???
#打印表格
def printUnivList(ulist,num):
tplt = "{0:^10}\t{1:{3}^8}\t{2:^10}" #模板
print(tplt.format("排名","學校名稱","總分",chr(12288))) #3號中文空格
for i in range(num):
u = ulist[i] #列表中的0是一個擁有三個元素的列表
print(tplt.format(u[0], u[1], u[2],chr(12288))) #擁有三個元素的列表按模板打印

print("Suc" + str(num))
#主函數
def main():
uinfo = [] #創建一個列表
url = "http://www.zuihaodaxue.com/zuihaodaxuepaiming2016.html"
html = getHTMLText(url)
fillUnivList(uinfo,html)
printUnivList(uinfo,20) #打印20個大學

main()

【Python爬蟲】從html裏爬取中國大學排名