python 解析html網頁
阿新 • • 發佈：2017-05-08
class find() [] index file 字符 .com 查找 cto
from pyquery import PyQuery as pq
d = pq("<html><title>hello</title></html>")
d = pq(filename=path_to_html_file)
d = pq(url=‘http://www.baidu.com‘) # 此處url必須寫全
p = pq("<head><title>hello</title></head>")
p(‘head‘).html() # 返回<title>hello</title>
p(‘head‘).text() # 返回hello
d = pq(‘<div><p>test 1</p><p>test 2</p></div>‘)
d(‘p‘) # 返回[<p>,<p>]
print d(‘p‘) # 返回<p>test 1</p><p>test 2</p>
print d(‘p‘).html() # 返回test 1
print d(‘p‘).eq(1).html() # 返回test 2
d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘p‘).filter(‘#1‘) # 返回[<p#1>]
d(‘p‘).filter(‘.2‘) # 返回[<p.2>]
d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘div‘).find(‘p‘) # 返回[<p#1>, <p.2>]
d(‘div‘).find(‘p‘).eq(0) #返回[<p#1>]
d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘#1‘).html() # 返回test 1
d(‘.2‘).html() # 返回test 2
d = pq("<p id=‘my_id‘><a href=‘http://hello.com‘>hello</a></p>")
d(‘a‘).attr(‘href‘) # 返回http://hello.com
d(‘p‘).attr(‘id‘) # 返回my_id
d(‘a‘).attr(‘href‘, ‘http://baidu.com‘)
d = pq(‘<div></div>‘)
d.addClass(‘my_class‘) # 返回[<div.my_class>]
d = pq("<div class=‘my_class‘></div>")
d.hasClass(‘my_class‘) # 返回True
d = pq("<span><p id=‘1‘>hello</p><p id=‘2‘>world</p></span>")
d.children() # 返回[<p#1>, <p#2>]
d.children(‘#2‘) # 返回[<p#2>]
d = pq("<span><p id=‘1‘>hello</p><p id=‘2‘>world</p></span>")
d(‘p‘).parents() # 返回[<span>]
d(‘#1‘).parents(‘span‘) # 返回[<span>]
d(‘#1‘).parents(‘p‘) # 返回[]
d = pq("<p id=‘1‘>hello</p><p id=‘2‘>world</p><img scr=‘‘ />")
d(‘p:first‘).nextAll() # 返回[<p#2>, <img>]
d(‘p:last‘).nextAll() # 返回[<img>]
pyquery庫是jQuery的Python實現，可以用於解析HTML網頁內容，使用方法：
代碼如下:from pyquery import PyQuery as pq
1、可加載一段HTML字符串，或一個HTML文件，或是一個url地址，例：
d = pq("<html><title>hello</title></html>")
d = pq(filename=path_to_html_file)
d = pq(url=‘http://www.baidu.com‘) # 此處url必須寫全
2、html() 和 text() ——獲取相應的HTML塊或文本塊，例：
p = pq("<head><title>hello</title></head>")
p(‘head‘).html() # 返回<title>hello</title>
p(‘head‘).text() # 返回hello
3、根據HTML標簽來獲取元素，例：
d = pq(‘<div><p>test 1</p><p>test 2</p></div>‘)
d(‘p‘) # 返回[<p>,<p>]
print d(‘p‘) # 返回<p>test 1</p><p>test 2</p>
print d(‘p‘).html() # 返回test 1
註意：當獲取到的元素不只一個時，html()、text()方法只返回首個元素的相應內容塊
4、eq(index) ——根據給定的索引號得到指定元素
接上例，若想得到第二個p標簽內的內容，則可以：
代碼如下:print d(‘p‘).eq(1).html() # 返回test 2
5、filter() ——根據類名、id名得到指定元素，例：
代碼如下:d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘p‘).filter(‘#1‘) # 返回[<p#1>]
d(‘p‘).filter(‘.2‘) # 返回[<p.2>]
6、find() ——查找嵌套元素，例：
d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘div‘).find(‘p‘) # 返回[<p#1>, <p.2>]
d(‘div‘).find(‘p‘).eq(0) #返回[<p#1>]
7、直接根據類名、id名獲取元素，例：
d = pq("<div><p id=‘1‘>test 1</p><p class=‘2‘>test 2</p></div>")
d(‘#1‘).html() # 返回test 1
d(‘.2‘).html() # 返回test 2
8、獲取屬性值，例：
d = pq("<p id=‘my_id‘><a href=‘http://hello.com‘>hello</a></p>")
d(‘a‘).attr(‘href‘) # 返回http://hello.com
d(‘p‘).attr(‘id‘) # 返回my_id
9、修改屬性值，例：
d(‘a‘).attr(‘href‘, ‘http://baidu.com‘)
10、addClass(value) ——為元素添加類，例：
代碼如下:d = pq(‘<div></div>‘)
d.addClass(‘my_class‘) # 返回[<div.my_class>]
11、hasClass(name) #返回判斷元素是否包含給定的類，例：
d = pq("<div class=‘my_class‘></div>")
d.hasClass(‘my_class‘) # 返回True
12、children(selector=None) ——獲取子元素，例：
d = pq("<span><p id=‘1‘>hello</p><p id=‘2‘>world</p></span>")
d.children() # 返回[<p#1>, <p#2>]
d.children(‘#2‘) # 返回[<p#2>]
13、parents(selector=None)——獲取父元素，例：
d = pq("<span><p id=‘1‘>hello</p><p id=‘2‘>world</p></span>")
d(‘p‘).parents() # 返回[<span>]
d(‘#1‘).parents(‘span‘) # 返回[<span>]
d(‘#1‘).parents(‘p‘) # 返回[]
14、clone() ——返回一個節點的拷貝
15、empty() ——移除節點內容
16、nextAll(selector=None) ——返回後面全部的元素塊，例：
代碼如下:d = pq("<p id=‘1‘>hello</p><p id=‘2‘>world</p><img scr=‘‘ />")
d(‘p:first‘).nextAll() # 返回[<p#2>, <img>]
d(‘p:last‘).nextAll() # 返回[<img>]
17、not_(selector) ——返回不匹配選擇器的元素，例：
d = pq("<p id=‘1‘>test 1</p><p id=‘2‘>test 2</p>")
d(‘p‘).not_(‘#2‘) # 返回[<p#1>]
本文源自：http://www.jb51.net/article/50069.htm
python 解析html網頁