一则python3的简单爬虫代码


不得不说python的上手非常简单。在网上找了一下,大都是python2的帖子,于是随手写了个python3的。代码非常简单就不解释了,直接贴代码。

复制代码 代码如下:

test rdp

import urllib.request
import re

登录用的帐户信息

data={}
data['fromUrl']=''
data['fromUrlTemp']=''
data['loginId']='12345'
data['password']='12345'
user_agent='Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'

登录地址

url='http://192.168.1.111:8080/loginCheck'

postdata = urllib.parse.urlencode(data)
postdata = postdata.encode('utf-8')
headers = { 'User-Agent' : user_agent }

登录

res = urllib.request.urlopen(url,postdata)

取得页面html
strResult=(res.read().decode('utf-8'))

用正则表达式取出所有A标签

p = re.compile(r'<a href="(.?)".?>(.*?)</a>')
for m in p.finditer(strResult):
print (m.group(1))#group(1)是href里面的内容,group(2)是a标签里的文字

关于cookie、异常等处理看了一下,没有花时间去处理,毕竟只是想通过写爬虫来学习python。