Python爬虫3-parse编码与利用

发布时间:2019-05-18 23:56:29编辑:auto阅读(2040)

    GitHub代码练习地址:①利用parse模拟post请求:https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac04_parse-post.py
              
               ②parse功能简单应用:https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac03_parse.py

               ③利用parse模拟post请求(通过request类实现):https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac05_parse-post(request).py

    一、(代码spiderprac03)

    利用参数给服务器传递信息时,直接写人类可读的参数是不可以的,参数格式要为dict字典结构,然后必须用parse功能来编码。

    二、项目(代码spiderprac04)

    利用parse模块模拟post请求
    分析百度词典
    ①分析步骤:
    1. 打开F12
    2. 尝试输入单词girl,发现每敲一个字母后都有请求
    3. 请求地址是 http://fanyi.baidu.com/sug
    4. 利用NetWork-All-Hearders,查看,发现FormData的值是 kw:girl
    5. 检查返回内容格式,发现返回的是json格式内容==>需要用到json包

    ②大致流程:
    1. 利用data构造内容,然后urlopen打开
    2. 返回一个json格式的结果
    3. 结果就应该是girl的释义

    三、(代码spiderprac05)
    为了更多的设置请求信息,单纯的通过urlopen函数已经不太好用了
    此时需要利用request.Request 类

关键字