有的时候，我们本来写得好好的爬虫代码，之前还运行得Ok, 一下子突然报错了。

报错信息如下：

Http 800 Internal internet error

这是因为你的对象网站设置了反爬虫程序，如果用现有的爬虫代码，会被拒绝。

之前正常的爬虫代码如下：

from urllib.request import urlopen
...
html = urlopen(scrapeUrl)
bsObj = BeautifulSoup(html.read(), "html.parser")

这个时候，需要我们给我们的爬虫代码做下伪装，

给它添加表头伪装成是来自浏览器的请求

修改后的代码如下：

import urllib.parse
import urllib.request
from bs4 import BeautifulSoup
...
req = urllib.request.Request(scrapeUrl)
req.add_header('User-Agent', 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)') 
response = urllib.request.urlopen(req) 
html = response.read()
 
bsObj = BeautifulSoup(html, "html.parser")

Ok,一切搞定，又可以继续爬了。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持积木网。

Python3网络爬虫之使用User Agent和代理IP隐藏身份
本文介绍了Python3网络爬虫之使用UserAgent和代理IP隐藏身份，分享给大家，具体如下：运行平台：WindowsPython版本：Python3.xIDE：Sublimetext3一、为何要设置User

python数字图像处理之高级滤波代码详解
本文提供许多的滤波方法，这些方法放在filters.rank子模块内。这些方法需要用户自己设定滤波器的形状和大小，因此需要导入morphology模块来设定。1、aut

python学习笔记之列表(list)与元组(tuple)详解
前言最近重新再看python的基础知识，感觉自己还是对于这些知识很陌生，需要用的时候还是需要翻书查阅，还是先注重基础吧——我要重新把python的教