我们专注攀枝花网站设计 攀枝花网站制作 攀枝花网站建设
成都网站建设公司服务热线:400-028-6601

网站建设知识

十年网站开发经验 + 多家企业客户 + 靠谱的建站团队

量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决

python爬虫涉及的相关库有哪些-创新互联

这篇文章主要介绍了python爬虫涉及的相关库有哪些,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

创新互联于2013年成立,先为新建等服务建站,新建等地企业,进行企业商务咨询服务。为新建企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

以下是Python爬虫涉及的相关库

请求库,解析库,存储库,工具库

1、请求库:urllib/re/requests

(1) urllib/re是python默认自带的库,可以通过以下命令进行验证:

python爬虫涉及的相关库有哪些

没有报错信息输出,说明环境正常

(2) requests安装

2.1 打开CMD,输入 pip3 install requests

2.2 等待安装后,验证

python爬虫涉及的相关库有哪些

(3) selenium安装(驱动浏览器进行网站访问行为)

3.1 打开CMD,输入 pip3 install selenium

3.2 安装chromedriver

网址:https://npm.taobao.org/

把下载完成后的压缩包解压,把exe放到D:\Python3.6.0\Scripts\

这个路径只要在PATH变量中就可以

3.3 等待安装完成后,验证

python爬虫涉及的相关库有哪些

回车后弹出chrome浏览器界面

3.4 安装其他浏览器

无界面浏览器phantomjs

下载网址:http://phantomjs.org/

下载完成后解压,把整个目录放到D:\Python3.6.0\Scripts\,把bin目录的路径添加到PATH变量

验证:

打开CMD

python爬虫涉及的相关库有哪些

2. 解析库:

2.1 lxml (XPATH)

打开CMD输入pip3 install lxml或者从https://pypi.python.org下载,例如,lxml-4.1.1-cp36-cp36m-win_amd64.whl (md5) ,先下载whl文件,命令行执行pip3 install 文件名.whl

2.2 beautifulsoup

打开CMD,需要先安装好lxml

pip3 install beautifulsoup4

python爬虫涉及的相关库有哪些

2.3 pyquery(类似jquery语法)

打开CMD,pip3 install pyquery

验证安装结果

python爬虫涉及的相关库有哪些

3. 存储库

3.1 pymysql(操作MySQL,关系型数据库)

安装:pip3 install pymysql,安装后测试:

python爬虫涉及的相关库有哪些

3.2 pymongo(操作MongoDB,key-value)

安装 pip3 install pymongo

验证

python爬虫涉及的相关库有哪些

3.3 redis(分布式爬虫,维护爬取队列) 安装:pip3 install redis

验证:

python爬虫涉及的相关库有哪些

4.1Django(分布式爬虫维护系统)pip3 install django

4.2jupyter(运行在网页端的记事本,支持markdown,可以在网页上运行代码)安装 pip3 install jupyter

验证:打开CMD,jupyter notebook

之后就可以在网页直接创建记事本,代码块和Markdown块,支持打印

感谢你能够认真阅读完这篇文章,希望小编分享python爬虫涉及的相关库有哪些内容对大家有帮助,同时也希望大家多多支持创新互联成都网站设计公司,关注创新互联成都网站设计公司行业资讯频道,遇到问题就找创新互联成都网站设计公司,详细的解决方法等着你来学习!

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、网站设计器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


网站题目:python爬虫涉及的相关库有哪些-创新互联
URL链接:http://mswzjz.cn/article/hgeoo.html

其他资讯