Python常用爬虫代码总结方便查询-创新互联
beautifulsoup解析页面
from bs4 import BeautifulSoup
soup = BeautifulSoup(htmltxt, "lxml")
# 三种装载器
soup = BeautifulSoup("", "html.parser")
### 只有起始标签的会自动补全，只有结束标签的会自动忽略
### 结果为：
soup = BeautifulSoup("", "lxml")
### 结果为：
soup = BeautifulSoup("", "html5lib")
### html5lib则出现一般的标签都会自动补全
### 结果为：
# 根据标签名、id、class、属性等查找标签
### 根据class、id、以及属性alog-action的值和标签类别查询
soup.find("a",class_="title",id="t1",attrs={"alog-action": "qb-ask-uname"}))
### 查询标签内某属性的值
pubtime = soup.find("meta",attrs={"itemprop":"datePublished"}).attrs['content']
### 获取所有class为title的标签
for i in soup.find_all(class_="title"):
print(i.get_text())
### 获取特定数量的class为title的标签
for i in soup.find_all(class_="title",limit = 2):
print(i.get_text())
### 获取文本内容时可以指定不同标签之间的分隔符，也可以选择是否去掉前后的空白。
soup = BeautifulSoup(' The Dormouses story
The Dormouses story
', "html5lib")
soup.find(class_="title").get_text("|", strip=True)
#结果为：The Dormouses story|The Dormouses story
### 获取class为title的p标签的id
soup.find(class_="title").get("id")
### 对class名称正则：
soup.find_all(class_=re.compile("tit"))
### recursive参数，recursive=False时，只find当前标签的第一级子标签的数据
soup = BeautifulSoup('abc','lxml')
soup.html.find_all("title", recursive=False)</pre>
<br>
网站名称：Python常用爬虫代码总结方便查询-创新互联
<br>
文章链接：<a href="http://mswzjz.cn/article/hoihh.html">http://mswzjz.cn/article/hoihh.html</a>
</div>
</div>
<div class="other">
<h3>其他资讯</h3>
<ul>
<li>
<a href="/article/hcscps.html">c语言计算sin函数的值,c语言编程计算sin值</a>
</li><li>
<a href="/article/hcscjp.html">php加密数据库连接,php数据库密码加密</a>
</li><li>
<a href="/article/hcschj.html">go语言写web项目,go语言的web框架</a>
</li><li>
<a href="/article/hcssog.html">关于Macos找不到系统文件的信息</a>
</li><li>
<a href="/article/hcscip.html">学go语言能做什么软件,go语言能干啥</a>
</li>
</ul>
</div>
</div>
<footer>
<div class="message">
<div class="mess container">
<p>免费获取网站建设与品牌策划方案报价</p>
<span>*主要业务范围包括：高端网站建设， 集团网站建设(网站建设网站制作)找网站建设公司就上四川攀枝花网站建设。</span>
<form action="">
<input type="text" class="ipt1" placeholder="联系人">
<input type="text" class="ipt2" placeholder="联系电话">
<textarea name="" id="" placeholder="内容描述：描述您的需求，如网站、微信、电商、APP等。"></textarea>
<a href="">提交需求</a>
</form>
</div>
</div>
<div class="footA">
<div class="footAs container">
<ul>
<h3>联系我们</h3>
<b>028-86922220</b>
<li>手机：13518219792</li>
<li>地址：成都市太升南路288号锦天国际A幢1002号</li>
<li class="hr1"></li>
<li>24小时服务热线：400-028-6601</li>
</ul>
<ul>
<h3>网站建设服务</h3>
<li>网页设计</li>
<li>网站制作</li>
<li>网站开发</li>
</ul>
<ul>
<h3>网站推广服务</h3>
<li>营销网站建设</li>
<li>百度快速排名</li>
<li>整站网站推广</li>
</ul>
<ul>
<h3>网站运维服务</h3>
<li>基础维护</li>
<li>网站改版</li>
<li>网站维护</li>
</ul>
<ul>
<h3>FOLLOW US</h3>
<li class="hr2"></li>
<li>
<dd class="fl"><img src="/Public/Home/img/ewm.png" alt=""><p>微信二维码</p></dd>
<dd class="fr"><img src="/Public/Home/img/ewm.png" alt=""><p>微信二维码</p></dd>
</li>
</ul>
</div>
<div class="link container">
友情链接：
<a href="http://www.dmvi.cn/" title="成都广告公司" target="_blank">成都广告公司</a> <a href="http://www.myfdjzy.com/" title="myfdjzy.com" target="_blank">myfdjzy.com</a> <a href="http://www.cdmintian.com/" title="珉田数据中心" target="_blank">珉田数据中心</a> <a href="http://www.cdxwcx.cn/" title="成都网站设计" target="_blank">成都网站设计</a> <a href="https://www.cdxwcx.com/jifang/zongshu.html" title="成都棕树机房" target="_blank">成都棕树机房</a> <a href="http://chengdu.cdweb.net/weixinkaifa/fuwuhao.html" title="微信服务号订阅号开发" target="_blank">微信服务号订阅号开发</a> <a href="http://www.kmxishu.com/" title="成都广告公司" target="_blank">成都广告公司</a> <a href="http://www.cdkjz.cn/develop/" title="电商网站" target="_blank">电商网站</a> <a href="http://m.cdcxhl.com/" title="成都网站制作" target="_blank">成都网站制作</a> <a href="http://www.scghjhjc.com/" title="广汉锦华" target="_blank">广汉锦华</a>
</div>
</div>
<div class="footB">
<div class="container">
<div class="fl">
四川攀枝花网站建设公司 四川攀枝花网站建设公司-选我们！四川专业的攀枝花网站制作公司！
</div>
<div class="fr">
All Rights Reserved 版权所有 <a href="https://beian.miit.gov.cn/" target="_blank" rel="nofollow">蜀ICP备2024097831号-1</a>
</div>
</div>
</div>
</footer>
</body>
</html>
<script>
$(".con img").each(function(){
var src = $(this).attr("src"); //获取图片地址
var str=new RegExp("http");
var result=str.test(src);
if(result==false){
var url = "https://www.cdcxhl.com"+src; //绝对路径
$(this).attr("src",url);
}
});
window.onload=function(){
document.oncontextmenu=function(){
return false;
}
}
</script>