知方号

知方号

Python 爬取网页数据的两种方法<怎么获取一个网站的数据文件>

Python 爬取网页数据的两种方法 1. 概述2. 使用pandas 爬取网页数据2.1 打开网页2.2 打开 PyCharm 编译器 3.使用urllib爬取网页数据并写入Excel表3.1 下载 urllib 库3.2 代码如下3.3 运行结果如下 结束语

1. 概述

网络抓取是从任何网站或任何其他信息源中提取数据的过程,以你想要查看的格式保存在你的系统中; 包含格式很多,例如CSV、Excel等;文件、XML、JSON等等。Python是最常见的网页抓取语言之一;对于任何网络抓取活动,Python被认为是确保此过程无任何错误进行的最佳方法;

2. 使用pandas 爬取网页数据 2.1 打开网页

打开一个网页,将网址复制下来;

2.2 打开 PyCharm 编译器

先下载pandas库,【文件】=>【设置】=>【项目:xxx】=>【项目解释器】(【File】=>【Settings…】=>【project:xxx】=>【Python Interpreter】),点击+号,在搜索框中输入“pandas”,在下方列表中选中“pandas”,点击安装,等待提示安装完成即可;

回到Pycharm输入以下代码

import pandas as pd #导入pandas库html = "https://mobile.anjuke.com/xf/fj-nn/2023/" #将要爬取数据的网站网址复制到此date = pd.read_html(html) #运用pd.read_html读取网站数据print(date) #输出爬取到的数据 运行结果如下所示: 3.使用urllib爬取网页数据并写入Excel表 3.1 下载 urllib 库

与上述方法一致,这里就不赘述了

3.2 代码如下 import urllib.request #导入urllib库url = urllib.request.urlopen("https://fangjia.gotohui.com/show-39181") #需要抓取数据的网站data = url.read()dt1 = open("D:/Code/data/2.xls","wb") #xls表的位置,会自动生成xls表dt1.write(data) #将数据写入D:/Code/data/2.xls表中dt1.close()print(data) 3.3 运行结果如下

打开目录下的2.xls表,即可看到爬取的数据;

结束语

若这篇文章有帮到你,给个赞,收个藏,欢迎大家评论; 若文章有什么错误,欢迎大家指教。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至lizi9903@foxmail.com举报,一经查实,本站将立刻删除。