号外:《黑客攻防入门学习课程》现已推出,喜欢的朋友请关注!!!

用Python轻松爬取在线教程,生成PDF文件愉快阅读

python 泰泰 2496℃ 0评论

【前言】

在日常工作中或学习上,经常要搜集一些教程,有时要的是单个资料,有时想获取的是整个科目的学习资源,在找到这些想要的资源后,发现有的教程是在线的,不提供离线版本,或者是提供下载,但是不是你熟悉的PDF文件,这就显得有些局限了。

那么作为一名程序员,在遇到任何电脑相关的问题,我们都应解决它,今天小编就来跟大家聊聊如何将在线教程下载下来并保存为PDF文件,以供查阅。

全文分为4个阶段:爬取网站介绍、环境准备工作、爬取内容、完整代码。

一、爬取网站介绍

本文以爬取” Read the Docs “网站教程为例,该网站是一个类似于” github “的网站,同样是一个可以提供创建、托管和浏览文档的网站,在上面可以找到很多优质的资源,感兴趣的朋友去查看一下(赤裸裸的做了一波广告,抱头)。其网址为:https://readthedocs.org/

 

我们将以爬取“python3-cookbook ”这个资源为例,如下图:

python-save-resource-pdf-1;

从文中我们可以找到文章的下载地址,当时仅提供 HTML 格式的文件下载,并不是我们想要的 PDF 格式:

python-save-resource-pdf-2

下面我们就来动手将该教程爬取下来,并让它保存成PDF格式文件。

 

二、环境准备工作

在开始本教程前需要准备几个环境,(1)安装wkhtmltopdf软件  (2)安装各种依赖库

1、软件安装

windowns 平台:

软件下载地址:http://wkhtmltopdf.org/downloads.html

手动安装完成后,将该程序的bin执行路径加入到系统环境 $PATH 变量中,否则后面无法使用。

提醒:添加完成记住重启电脑刷新哦~~~

Linux 平台:

直接使用命令安装:

2、依赖库安装

  • pip install requests         # 用于网络请求
  • pip install beautifulsoup4      # 用于 html  元素处理
  • pip install pdfkit        # wkhtmltopdf 的Python封装包
  • pip install PyPDF2    # 用于合并pdf

 

三、爬取内容

本文演示地址:http://python3-cookbook.readthedocs.io/zh_CN/latest/

3.1 获取教程名称

按键盘F12调出开发者工具,使用定位工具定位到页面的左边文章目录,具体如下:

① 点击开发者工具左上角”选取页面元素“按钮;

② 用鼠标点击左上角教程名称处。

通过以上步骤即可定位到目录元素,用图说明:

python-save-resource-pdf-3

从图看到我们需要的教程名称包含在<div class="wy-side-nav-search"></div>之间的<a>标签里。假设我们已经获取到了网页的源代码,这时我们就可以使用以下代码来获取该资源的“名称”信息了:

 

3.2 获取目录及对应网址

使用与 2.1 相同的步骤来定位内容:

python-save-resource-pdf-4

从图看到我们需要的目录包含在<div class="section"></div>之间,<li class="toctree-l1"></li>标签里为一级目录及网址;<li class="toctree-l2"></li>标签里为二级目录及网址。当然这个url是相对的url,前面还要拼接http://python3-cookbook.readthedocs.io/zh_CN/latest/

接下来使用BeautifulSoup进行数据的提取,源码如下:

代码中定义了两个全局变量来保存信息。章节内容保存在chapter_info列表里,里面包含了层级结构,大致结构为:

 

3.3 获取章节内容

还是用同样的方法定位章节内容:

python-save-resource-pdf-5

代码中我们通过itemprop这个属性来定位,好在一级目录内容的元素位置和二级目录内容的元素位置相同,省去了不少麻烦。

 

3.4 保存内容为PDF文件

 

3.5 合并 PDF 文件

在上一步中,我们把所有章节的pdf都保存下来了,最后我们希望留一个汇总的pdf,这时只需要合并所有pdf并删除单个章节pdf即可。

本来 PyPDF2库 中有一个PdfFileMerger专门用来合并pdf,但是在合并过程中会抛出异常,网上有人也遇到同样的问题,解决办法是修改库源码,本着“不动库源码”的理念,毅然选择了上面这种比较笨的办法,代码还是比较好理解的。

经过以上几个步骤,我们想要的pdf文件已经生成(当前工作目录下),一起来欣赏一下劳动成果:

python-save-resource-pdf-7

 

四、完整代码

由于文章篇幅较长,所以这里就不直接附上源代码了,对教程感兴趣的同学可到以下的云盘去下载:

百度云盘下载地址:链接: https://pan.baidu.com/s/1BLYVtojIdzj1FgPnD7v78Q 密码: 8gt3

说明:这里下载的源码可能与文章演示的代码也许有些差异,不过这不影响程序的使用,只是小编稍加改进而已。

 

转载请注明:泰泰博客 » 用Python轻松爬取在线教程,生成PDF文件愉快阅读

喜欢 (1)or分享 (0)
发表我的评论
取消评论

表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址(选填)
(1)个小伙伴在吐槽
  1. 感谢博主的好文, 从b站过来的. 还是建议博主可以在掘金等地开博客. 像我这种从b站过来的估计好少 :mrgreen:
    akai2018-05-26 22:46 回复