如何通过程序自动抓取微信公众号文章的内容和视频

如何通过程序自动抓取微信公众号文章的内容和视频

月光魔力鸭

2020-12-04 09:02 阅读 1162 喜欢 4 puppeteer 爬虫

最近看到知乎上一话题:微信公众号文章里的视频怎么下载?。看还是有很多人推荐啥工具啊,很是捉急,当然本次的主题也是通过程序来获取内容,但是目前来说仅仅是娱乐吧。

微信公众号文章里的视频怎么下载

其实,如果只是针对一个文章的话是很简单的,直接通过复制文章地址 ,在谷歌浏览器打开后,然后在视频右下角点击全屏,点击右下角的点点点,点击下载即可。

当然也可以通过F12来查看video标签或查看network数据请求。

这些都是一些基本的操作了,这里不细说了,下边主要是通过puppeteer来获取视频并下载。

之前通过puppeteer其实已经做过很多事情了,登录啊 签到啊 等等,我也不知道我为啥会继续做,因为总体来说没有什么技术含量的,目前主要是做个铺垫,后续研究下如何抓取所有公众号的所有文章。

话不多说,直接上代码

/**
 * 小爬虫。
 * 目标:
 * 将微信公众号的视频下载下来,将文章保存PDF。
 * 
 * 问题:如果等待资源文件全部加载完毕后,才打印PDF。
 * 
 * 后续计划:
 * 获取某公众号内所有的文章地址,并进行轮询获取所有视频/文章PDF。
 * --微信。
 */

const puppeteer = require('puppeteer');
const path = require('path');
const fs = require('fs');
const helper = require('think-helper');//创建目录api
const axios = require('axios');
const folder = __dirname;

let url = `https://mp.weixin.qq.com/s/fwY6FPFCfgdJNTd22qqjKg`;
// let url = `https://mp.weixin.qq.com/s?__biz=MjM5MDAwNTk0MA==&mid=2653094471&idx=1&sn=8f430a2f1764714815ee9f523091b88b`;

function wsf(rs,ws){
    return new Promise((r,j)=>{
        rs.pipe(ws);
        ws.on('close',e=>{
            r();
        })
    });
}


(async function(){

    let browser = await puppeteer.launch({
        headless : true,
        executablePath : 'C:\\Program Files (x86)\\Google\\Chrome\\Application\\chrome.exe'
    });

    console.log(`开启新页面:[${url}]`);
    const page = await browser.newPage();

    let asyncArr = [];
    page.on('response',async (res)=>{
        try{
            let json = await res.json();//
            if(json && json.url_info){
                console.log(`获取到异步视频数据.`);
                asyncArr = asyncArr.concat(json.url_info);
            }
        }catch(e){}
    })
    console.log(`等待页面数据请求加载完成。`)
    await page.goto(url,{
        waitUntil : 'networkidle2'//请求结束
    });

    //url
    let videoArr = await page.evaluate(()=>{
        return $('video').get().map(t=>{
            return $(t).attr('src');
        })
    });
    
    //获取公众号信息
    let name = await page.evaluate(()=>{
        return $('.account_nickname_inner').length > 0 ? $('.account_nickname_inner').text() : $('.rich_media_meta_nickname #js_name').text();
    });
    let title = await page.evaluate(()=>{
        return $('.common_share_title').length > 0 ? $('.common_share_title').text() : $('.rich_media_title').text();
    });
    name = name.trim();
    title = title.trim();
    console.log(`获取到公众号信息:[${name}-${title}]`)


    //创建目录
    let folderPath = path.join(folder,name,title);
    helper.mkdir(folderPath);//创建目录
    //对视频做处理。
    let vr = [];

    vr =vr.concat(videoArr.map(t=>{
        let u = new URL(t);
        let fileName = title+path.extname(u.pathname);
        let filePath = path.join(folderPath,fileName);
        return {
            title : fileName,
            filePath : filePath,
            url : t
        }
    }));

    vr = vr.concat(asyncArr.map(t=>{
        let u = new URL(t.url);
        let fileName = t.video_quality_wording +'-'+ title+path.extname(u.pathname);
        let filePath = path.join(folderPath,fileName);
        return {
            title : fileName,
            filePath : filePath,
            url : t.url
        }
    }));

    console.log(`开始准备下载视频文件`);
    for(let video of vr){
        console.log(`开始下载视频:[${video.title}]`)
        await axios.get(video.url,{
            responseType : 'stream'
        }).then(async rs=>{
            await wsf(rs.data,fs.createWriteStream(video.filePath));
        })
    }

    //将页面滚动到最底部
    await page.evaluate(()=>{
        $('html').get(0).scrollTop = $('html').get(0).scrollHeight
    });
    console.log('等待资源加载.....')
    // await page.evaluate(function(){
    //     let timeLimit = 60 * 1000;
    //     return new Promise((r,j)=>{
    //         let isLoaded = true;
    //         let start = +new Date();
    //         let t = setInterval(function(){
    //             $('img').get().forEach(t=>{
    //                 var img = $(t).attr('src');
    //                 var pimg = $(t).data('src');
    //                 if(img.indexOf(pimg) > -1){
    //                     isLoaded  = isLoaded && true;
    //                 }else{
    //                     isLoaded  = isLoaded && false;
    //                 }
    //             })
    //             if(isLoaded || (+new Date()) - start > timeLimit){
    //                 clearInterval(t);
    //                 r();
    //             }
    //         },500);
    //     })
    // });


    //pdf
    console.log(`保存文章到PDF`)
    await page.pdf({
        path : path.join(folder,name,title,title+'.pdf'),
        format  : 'A4',
        printBackground  : true
    });

    console.log(`关闭浏览器`);
    await browser.close();

    process.exit(0);


})();

总体来说大约用了不到一个小时,包括实现啊调试啊,相对来说没有什么难度。不过也碰到了一个问题,资源懒加载的问题。

目前还没有啥比较好的思路来去确定资源加载完毕的回调,暂时搁置。

准备抽时间把这个小东西做成服务,扔在博客的工具里面,到时候看看情况。

转载请注明出处: https://chrunlee.cn/article/weixin-video-fetch.html


感谢支持!

赞赏支持
提交评论
评论信息 (请文明评论)
暂无评论,快来快来写想法...
推荐
通过pm2来实现nodejs应用的集群,不过我之前没做session共享,导致.. 登录不上啊 啊啊啊,无奈,又重新对redis进行了集成。
有一个需求,需要公司的LOGO信息,但是没有,只有公司的名字,想着先生成个默认的(本来是可以通过前端判断然后合成的..但是不想改小程序了),于是开始准备处理。
通过imap 来接收邮箱新邮件,类似客户端系列,不过比较简单的,目前只有新邮件,后续也可以通过这个来做一个自己的邮件客户端。
最近有接触到针对二维码进行识别的功能,然后对图片进行位置纠正、二维码扫描,并将数据进行整理。以下是通过nodejs做的,相对简单一些,没有太过严格,识别率也不是很高大约80%左右
之前在知乎上有看到,基本上都是一致的,这里提供一个nodejs版本的针对微信内dat文件进行处理恢复为图片的方法。
在开发的时候,经常会有css js 文件的变更,然后部署后发现没有起到作用,最终发现是缓存的问题,如何来方便的解决
今天写文章,突然发现自己常用的素材站换成了webp格式的图片.. 可惜本站还没准备加这个支持,所以准备加个webp转jpg的小功能,继续使用啦。
在公司报销的时候虽然已经有了电子发票,但是贴票还是需要将发票打印出来贴上,如果只有一两张也就算了,如果几十张.. 呵呵,光胶水我都不够用的,找了好多工具、在线版本都不合心意,烦死,自己做个自己喜欢的吧。