如何用Python爬取小红书

技术如何用Python爬取小红书如何用Python爬取小红书,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。小红书首先,我们打开之前大家配置好的charles

相信很多没有经验的人对于如何用Python爬小红书都是一窍不通的。因此,本文总结了出现问题的原因和解决方法,希望大家可以通过这篇文章来解决这个问题。

小红书

首先让我们打开大家之前配置的charles。

让我们简单的抓取一下小红书小程序(注意这是一个小程序,不是一个app)。

我没有选择app的原因是小红书的App有点难。我参考了网上的一些想法,选择了一个小程序。

1、通过charles抓包对小程序进行分析

如何用Python爬取小红书

按照我的路径,你可以发现列表中的数据已经被我们抓住了。

但你觉得结束了吗?

不不不

如何用Python爬取小红书

通过这个包捕获,我们知道数据可以通过这个api接口获得。

但是当我们把所有的爬虫写好的时候,我们会发现头中有两个很难的参数。

授权”和“x符号”

这两样东西是不断变化的,不知道从哪弄来的。

因此

2、使用mitmproxy来进行抓包

事实上,通过查尔斯抢包,我们已经清楚了整体的抢包思路。

也就是说,获取' authorization '和' x-sign '两个参数,然后对url发出get请求。

这里使用的mitmproxy和查尔斯几乎一样,是一个抓包工具。

但是mitmproxy可以用Python执行。

这样舒服多了。

举个简单的例子。

defrequest(流):

Print(flow.request.headers)在mitmproxy中为我们提供了这样一个方法,这样我们就可以通过request对象截取请求头中的url、cookies、主机、方法、端口、方案等属性。

这不正是我们想要的吗?

我们直接截取参数‘授权’和‘x符号’。

然后填写标题。

整个完成了。

以上就是我们整个爬行的想法。让我们解释一下如何编写代码。

事实上,代码并不难写。

首先,我们必须拦截搜索api的流,这样我们就可以从中获取信息。

如果‘https://www.xiaohongshu.com/fe _ api/牛蒡/微信/v2/search/notes’流入. request.url3360我们判断流的请求中是否存在搜索API的url。

来决定我们需要抓取的请求。

authorization=re . find all(' authorization ',)。*?'(.*?)' \)',字符串(flow.request.headers))[0]

x_sign=re.findall('x-sign ',)。*?'(.*?)' \)',字符串(flow.request.headers))[0]

Url=flow.request.url通过上面的代码,我们可以得到三个最关键的参数,然后我们将共同解析json。

最后,我们可以得到我们想要的数据。

如何用Python爬取小红书

如果你想得到一个单独的数据,你可以得到文章id并获取它。

' https://www . xiaohongshu.com/discovery/item/'

如何用Python爬取小红书

此页眉需要有cookies。当你随意访问一个网站时,你可以得到饼干。目前看来是固定的。

最后,您可以将数据放入csv。

总结

其实小红书爬虫的爬行并不是特别难,关键在于思维和使用的方法。

看完以上,你掌握了用Python爬小红书的方法了吗?如果您想学习更多技能或了解更多相关内容,请关注行业资讯频道。感谢阅读!

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/49011.html

(0)

相关推荐

  • Python数据结构与算法中的散列是什么

    技术Python数据结构与算法中的散列是什么本篇内容主要讲解“Python数据结构与算法中的散列是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Python数据结构与算法

    攻略 2021年11月29日
  • JDBC中如何连接数据库

    技术JDBC中如何连接数据库这篇文章主要为大家展示了“JDBC中如何连接数据库”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“JDBC中如何连接数据库”这篇文章吧。连接数据库的

    攻略 2021年11月25日
  • C语言迷惑行为有哪些

    技术C语言迷惑行为有哪些这篇文章主要介绍“C语言迷惑行为有哪些”,在日常操作中,相信很多人在C语言迷惑行为有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”C语言迷惑行为有哪些”的疑惑有

    攻略 2021年11月1日
  • mybatis日常语法有哪些

    技术mybatis日常语法有哪些mybatis日常语法有哪些,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。mybatis中的#和$的区别? #方式能够很大程

    攻略 2021年10月20日
  • 西欧有哪些国家,欧洲有哪些国家

    技术西欧有哪些国家,欧洲有哪些国家欧洲不包括美国。欧洲共有44个国家和地区西欧有哪些国家,在地理上被习惯分为北欧、东欧、南欧、中欧、西欧五个地区。 1、北欧:芬兰、瑞典、挪威、冰岛、丹麦 、法罗群岛 ; 2、东欧:爱沙尼

    2021年10月23日
  • jquery有哪些读取节点的方法

    技术jquery有哪些读取节点的方法本篇内容介绍了“jquery有哪些读取节点的方法”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够

    攻略 2021年11月15日