爬虫访问小程序内页面时，会携带特定的 user-agent "mpcrawler" 及场景值：1129

1. 小程序里跳转的页面 (url) 可被直接打开。

小程序页面内的跳转url是我们爬虫发现页面的重要来源，且搜索引擎召回的结果页面 (url) 是必须能直接打开，不依赖上下文状态的。特别的：__建议页面所需的参数都包含在url__

2. 页面跳转优先采用navigator组件。

小程序提供了两种页面路由方式：

a.navigator 组件

b. 路由 API，包括 navigateTo / redirectTo / switchTab / navigateBack / reLaunch

建议使用 navigator 组件，若不得不使用API，可在爬虫访问时屏蔽针对点击设置的时间锁或变量锁。

3.清晰简洁的页面参数。

结构清晰、简洁、参数有含义的 querystring 对抓取以及后续的分析都有很大帮助，但是将 JSON 数据作为参数的方式是比较糟糕的实现。

4. 必要的时候才请求用户进行授权、登录、绑定手机号等。

建议在必须的时候才要求用户授权（比如阅读文章可以匿名，而发表评论需要留名）。

 ![](https://image.wxopen.club/content_e8b2952e-7e5e-11eb-ad51-001a7dda7111.jpg)

5. 我们不收录 web-view 中的任何内容。

我们暂时做不到这一点，长期来看，我们可能也做不到。

6. 利用 sitemap 配置引导爬虫抓取，同时屏蔽无搜索价值的路径。

https://developers.weixin.qq.com/miniprogram/dev/framework/sitemap.html

7. 设置一个清晰的标题和页面缩略图。

页面标题和缩略图对于我们理解页面和提高曝光转化有重要的作用。

通过<span style="color: rgb(193, 120, 139);">wx.setNavigationBarTitle</span>或 自定义转发内容<span style="color: rgb(193, 120, 139);">onShareAppMessage</span>对页面的标题和缩略图设置，另外也为 video、audio 组件补齐 poster /<span style="color: rgb(53, 53, 53);">poster-for-crawler</span>属性。

8. 使用页面路径推送能力

可极大丰富微信可以收录的内容，进而提高小程序内容的曝光机会。