TEACHING GUIDE
网络爬虫实验说明
这是一个可控、稳定、合规的课堂训练环境。页面看起来像招聘网站,但所有内容都是专门为教学设计的虚构数据。
站点地图与预期结果
24岗位总数
3列表页数
8每页岗位
24详情页面
| 页面 | 地址 | 适合练习 |
|---|---|---|
| 岗位列表 | index.html、page2.html | 请求网页、解析列表、提取字段 |
| 岗位详情 | jobs/job-001.html | 跟随链接、提取正文 |
| JSON 数据 | data/jobs.json | 认识结构化数据 |
后续课程的数据问题
第 1 页字段整齐;第 2—3 页加入真实工作中常见的不一致。
- 薪资格式不统一,并含“面议”和缺失值。
- “广州”“广州市”“广 州”同时存在。
job-001与job-017是有意设置的重复岗位。- 个别经验缺失,日期格式也不统一。
合规采集约定
允许:抓取本站公开页面;单线程运行;请求间隔不少于 1 秒;仅保存实验所需字段。
不允许:高并发请求;采集个人隐私;把代码直接迁移到真实招聘网站。
robots.txt 不等同于法律授权。实际工作还要遵守网站条款、法律法规与数据最小化原则。
稳定的 HTML 选择器
.job-card 每一条岗位卡片
.job-name 岗位名称
.company 公司名称
.city 工作城市
.salary 薪资
.education 学历要求
.experience 经验要求
.skill-tag 技能标签
.publish-date 发布时间
.job-link 详情页链接
.next-page 下一页链接