python爬虫工程师(自研非外包-短剧)招聘_重庆麦芽传媒有限公司招聘 - 智联招聘
Technology
重庆麦芽传媒有限公司1个月前截至 2026/10/13
职位描述
岗位职责:
- 负责设计和开发高效的数据爬取系统,构建稳定、可扩展的多源数据自动化采集通道。
- 针对主流 Web 平台(包括但不限于抖音、小红书、快手),完成公开数据的采集、清洗和处理。
- 深入分析目标网站的前端架构、接口逻辑和反爬策略,设计并实现高可用的爬取方案。
- 维护现有爬虫项目的稳定性,持续优化性能,及时应对目标网站反爬机制的更新迭代。
- 与数据分析师、算法工程师等上下游团队协作,确保数据质量和时效性,支撑业务发展需求。
任职要求:
- 5 年以上爬虫系统开发经验。
- 精通 Python,熟练掌握 Scrapy/Feapder/DrissionPage 等主流爬虫框架;熟悉 FastApi、Flask 等至少一种 Web 开发框架。
- 深入理解 HTTP/HTTPS 协议,熟悉 Cookie、Session、Headers、代理等机制的工作原理。
- 具备 JS 逆向、代码反混淆能力并且能够独立解决常见反爬策略(如 IP 封禁、验证码、滑块、反爬等)及其应对方案;
- 熟悉至少一种关系型数据库(如 MySQL、PostgreSQL)和非关系型数据库(如 MongoDB、Redis)。
加分项:
- 有抖音、小红书、快手等短视频或社交媒体平台的实际爬取项目经验。
- 熟悉 AI 编程工具,能结合 AI 辅助进行爬虫业务的高效开发。
- 了解 Docker 容器化技术,能使用/运维 Docker 。
- 熟悉移动端自动化框架(如 Auto.js)。
Keywords
爬虫开发反爬虫Python分布式爬虫RedisMongodbJavaScriptMysqlPostgresqlDockerFlask
对这个职位感兴趣吗?