Skip to main content

python爬虫工程师(自研非外包-短剧)招聘_重庆麦芽传媒有限公司招聘 - 智联招聘

Technology
重庆麦芽传媒有限公司
1个月前截至 2026/10/13

职位描述

岗位职责:

  • 负责设计和开发高效的数据爬取系统,构建稳定、可扩展的多源数据自动化采集通道。
  • 针对主流 Web 平台(包括但不限于抖音、小红书、快手),完成公开数据的采集、清洗和处理。
  • 深入分析目标网站的前端架构、接口逻辑和反爬策略,设计并实现高可用的爬取方案。
  • 维护现有爬虫项目的稳定性,持续优化性能,及时应对目标网站反爬机制的更新迭代。
  • 与数据分析师、算法工程师等上下游团队协作,确保数据质量和时效性,支撑业务发展需求。

任职要求:

  • 5 年以上爬虫系统开发经验。
  • 精通 Python,熟练掌握 Scrapy/Feapder/DrissionPage 等主流爬虫框架;熟悉 FastApi、Flask 等至少一种 Web 开发框架。
  • 深入理解 HTTP/HTTPS 协议,熟悉 Cookie、Session、Headers、代理等机制的工作原理。
  • 具备 JS 逆向、代码反混淆能力并且能够独立解决常见反爬策略(如 IP 封禁、验证码、滑块、反爬等)及其应对方案;
  • 熟悉至少一种关系型数据库(如 MySQL、PostgreSQL)和非关系型数据库(如 MongoDB、Redis)。

加分项:

  • 有抖音、小红书、快手等短视频或社交媒体平台的实际爬取项目经验。
  • 熟悉 AI 编程工具,能结合 AI 辅助进行爬虫业务的高效开发。
  • 了解 Docker 容器化技术,能使用/运维 Docker 。
  • 熟悉移动端自动化框架(如 Auto.js)。
Keywords
爬虫开发反爬虫Python分布式爬虫RedisMongodbJavaScriptMysqlPostgresqlDockerFlask

对这个职位感兴趣吗?