Développeuse Ou Développeur Côté Serveur (backend) Staff — Systèmes D’inférence ML / Staff Backend Engineer, ML Inference Systems

Unity Unity · Enterprise · Mountain View, CA · AI & Machine Learning

Staff Backend Engineer responsible for designing, building, and operating production-grade distributed systems for large-scale, low-latency ML model inference, focusing on performance, reliability, and scalability within a cloud environment (GCP, Kubernetes).

What you'd actually do

  1. Concevoir, développer et déployer des services côté serveur de qualité production et des systèmes distribués qui alimentent l’inférence de modèles en ligne à grande échelle, pour des milliards de requêtes quotidiennes
  2. Orienter la direction technique de notre plateforme d’inférence, en mettant l’accent sur une infrastructure de service à faible latence et à haut débit
  3. Collaborer avec les développeurs ML pour s’assurer que l’infrastructure de service en ligne évolue avec la complexité croissante des modèles et les volumes d’inférence, sans compromis sur la latence ni le débit
  4. Assurer la fiabilité, l’évolutivité et l’efficacité de nos systèmes en production au moyen d’outils de surveillance et d’observabilité comme Prometheus et Grafana
  5. Gérer et optimiser l’infrastructure infonuagique sur GCP, en coordonnant les charges de travail avec Kubernetes dans un environnement de production à grande échelle

Skills

Required

  • 5+ years of experience in designing, deploying, and maintaining large-scale distributed systems
  • Proficiency in Golang for building high-performance, low-latency backend infrastructure
  • Hands-on experience with cloud infrastructure on GCP and coordinating workloads with Kubernetes
  • Solid proficiency in monitoring and observability tools, including Prometheus and Grafana
  • Experience in ad tech, recommendation systems, real-time personalization, or other performance-critical domains
  • Knowledge of microservices architectures, containerization (Docker), and CI/CD best practices
  • Knowledge of machine learning serving infrastructure, workflows, and platforms

Nice to have

  • Experience with ML inference servers such as NVIDIA Triton Inference Server
  • Familiarity with bidding mechanisms or auction systems in an ad tech context

What the JD emphasized

  • low-latency
  • high-throughput
  • large-scale

Other signals

  • ML inference systems
  • large-scale ML
  • low-latency
  • high-throughput
  • production ML inference