Développeur(se) Backend Sénior, Systèmes D’inférence ML / Senior Backend Engineer, ML Inference Systems

Unity Unity · Enterprise · Mountain View, CA · AI & Machine Learning

Senior Backend Engineer responsible for building and operating distributed systems that handle billions of daily requests for ML inference, focusing on low latency, high throughput, reliability, and scalability. The role involves defining technical direction for the inference platform, collaborating with ML developers, and managing cloud infrastructure.

What you'd actually do

  1. Concevoir, développer et déployer des services backend et des systèmes distribués capables de traiter des milliards de requêtes quotidiennes
  2. Définir la direction technique de notre plateforme d’inférence, en visant une faible latence et un débit élevé
  3. Travailler en étroite collaboration avec les développeur(se)s ML pour que l'infrastructure de service en ligne tienne la cadence face à la complexité grandissante des modèles et à l'augmentation des volumes d'inférence
  4. Veiller à la fiabilité, à la scalabilité et à l'efficacité de nos systèmes en production à l'aide d'outils comme Prometheus et Grafana
  5. Gérer et optimiser notre infrastructure infonuagique sur GCP, en orchestrant les charges de travail avec Kubernetes

Skills

Required

  • Golang
  • GCP
  • Kubernetes
  • Prometheus
  • Grafana
  • microservices architectures
  • Docker
  • CI/CD
  • ML serving infrastructure

Nice to have

  • NVIDIA Triton Inference Server
  • ad tech bidding mechanisms
  • integrating AI into development workflow

What the JD emphasized

  • performance is critical
  • low latency
  • high throughput
  • billions of daily requests
  • large scale distributed systems

Other signals

  • ML inference systems
  • low latency
  • high throughput
  • large scale distributed systems
  • billions of daily requests