Software Engineer, Systems ML - PyTorch Compiler, PyTorch Framework, PyTorch Per

This role is about developing the core PyTorch 2.0 technologies, innovating and advancing the state-of-the-art of ML compilers, and accelerating PT2 adoption through direct engagements with OSS and industry users.
The PyTorch Compiler team is dedicated to making PyTorch run faster and more resource-efficient without sacrificing its flexibility and ease of use. The team is the driving force behind PT2, a step function change in PyTorch’s history that brought compiler technologies to the core of PyTorch. PT2 technologies have gained industry-wide recognition since their first release in March 2023. The team is committed to building the PT2 compiler that withstands the test of time while striving to become the #1 ML framework compiler in the industry. The team is highly innovative, passionate about the technologies we build, and love to do technical work. Our work is open source, cutting-edge, and industry leading.
-------
Ce rôle consiste à développer les technologies de base de PyTorch 2.0, à innover et à faire progresser l’état de l’art des compilateurs ML et à accélérer l’adoption de PT2 grâce à des engagements directs avec les utilisateurs d’OSS et de l’industrie.
L’équipe du compilateur PyTorch s’efforce de rendre PyTorch plus rapide et plus économe en ressources sans sacrifier sa flexibilité et sa facilité d’utilisation. L'équipe est l'élément moteur derrière PT2, une avancée significative dans l'histoire de PyTorch qui a permis d'intégrer des technologies de compilation au sein même de PyTorch. Les technologies PT2 ont acquis une reconnaissance à l’échelle de l’industrie depuis leur première sortie en mars 2023. L’équipe s’engage à créer le compilateur PT2 qui résiste à l’épreuve du temps tout en s’efforçant de devenir le compilateur de framework ML n°1 de l’industrie. L’équipe est très innovante, passionnée par les technologies que nous construisons et aime faire du travail technique. Le code source de notre travail est libre, innovant et à la pointe de l'industrie.Software Engineer, Systems ML - PyTorch Compiler, PyTorch Framework, PyTorch Performance | Ingénieur logiciel, Systems ML - Compilateur PyTorch, Framework PyTorch, Performance PyTorch Responsibilities

• Develop the PT2 compiler (e.g., TorchDynamo, TorchInductor, Export, PyTorch Core) | Développer le compilateur PT2 (par exemple, TorchDynamo, TorchInductor, Export, PyTorch Core)
• Improve PyTorch performance via systematic solutions for the entire community | Améliorer les performances de PyTorch grâce à des solutions systématiques pour l’ensemble de la communauté
• Explore the intersection of the PyTorch compiler and PyTorch distributed | Explorez le point de rencontre entre le compilateur PyTorch et PyTorch distribué.
• Optimize Generative AI models across the stack (pre-training, fine-tuning, and inference) | Optimiser les modèles d’IA générative sur l’ensemble de la pile (pré-formation, réglage fin et inférence)
• Collaborate with users of PyTorch to enable new use cases of PT2 technologies both inside and outside Meta | Collaborer avec les utilisateurs de PyTorch pour permettre de nouveaux cas d’utilisation des technologies PT2 à l’intérieur et à l’extérieur de Meta

Minimum Qualifications

• Advanced in Python or C++ programming | Avancé en programmation Python ou C++
• Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience | Baccalauréat en informatique, en génie informatique, dans un domaine technique connexe ou une expérience pratique équivalente
• 4+ years of research or industry experience in developing compilers, ML systems, ML accelerators, GPU performance, and similar | Plus de 4 ans d’expérience en recherche ou dans l’industrie dans le développement de compilateurs, de systèmes ML, d’accélérateurs ML, de performances GPU et similaires

Preferred Qualifications

• Experience in developing PyTorch/PT2, Triton, MLIR, JAX, XLA, TVM is a huge plus | Une expérience dans le développement de PyTorch/PT2, Triton, MLIR, JAX, XLA, TVM est un énorme plus
• Knowledge in GPU architecture, ML accelerator performance, and developing high-performance kernels | Connaissances en architecture GPU, performances des accélérateurs ML et développement de noyaux hautes performances
• Experience in building OSS communities and extensive social media presence in the ML Sys domain | Expérience dans la création de communautés OSS et présence étendue sur les réseaux sociaux dans le domaine ML Sys
• Experience with training models, end-to-end model optimizations, or applying ML to systems | Expérience avec les modèles d'entraînement, l'optimisation de bout en bout des modèles ou applications du ML aux systèmes
• Knowledge of communication collectives, PyTorch distributed, and parallelism | Connaissance des collectifs de communication, de PyTorch distribué et du parallélisme
• Experience in developing inside other ML frameworks like Caffe2, TensorFlow, ONNX, TensorRT | Expérience de développement dans d’autres frameworks ML comme Caffe2, TensorFlow, ONNX, TensorRT

For those who live in or expect to work from California if hired for this position, please click here for additional information. About Meta Meta builds technologies that help people connect, find communities, and grow businesses. When Facebook launched in 2004, it changed the way people connect. Apps like Messenger, Instagram and WhatsApp further empowered billions around the world. Now, Meta is moving beyond 2D screens toward immersive experiences like augmented and virtual reality to help build the next evolution in social technology. People who choose to build their careers by building with us at Meta help shape a future that will take us beyond what digital connection makes possible today—beyond the constraints of screens, the limits of distance, and even the rules of physics.
Meta développe des technologies qui aident les gens à se connecter, à trouver des communautés et à développer des entreprises. Lorsque Facebook a été lancé en 2004, il a changé la façon dont les gens se connectent. Des applications comme Messenger, Instagram et WhatsApp ont permis à des milliards de personnes dans le monde de s'émanciper. Aujourd'hui, Meta dépasse les écrans 2D pour se tourner vers des expériences immersives comme la réalité augmentée et virtuelle, afin de contribuer à la prochaine évolution de la technologie sociale. Les personnes qui choisissent de bâtir leur carrière en œuvrant avec nous chez Meta contribuent à façonner un avenir qui nous mènera au-delà de ce que la connexion numérique rend possible aujourd'hui — au-delà des contraintes des écrans, des limites de la distance, et même des règles de la physique.
CA$159,000/year to CA$213,000/year + bonus + equity + benefits
Individual compensation is determined by skills, qualifications, experience, and location. Compensation details listed in this posting reflect the base hourly rate, monthly rate, or annual salary only, and do not include bonus, equity or sales incentives, if applicable. In addition to base compensation, Meta offers benefits. Learn more about benefits at Meta.
Equal Employment Opportunity Meta is proud to be an Equal Employment Opportunity employer. We do not discriminate based upon race, religion, color, national origin, sex (including pregnancy, childbirth, reproductive health decisions, or related medical conditions), sexual orientation, gender identity, gender expression, age, status as a protected veteran, status as an individual with a disability, genetic information, political views or activity, or other applicable legally protected characteristics. You may view our Equal Employment Opportunity notice here. Meta is committed to providing reasonable accommodations for qualified individuals with disabilities and disabled veterans in our job application procedures. If you need assistance or an accommodation due to a disability, fill out the Accommodations request form.
Meta est fière d’être un employeur offrant l’égalité des chances en matière d’emploi. Nous ne faisons aucune discrimination fondée sur la race, la religion, la couleur, l’origine nationale, le sexe (y compris la grossesse, l’accouchement, les décisions en matière de santé reproductive ou les problèmes médicaux connexes), l’orientation sexuelle, l’identité de genre, l’expression de genre, l’âge, le statut d’ancien combattant protégé, le statut de personne handicapée, les informations génétiques, les opinions politiques ou les activités, ou d’autres caractéristiques protégées par la loi applicables. Vous pouvez consulter notre avis sur l’égalité des chances en matière d’emploi ici.
Meta s'engage à fournir des aménagements raisonnables aux personnes handicapées et aux anciens combattants invalides dans le cadre de ses procédures de candidature. Si vous avez besoin d’aide ou d’une mesure d’adaptation en raison d’un handicap, remplissez le formulaire de demande d’adaptation.