Software Engineer, Systems ML - Frameworks / Compilers / DL-Kernels | Ingénieur logiciel spécialisé en apprentissage automatique des systèmes – cadres/compilateurs/noyaux d'apprentissage profond

Description

In this role, you will be a member of the MTIA (Meta Training & Inference Accelerator) Software team and part of the bigger AI and Compute Foundations team. MTIA Software Team has been developing a comprehensive software platform strategy that delivers a highly flexible platform to train & serve new deep learning model architectures, combined with auto-tuned high performance for production environments across specialized hardware architectures. You will be working on one of the core areas such as PyTorch & GenAI framework components, AI compiler and runtime, high-performance deep learning kernels and tooling to accelerate machine learning workloads on the current & next generation of MTIA AI hardware platforms. You will work closely with AI researchers to analyze deep learning models and optimize them efficiently on MTIA hardware. You will also partner with hardware design teams to develop optimizations for high performance. You will apply software development best practices to design features, optimization, and performance tuning techniques. You will gain valuable experience in developing machine learning compiler frameworks and will help in driving next generation hardware software codesign for AI domain specific problems. ------- À ce poste, vous ferez partie de l'équipe logicielle MTIA (Meta Training & Inference Accelerator) et intégrerez l'équipe plus large chargée de l'IA et des fondements informatiques. L'équipe logicielle de MTIA élabore actuellement une stratégie globale de plate-forme logicielle visant à offrir une plate-forme extrêmement flexible permettant de former et d'exploiter de nouvelles architectures de modèles d'apprentissage profond, tout en garantissant des performances optimisées automatiquement pour les environnements de production sur diverses architectures matérielles spécialisées. Vous travaillerez sur l'un des domaines clés, tels que les composants des frameworks PyTorch et GenAI, le compilateur et le moteur d'exécution d'IA, les noyaux d'apprentissage profond haute performance et les outils destinés à accélérer les charges de travail d'apprentissage automatique sur les plates-formes matérielles d'IA MTIA actuelles et de nouvelle génération. Vous travaillerez en étroite collaboration avec des chercheurs en IA pour analyser les modèles d’apprentissage profond et les optimiser efficacement sur le matériel MTIA. Vous travaillerez également en collaboration avec les équipes de conception matérielle afin de mettre au point des optimisations visant à atteindre des performances élevées. Vous mettrez en œuvre les meilleures pratiques en matière de développement logiciel pour concevoir des fonctionnalités, optimiser les applications et mettre en œuvre des techniques d'optimisation des performances. Vous bénéficierez d'une expérience précieuse dans le développement de compilateurs d'apprentissage automatique et contribuerez à la conception de logiciels matériels de nouvelle génération pour les problèmes spécifiques du domaine d'IA.

Responsibilities

Development of SW stack with one of the following core focus areas: AI frameworks, compiler stack, high performance deep learning kernel development, runtime and tooling for MTIA accelerator | Développement d'une pile logicielle dans l'un des domaines clés suivants : Cadres d'IA, pile de compilateurs, développement de noyaux d'apprentissage profond haute performance, environnement d'exécution et outils pour l'accélérateur MTIA. Contribute to the development of the industry-leading PyTorch AI framework, core compilers, and GenAI OSS frameworks to support new state-of-the-art inference and training AI hardware accelerators and optimize their performance | Contribuer au développement du cadre d'IA PyTorch, leader du secteur, des compilateurs de base et des cadres open source GenAI afin de prendre en charge les nouveaux accélérateurs matériels d'IA de pointe destinés à l'inférence et à l'entraînement, et d'optimiser leurs performances. Analyze deep learning models, develop and implement optimization algorithms towards high performance and efficiency gains | Analyser des modèles d'apprentissage profond, développer et mettre en œuvre des algorithmes d'optimisation visant à améliorer les performances et à réaliser des gains d'efficacité. Collaborate with AI research scientists to accelerate the next generation of deep learning models such as recommendation systems and Generative AI | Collaborer avec des chercheurs en intelligence artificielle afin d'accélérer le développement de la prochaine génération de modèles d'apprentissage profond, tels que les systèmes de recommandation et l'IA générative.

Qualifications

Proven C/C++ programming skills | Compétences avérées en programmation C/C++ Experience in AI framework development or accelerating deep learning models on hardware architectures | Expérience dans le développement de cadres d'IA ou dans l'accélération de modèles d'apprentissage profond sur des architectures matérielles Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience | Licence en informatique, en génie informatique, dans un domaine technique pertinent, ou expérience pratique équivalente OR Experience working with frameworks like PyTorch, TensorFlow, ONNX, TensorRT, and GenAI Frameworks such as vLLM or SGLang | OU expérience dans l'utilisation de cadres tels que PyTorch, TensorFlow, ONNX, TensorRT et de cadres d'IA générative tels que vLLM ou SGLang OR AI Compiler: Experience with compiler optimizations such as loop optimizations, vectorization, parallelization, hardware specific optimizations such as SIMD. Experience with MLIR, LLVM, IREE, XLA, TVM, Halide is a plus | OU compilateur d'IA : Expérience en matière d'optimisations de compilateur, telles que les optimisations de boucles, la vectorisation, la parallélisation, ainsi que les optimisations spécifiques au matériel, comme le SIMD. Une expérience avec MLIR, LLVM, IREE, XLA, TVM ou Halide est un plus OR Runtime development and system performance optimizations such as runtime analysis of latency, memory bandwidth, I/O access, compute utilization analysis and associated tooling development | OU le développement en temps réel et optimisations des performances du système, notamment l'analyse en temps réel de la latence, de la bande passante mémoire, des accès E/S, l'analyse de l'utilisation des ressources de calcul et le développement des outils associés OR high performance deep learning kernels: Experience with CUDA programming, OpenMP / OpenCL programming or AI hardware accelerator kernel programming. Experience in accelerating libraries on AI hardware, similar to cuBLAS, cuDNN, CUTLASS, HIP, ROCm etc | OU des noyaux d’apprentissage profond haute performance : Expérience en programmation CUDA, en programmation OpenMP/OpenCL ou en programmation de noyaux pour accélérateurs matériels d'IA. Expérience dans l'optimisation des bibliothèques sur du matériel d'IA, à l'instar de cuBLAS, cuDNN, CUTLASS, HIP, ROCm, etc OR Tooling for device profiling, tracing, debugging and performance tuning | OU des outils destinés au profilage, au traçage, au débogage et à l'optimisation des performances des appareils Knowledge of GPU, CPU, or AI hardware accelerator architectures | Connaissance des architectures des cartes graphiques, des processeurs ou des accélérateurs matériels d'intelligence artificielle A Bachelor's degree in Computer Science, Computer Engineering, relevant technical field and 7+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a Master's degree in Computer Science, Computer Engineering, relevant technical field and 4+ years of experience in AI framework development or accelerating deep learning models on hardware architectures OR a PhD in Computer Science, Computer Engineering, or relevant technical field and 3+ years of experience in AI framework development or accelerating deep learning models on hardware architectures | Un diplôme de licence en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins sept ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU un diplôme de maîtrise en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins quatre ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles ; OU un doctorat en informatique, en génie informatique ou dans un domaine technique pertinent, ainsi qu’au moins trois ans d’expérience dans le développement de cadres d’IA ou l’accélération de modèles d’apprentissage profond sur des architectures matérielles Demonstrated ongoing AI skill development (e.g., prompt/context engineering, agent orchestration) and staying current with emerging AI technologies | Avoir démontré une capacité à développer en permanence ses compétences en IA (par exemple, ingénierie des prompts et du contexte, orchestration d'agents) et à se tenir informé des technologies émergentes en matière d'IA Demonstrated ability to integrate AI tools to optimize/redesign workflows and drive measurable impact (e.g., efficiency gains, quality improvements) | Capacité avérée à intégrer des outils d'IA afin d'optimiser ou de repenser les processus de travail et de générer des résultats mesurables (par exemple, gains d'efficacité, amélioration de la qualité) Experience adhering to and implementing responsible, ethical AI practices (e.g., risk assessment, bias mitigation, quality and accuracy reviews) | Expérience dans le respect et la mise en œuvre de pratiques responsables et éthiques en matière d’IA (par exemple : évaluation des risques, réduction des biais, examens de la qualité et de l’exactitude)

Compensation: CA$160,000/year to CA$213,000/year + bonus + equity + benefits