27. Februar - 1. März 2018 // Nürnberg, Germany

Konferenzen und Rahmenprogramm

Zurück zur Tagesansicht
Session 30 - Multicore Systems

Running Machine Learning Optimally on Heterogeneous, Low-Power Platforms Vortragssprache Englisch

Neural network frameworks such as Caffe and TensorFlow have revolutionized machine learning and computer vision on desktop PCs and on servers in the cloud, and are poised to do the same at the edge. But running these frameworks optimally on low-power devices provides one of the biggest challenges yet for developers. To help, modern system-on-chips offer a variety of processor core types – CPUs, GPUs, accelerators, DSPs, etc. – each suited to different parts of typical machine learning pipelines. But mapping these frameworks to run seamlessly across these cores, whilst minimizing power-sapping operations such as memory copies, can be complex and time-consuming to implement. Optimizing for one platform is often challenge enough, but with such a huge variety of potential target platforms, the prospect of optimizing for each one limits the feasibility of write-once applications that run optimally across multiple devices. This talk will look at some of the tools and techniques available today that aim to take some of the pain away including the recently announced Project Trilium: Arm’s new suite of machine learning IP with the Arm NN software platform. It will examine how key middleware can act as a pinch-point, interfacing with multiple high-level machine learning frameworks, providing the developer with an optimal route to these multiple processor cores. The talk will also show how optimization of this middleware can reduce the developer’s problem when distributing machine learning workloads. This will be illustrated with examples, highlighting some of the work Arm is doing to enable machine learning wherever compute happens. Finally, the talk will look ahead to a time when these frameworks can be used to automate the choice between cores and, ultimately, do this dynamically, making decisions based on current load and power before scheduling nodes of the pipeline in one direction or the other. What will the implication to the world of machine learning be once these tools and frameworks have evolved, enabling this exciting set of new use cases across embedded devices of all shapes and sizes?

--- Datum: 01.03.2018 Uhrzeit: 15:30 Uhr - 16:00 Uhr Ort: Conference Counter NCC Ost


 Robert Elliott

Robert Elliott

/ arm Limited


Der gewählte Eintrag wurde auf Ihre Merkliste gesetzt!

Wenn Sie sich registrieren, sichern Sie Ihre Merkliste dauerhaft und können alle Einträge selbst unterwegs via Laptop oder Tablett abrufen.

Hier registrieren Sie sich, um Daten der Aussteller- und Produkt-Plattform sowie des Rahmenprogramms dauerhaft zu speichern. Die Registrierung gilt nicht für den Ticket- und Aussteller-Shop.

Jetzt registrieren

Ihre Vorteile auf einen Blick

  • Vorteil Sichern Sie Ihre Merkliste dauerhaft. Nutzen Sie den sofortigen Zugriff auf gespeicherte Aussteller oder Produkte: egal wann und wo - inkl. Notizfunktion.
  • Vorteil Erhalten Sie auf Wunsch via Newsletter regelmäßig aktuelle Informationen zu neuen Ausstellern und Produkten - abgestimmt auf Ihre Interessen.
  • Vorteil Rufen Sie Ihre Merkliste auch mobil ab: Einfach einloggen und jederzeit darauf zugreifen.