Wir möchten auf unserer Internetseite Dienste von Drittanbietern nutzen, die uns helfen, unsere Werbeangebote zu verbessern (Marketing), die Nutzungsweise unserer Internetseite auszuwerten (Performance) und die Internetseite an Ihre Vorlieben anzupassen (Funktional). Für den Einsatz dieser Dienste benötigen wir Ihre Einwilligung, welche jederzeit widerrufen werden kann. Informationen zu den Diensten und eine Widerspruchsmöglichkeit finden Sie unter „Benutzerdefiniert“. Weitergehende Informationen finden Sie in unserer Datenschutzerklärung.

2. - 4. März 2021 // Nürnberg, Germany

Konferenzen und Rahmenprogramm

Zurück zur Tagesansicht
SESSION 8.1 Intelligent Systems I - AI Applications

How to Meaningfully Benchmark Edge-Inference Performance in the New Age of Hardware Acceleration Vortragssprache Englisch

EEMBC created the MLMarkâ„¢ benchmark to standardize inference-performance metrics on so-called "edge devices," devices with a small thermal-design power (TDP) envelope. Compared to historical benchmarks targeted at CPUs, machine-learning benchmarks differ significantly. First, the key element in ML/DL is the graph, not C/C++ source code. Second, the translation of the graph to the hardware depends on the framework, which exposes optimizations for tuning the graph, and the SDK which may contain proprietary strategies for configuring the hardware resources. Third, machine-learning accuracy generally decreases as performance increases due to optimizations. Therefore, a performance score is meaningless without its associated accuracy score. Further complications include parallelism€”such as concurrency and batching€”which have a nuanced difference depending on the application. This paper will explain our methodology for addressing these variables, as well as results and future-proofing.

--- Datum: 25.02.2020 Uhrzeit: 12:00 - 12:30 Uhr Ort: Conference Counter NCC Ost

Sprecher

top

Der gewählte Eintrag wurde auf Ihre Merkliste gesetzt!

Wenn Sie sich registrieren, sichern Sie Ihre Merkliste dauerhaft und können alle Einträge selbst unterwegs via Laptop oder Tablett abrufen.

Hier registrieren Sie sich, um Daten der Aussteller- und Produkt-Plattform sowie des Rahmenprogramms dauerhaft zu speichern. Die Registrierung gilt nicht für den Ticket- und AusstellerShop.

Jetzt registrieren

Ihre Vorteile auf einen Blick

  • Vorteil Sichern Sie Ihre Merkliste dauerhaft. Nutzen Sie den sofortigen Zugriff auf gespeicherte Inhalte: egal wann und wo - inkl. Notizfunktion.
  • Vorteil Erhalten Sie auf Wunsch via Newsletter regelmäßig aktuelle Informationen zu neuen Ausstellern und Produkten - abgestimmt auf Ihre Interessen.
  • Vorteil Rufen Sie Ihre Merkliste auch mobil ab: Einfach einloggen und jederzeit darauf zugreifen.