Effiziente On-Device-KI für Autos
Cerence und SiMa.ai bringen Sprach-KI direkt ins Auto
Mit der KI im Auto so zu kommunizieren, wie mit Menschen – solche Systeme anbieten zu können, ist das Ziel der Autohersteller. Über die Kooperation von Cerence und SiMa.ai können sie dem Ziel nun einen deutlichen Schritt näherkommen.
Was das genau bedeutet, davon können sich die Besucher auf der IAA im München ein Bild machen, denn dort präsentieren beide Unternehmen das Ergebnis: Mit der Integration eines kleinen, leistungsstarken Sprachmodells in eine effiziente KI-Hardwareplattform ermöglichen sie erstmals energieeffiziente Sprachassistenten direkt im Fahrzeug – ganz ohne Cloud-Abhängigkeit.
Am Stand von Cerence (Halle B2, D21) wird zu sehen sein, wie die agentenbasierte KI-Assistenzplattform »Cerence xUI« auf der Hardware von SiMa.ai läuft – und zwar in einer Live-Demo auf einem serienreifen Gerät. »Es zeichnet sich durch eine bisher unerreichte Leistung und Energieeffizienz aus und reduziert den Integrationsaufwand und die Entwicklungszeit für die Automobilhersteller drastisch«, sagt Harald Kröger, President Automotive von SiMa.ai.
»Conversational AI«
Cerence mit Hauptsitz in Burlington, Massachusetts, sieht sich als Pionier auf dem Gebiet der Conversational User Experiences. Das Unternehmen hat mit »CaLLM Edge« ein kleines Sprachmodell (Small Language Modell, SLM) entwickelt. SLMs bieten weit mehr als nur einfache Sprachsteuerungen, sondern mit ihnen werden intelligente Dialogsysteme möglich, die kontextbezogen, lernfähig und menschenähnlich kommunizieren können, was auch »Conversational AI« genannt wird. Was für die Automobilhersteller wichtig ist: »CaLLM Edge« läuft auf verschiedenen Hardware-Architekturen und gibt ihnen damit die Flexibilität, die sie benötigen, um mit Schwankungen in der Lieferkette zurecht zu kommen. Heute sind bereits mehr als 525 Millionen Fahrzeugen mit Cerence-Technologie ausgestattet, Clerene arbeitet mit alle führenden Automobilherstellern zusammen.
Jobangebote+ passend zum Thema
SiMa.ai hat mit »Modalix MLSoC« – »MLSoC« steht für »Machine Learning System-on-Chip« – eine Physical AI-Plattform erstellt, ein integriertes KI-System, das sowohl Hardware als auch Software umfasst, die parallel entwickelt wurden, um sie aufeinander zu optimieren. Das führt zu KI-Systemen, die mit einer bisher unerreichten Energieeffizienz arbeiten, so dass sie direkt vor Ort (»an der Edge«) in den Endgeräten im Auto eingesetzt werden können – eben, weil sie so wenig Strom aufnehmen.
Die Sprachbedienung »versteht« den Nutzer
Aus diesem Grund hat sich Clerence entschieden, mit SiMa.ai eine Partnerschaft zu schließen, so dass das kleine Sprachmodell »CaLLM Edge« auf »Modalix MLSoC« von SiMa.ai laufen kann. Damit wollen beide Unternehmen energieeffiziente Conversational AI in die Fahrzeuge bringen, die eine bisher unerreichte Effizienz erreichen. »Eine Sprachbedienung, die den Nutzer „versteht“, so wie ein Mensch es tun würde – das ist die ultimative Vision. LLMs zeigen einen Weg dorthin auf, aber bisher funktionierte das nur über die Cloud, oder mit stromfressenden Grafikkarten, was den Einsatz im Auto oder jeder Art von Maschine praktisch unmöglich macht«, sagt Harald Kröger.
Maßgeschneiderte In-Car-Assistenten
Das soll nun anders werden: »Jetzt kann über die Partnerschaft mit SiMa.ai erstmals eine effiziente On-Device-KI für aktuelle und zukünftige Fahrzeuggenerationen bereit gestellt werden, was ein bedeutender Schritt nach vorn ist«, so ist Nils Schanz, Executive Vice President Product & Technology von Cerence AI, überzeugt: »Innerhalb von „Cerence xUI“ bietet „CaLLM Edge“ fortschrittliches Reasoning, mehrstufige Konversationen und proaktive Interaktion, die alle nahtlos auf dem „MLSoC Modalix“ laufen. Dank plattformübergreifender Kompatibilität und Hardware-Flexibilität ermöglichen wir OEMs eine schnelle Anpassung, reduzieren die Komplexität und setzen maßgeschneiderte In-Car-Assistenten auf verschiedenen Fahrzeugplattformen ein.«
Mit der Integration von »CaLLM Edg« in die »Modalix«-Plattform von SiMa.ai wollen Cerence und SiMa.ai also die Anforderungen von Automobilherstellern und Endnutzern gleichermaßen erfüllen.
Denn die Autofahrer können jetzt sehr natürliche Gespräche mit dem KI-System führen. Grundsätzlich können neben der Sprache auch andere Sensordaten wie Gesten berücksichtigt werden, so dass sich die Qualität der Kommunikation noch weiter verbessern lässt. Sie werden mit den KI-Systemen der neuen Generation im Auto jederzeit sehr natürlich umgehen können, es gibt beim Gespräch keine Verzögerungen, die Kommunikation geschieht flüssig und die Nutzer fühlen sich »verstanden«, unabhängig davon, ob es darum geht, die Fahrzeugfunktionen über Spracheingaben zu steuern, beispielsweise die Navigation, die Routenplanung und die Infotainment-Anlage oder allgemeine Anfragen zu stellen, etwa welches Wetter gerade am Zielort herrscht.
Hohe Systemleistung ohne Cloud-Anbindung
Das setzt eine hohe Systemleistung voraus. Heute wird dies dadurch erreicht, dass ein Großteil der KI-Verarbeitung in der Cloud stattfindet. Das bringt mehrere Nachteile mit sich: Die Ergebnisse sind von der Qualität der Anbindung an die Cloud Konnektivität abhängig, Verbindungsausfälle führen sofort dazu, dass die Kommunikation unterbrochen wird, was die Nutzer verärgert.
Die hybride KI-Architektur von Cerence kombiniert nun die Verarbeitung der KI in der Cloud und vor Ort (»an der Edge«). Das führt zu sehr niedrigen Latenzzeiten und verbesserten Datenschutz. Gleichzeitig werden umfangreiche, kontextbezogenen Informationen aus der Cloud eingebunden.
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
SiMa.ai
Edge-KI-Spezialist erhält weitere 85 Mio. Dollar
Synopsys und SiMa.ai
Edge-KI für Autos schnell und kostengünstig entwickeln
Partnerschaft mit SiMa.ai
Trumpf: KI-Laser beschleunigen die Produktion
Interview mit Harald Kröger, SiMa.ai
Die richtige KI für automatisiertes Fahren
SiMa.ai demokratisiert ML in der Edge
Unerreichte Performance und einfachste Umsetzung
