Künstliche Intelligenz an der Edge
Couchbase: Stolpersteine auf dem Weg zur Edge AI
Um zeitkritischen Daten den Umweg über die Cloud und das Rechenzentrum zu ersparen, bringen Edge-AI-Lösungen Modelle direkt in Anwendungen an der Edge. Diese Methode bietet große Vorteile, ist aber auch mit Stolpersteinen gepflastert, wie der Cloud-Datenbankplattform-Anbieter Couchbase erläutert.
Immer mehr Anwendungen direkt an der Edge sind auf leistungsfähige KI-Modelle und kurze Reaktionszeiten angewiesen – von Smart Homes über Angebote im Bereich Smart Security bis zu autonomen Fahrzeugen. Kommt es auf Millisekunden an, fällt die Wahl meist auf eine Edge-AI-Architektur, die Rechenressourcen und Speicherkapazitäten direkt vor Ort bereitstellt. Diese Strategie ist allerdings kein Selbstläufer; Unternehmen sollten sich daher im Vorfeld der größten Herausforderungen von Edge AI bewusst werden – besonders die Wahl einer passenden Datenbank erhält dabei eine zentrale Bedeutung.
1. Stolperstein: Die lokale Datenverwaltung. Edge-Geräte verfügen normalerweise über eine limitierte Rechenleistung und stark begrenzten Speicherplatz, die den Einsatz einer leichtgewichtigen Datenbank erfordern. In der Praxis haben sich dabei NoSQL-Datenbanken bewährt, die sowohl Server- als auch Embedded-Versionen aus einer Hand anbieten und über ein flexibles Datenmodell verfügen.
2. Stolperstein: Die KI-Modelle. Die meisten LLMs (Large Language Models) sind zu groß und benötigen zu viele Ressourcen, als dass ihr Einsatz an der Edge sinnvoll wäre. Es gibt jedoch eine wachsende Zahl schlanker Modelle, die für die Ausführung in mobilen und IoT-Geräten optimiert sind. Der Kompromiss besteht in der Regel darin, dass kleinere Modelle meist weniger genau sind als ihre Cloud-basierten Pendants. Der große Nutzen von Echtzeitperformance und Sicherheit, die eine lokale Verarbeitung erreicht, ist diesen Kompromiss allerdings in jedem Falle wert.
3. Stolperstein: Connectivity und Bandbreitenbeschränkungen. In vielen Edge-Anwendungen, vor allem in abgelegenen oder mobilen Umgebungen, kann die Netzwerkverbindung instabil oder die Bandbreite begrenzt sein. Edge-AI-Lösungen müssen daher in der Lage sein, ohne permanente Internetverbindung zu funktionieren und gleichzeitig die über das Netzwerk übertragene Datenmenge zu minimieren. Zudem müssen sie über Offline-First-Funktionen verfügen.
4. Stolperstein: Die Synchronisation. Die Synchronisierung von Daten ist in einer verteilten Anwendung dringend erforderlich, um die Integrität zu wahren. Das gesamte App-Ecosystem muss also in der Lage sein, auf Änderungen zu reagieren. Die Replikation aller Inhalte treibt allerdings den Datenverkehr in astronomische Höhen und kann zu Schreibkonflikten führen. Die eingesetzte Datenbank sollte daher über die Fähigkeiten verfügen, nur ausgewählte Daten unabhängiger Datenbank-Cluster zu replizieren sowie Lese- und Schreibkonflikte selbstständig zu lösen.
Edge AI ist ein Architekturansatz mit riesigem Potenzial, der Anwendungen schneller, sicherer und intelligenter machen kann – wenn Unternehmen ihn richtig umsetzen. Ganz oben steht dabei die Wahl der richtigen Datenbank. Mit ihr steht und fällt die Leistungsfähigkeit und Funktionalität der KI an der Edge.
Der Autor
Gregor Bauer ist Manager Solutions Engineering Central Europe bei Couchbase.
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
DigiTimes Research
KI-Chips wachsen weiter rasant
ML mit begrenzten Ressourcen
Wie intelligente Sensoren Mikrocontroller entlasten
