CUBE-Technologie revolutioniert das Edge-Al-Computing

Seit kurzem ist die generative KI auf dem Vormarsch. Generative KI zeichnet sich durch eine komplexe Architektur und eine große Modellgröße aus und stellt hohe Anforderungen an die Systemressourcen. Die Modelle bestehen aus zahlreichen Parametern, die eine erhebliche Speicherbandbreite für den schnellen Datenzugriff erfordern. Generative AI bezieht sich auf einen Teilbereich der künstlichen Intelligenz, der darauf abzielt, Daten zu erzeugen, zu erstellen oder zu generieren. Sie löst Regressions- und Klassifizierungsprobleme, erkennt Muster und trifft Entscheidungen basierend auf vorhandenen Daten. Weiterhin hat sie die Fähigkeit, neue Inhalte in unterschiedlichen Formaten automatisiert zu erzeugen. Generative AI-Algorithmen können Texte, Bilder, Audio und sogar ganze Szenarien oder Simulationen erstellen.

Generell nutzen zahlreiche KI-Anwendungen die hohe Leistung großer Modelle, um komplizierte und komplexe Muster und Beziehungen in ihren jeweiligen Bereichen zu verarbeiten, was den Rechenaufwand und den Ressourcenbedarf in die Höhe treibt. Dazu gehören Computer-Vision-Anwendungen, die ein Convolutional Neural Network (CNN oder ConvNet, faltendes neuronales Netz) für die Bilderkennung verwenden und oft große Modelle einsetzen, um komplexe Muster und Merkmale in visuellen Daten zu lernen.

Weitere Anwendungen sind die Verarbeitung von natürlicher Sprache, bei der KI-Modelle für Aufgaben wie die Stimmungsanalyse eingesetzt werden, und die Spracherkennung, bei der tiefe neuronale Netze mit umfangreichen Parametern verwendet werden, um die Genauigkeit zu verbessern und komplexe Sprachmuster zu verstehen. Es gibt auch Anwendungen für das Verstärkungslernen, bei denen neuronale Netze zur Darstellung komplexer Strategien oder Wertfunktionen verwendet werden können, sowie Empfehlungssysteme, wie sie von Streaming-Diensten oder E-Commerce-Plattformen eingesetzt werden. Diese verfügen oft über große Architekturen zur Erfassung und Analyse von Benutzerpräferenzen.

CUBE eignet sich für Chiphersteller, Modulhersteller und Systementwickler, die Speicherprodukte und Geräte für den Einsatz in Randbereichen herstellen. Die Technologie bietet eine hohe Bandbreite, ist energieeffizient und anpassbar.

Beschränkungen der bestehenden Technologien

Um den Anforderungen von Systemen mit KI-Anwendungen gerecht zu werden, müssen Speicherchips und -module über mehrere Parameter hinweg eine angemessene Leistung bieten: die reine Bandbreite ist nur einer davon. Zu den weiteren Parametern gehören Energieeffizienz, Größe und Wärmemanagement, die auch in Grenzszenarien anwendbar sind.

Bestehende Speicherlösungen stoßen bei der Speicherbandbreite an Grenzen, was sich auf die Systemleistung auswirkt. Physikalische Eigenschaften wie die Anzahl der IC-Pins, die Datenübertragungsrate und die Breite des Speicherbusses spielen eine wichtige Rolle bei der Bestimmung der Schnittstellenbandbreite.

Die Entwickler von Speicherchips und -modulen müssen sich mit den Beschränkungen des Designs und des Herstellungsprozesses auseinandersetzen, die zu einer Einschränkung der möglichen Bandbreite beitragen können. Bei höheren Geschwindigkeiten wird auch die Signalintegrität zu einem kritischen Faktor, da Faktoren wie Dämpfung, Übersprechen und Reflexionen die erreichbare Bandbreite einschränken können.

Andererseits kann die Erhöhung der Bandbreite auf Kosten eines höheren Stromverbrauchs oder einer geringeren Effizienz gehen. Dies kann unerwünschte Probleme beim Wärmemanagement mit sich bringen und den Betrieb von batteriebetriebenen Edge-Geräten beeinträchtigen. Darüber hinaus tragen bestimmte Lösungen zu größeren Formfaktoren bei, was die Eignung für kompakte Geräte einschränkt.

Künftige Herausforderungen

Die Einschränkungen in Bezug auf Bandbreite, Energiebedarf und Formfaktor, mit denen alle Speichertechnologien konfrontiert sind, werden sich in Zukunft wahrscheinlich noch stärker bemerkbar machen und problematischer werden, da die Nutzer zunehmend auf KI-Anwendungen angewiesen sind, insbesondere auf solche, die auf großen Modellen basieren. Die Anforderungen dieser aufkommenden und schnell wachsenden Kategorie von Workloads werden leistungsfähigere und energieeffizientere Rechenkapazitäten erfordern.

CUBE als die Lösung

CUBE behebt die Unzulänglichkeiten herkömmlicher Speicher-ICs und -Module durch neuartige Ansätze zur Erhöhung der E/A-Anzahl und zur Steigerung der Datengeschwindigkeit, durch die optionale Unterstützung der Through-Silicon-Via-Technologie (TSV) und durch seine 3D-Architektur, die Probleme mit der Wärmeableitung reduziert.

Als innovative, patentierte Speicherschnittstellentechnologie mit hoher Bandbreite ermöglicht CUBE die Optimierung von Speichermodulen für nahtlose Leistung bei der Ausführung von KI, die große Modellgrößen verwenden, deren Anforderungen die mit herkömmlichen Speichermodulen verfügbare Bandbreite übersteigen. CUBE erhöht nicht nur die Bandbreite, sondern reduziert auch den Stromverbrauch.

CUBE verbessert die Leistung von Front-End-3D-Strukturen wie Chip-on-Wafer (CoW) und Wafer-on-Wafer (WoW) sowie Back-End-2,5D/3D-Chip-on-Si-Interposer-on-Substrat und Fan-Out-Lösungen. Andererseits lässt sich CUBE leicht in neue Produktdesigns integrieren.

Es eignet sich für den Einsatz mit stromsparenden Edge-/Endpoint-KI-Geräten mit hoher Bandbreite, die die Stärken von Cloud- und Edge-Engines kombinieren. Es wird erwartet, dass dies die nächste Phase sein wird, um fortgeschrittene KI-Anwendungen zugänglicher zu machen und Sicherheits- und Kostenprobleme zu überwinden.

Es eignet sich für ein energiebewusstes Design und ermöglicht eine nahtlose und effiziente Bereitstellung von KI-Modellen über verschiedene Plattformen und Anwendungsfälle hinweg, einschließlich Edge-Geräte und Überwachung.

CUBE im Detail

CUBE zeichnet sich dadurch aus, dass es Speicherlösungen mit hoher Bandbreite anbietet, die die Beschränkungen aktueller Angebote überwinden und so die Gesamtleistung des Systems verbessern.

Darüber hinaus zeichnet sich der CUBE durch eine hervorragende Energieeffizienz aus: Er verbraucht weniger als 1 pJ/Bit. Dadurch eignet er sich besonders gut für energiesensitive Anwendungen und übertrifft weniger energieeffiziente Alternativen.

Darüber hinaus macht der kompakte Formfaktor, der durch 3D-Stapeloptionen und eine geringe Größe erreicht wird, CUBE zu einer idealen Wahl für tragbare und platzbeschränkte Geräte. Die innovative 3D-Architektur des CUBE platziert das System on Chip (SoC) strategisch auf dem obersten Die nahe dem Kühlkörper, was die Probleme der Wärmeableitung im Zusammenhang mit KI-Computing effektiv verringert.

Ein weiteres wichtiges Merkmal ist die Flexibilität des CUBE-Designs, das eine Anpassung an die spezifischen Anforderungen verschiedener Anwendungen ermöglicht und somit maßgeschneiderte Lösungen für Kunden bietet. Die Integration von Through-Silicon Vias (TSVs) in CUBE trägt zu einer verbesserten Leistungsabgabe, Signalintegrität und Gesamtsystemeffizienz bei.

Das flexible Design von CUBE ermöglicht eine individuelle Anpassung der Die-Fläche, die entsprechend den spezifischen SoC-Spezifikationen des Kunden optimiert wird.

Speicherdichten und Hauptmerkmale

CUBE kann mit 1-8Gb/Die auf Basis des D20-Prozesses oder 16Gb/Die auf Basis des D16-Prozesses entwickelt werden. Es sind sowohl Non-TSV- als auch TSV-Stacking verfügbar, was Flexibilität bei der Optimierung der Speicherbandbreite für verschiedene Anwendungen bietet.

Cube bietet eine außergewöhnliche Energieeffizienz und verbraucht weniger als 1pJ/Bit im D20-Prozess, was einen längeren Betrieb und eine optimierte Energienutzung gewährleistet.

Die IO-Schnittstelle von CUBE unterstützt eine Datenrate von 2 Gbps mit 1k I/O und bietet eine Gesamtbandbreite von 16GB/s bis 256GB/s pro Die. Auf diese Weise gewährleistet CUBE eine beschleunigte Leistung, die über den Industriestandards liegt, und verbessert die Energie- und Signalintegrität durch uBump oder Hybrid Bonding.

Mit einem Angebot von 1-8 Gb/Die, basierend auf der D20-Spezifikation, und mit flexiblen Design- und 3D-Stacking-Optionen eignet sich CUBE für kleinere Formfaktoren. Die Einführung von Through-Silicon-Vias (TSVs) erhöht die Leistung weiter und verbessert die Signalintegrität, die Leistungsintegrität und die Wärmeableitung.

Darüber hinaus reduziert die TSV-Technologie - ebenso wie das uBump/Hybrid-Bonding - den Stromverbrauch und spart SoC-Designfläche, was eine kostengünstige und erschwingliche Lösung ermöglicht. Effizientes 3D-Stacking, das TSVs nutzt, erleichtert die Integration mit fortschrittlichen Gehäusetechnologien. Durch die Verringerung der Chipgröße ermöglicht CUBE Kostensenkungen, eine höhere Energieeffizienz durch kürzere Strompfade sowie kompaktere und leichtere Designs.

Zugang zur CUBE-Technologie

Winbond arbeitet aktiv mit Partnern zusammen, darunter IP-Designer, Foundries und OSATs, und fördert so die Zusammenarbeit und die Entwicklung eines umfassenden Ökosystems.

Die hohe Bandbreite, der geringe Stromverbrauch und die fortschrittliche Technologie von CUBE ermöglichen eine effiziente Datenübertragung und tragen so zur Integration von Edge AI bei.

Durch die Unterstützung von erhöhter Bandbreite und Energieeffizienz, verbesserten Reaktionszeiten und Unterstützung für kundenspezifische Anpassungen und kompakte Die-Größen ist CUBE entscheidend für die Entfaltung des vollen Potenzials von KI-Anwendungen. Es eignet sich für die Migration von leistungsstarker KI auf Edge-Geräte sowie für hybride Edge/Cloud-Anwendungsfälle.

Zu den Anwendungen dieser Technologie gehören Edge Computing und Unterhaltungselektronik. (neu)