NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVDA Forum: Aktien Thema: Hauptdiskussion
AMDs MI300X übertrifft NVIDIAs H100 bei LLM-Inferenz AMDs Flaggschiff-Beschleuniger MI300X wurde mit großer Spannung erwartet. Angesichts seiner unübertroffenen Rohspezifikationen bleibt die drängende Frage: Kann er NVIDIAs Hopper-Architektur bei realen KI-Workloads übertreffen? Wir können einige spannende erste Ergebnisse mit Ihnen teilen. Im vergangenen Monat haben TensorWave und MK1 eng zusammengearbeitet, um die Leistung der AMD-Hardware für KI-Inferenz freizusetzen. Zu Beginn konzentrierten wir uns auf Mixture of Expert (MoE)-Architekturen aufgrund ihrer Rechenleistung und Beliebtheit – sie werden insbesondere von Mistral, Meta, Databricks und X.ai für ihre leistungsstärksten Open-Source-LLMs verwendet. Die ersten Ergebnisse sind beeindruckend: Mit der Inferenzsoftware von MK1 erreicht der MI300X im Vergleich zum H100 SXM mit vLLM auf Mixtral 8x7B für einen realen Chat-Anwendungsfall einen um 33 % höheren Durchsatz. Obwohl das Software-Ökosystem von NVIDIA ausgereifter ist, ist klar, dass AMD bereits ein beeindruckender Konkurrent auf dem KI-Markt ist. Wenn man die Hardwareverfügbarkeit und die Kosten berücksichtigt, erweist sich der MI300X als attraktive Option für Unternehmen, die groß angelegte Inferenz in der Cloud ausführen..
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | NVIDIA Hauptdiskussion | ||
| 2 | Nvidia to the moon | ||
| 3 | NVIDIA (sachliche Diskussion, nur über die Hauptaktie) | ||
| 4 | NVIDIA, live traden mit Nachweis über Profilbild |
|
|
Thema | ||
|---|---|---|---|
| 1 | Das neue Dax Prognose Forum | +0,88 % | |
| 2 | Lilium Aktie | ±0,00 % | |
| 3 | BBBBY - Insolvenz möglich? | ±0,00 % | |
| 4 | Austausch für VIDAC | +12,73 % | |
| 5 | ALLIANZ Hauptdiskussion | -0,07 % | |
| 6 | Volvo Car | -0,14 % | |
| 7 | TESLA MOTORS Hauptdiskussion | +0,09 % | |
| 8 | EAST AFRICA METALS Hauptdiskussion | ±0,00 % | |
| 9 | NVIDIA Hauptdiskussion | -0,28 % | |
| 10 | AIXTRON Hauptdiskussion | -0,09 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | Lilium Aktie | ±0,00 % | |
| 2 | BBBBY - Insolvenz möglich? | ±0,00 % | |
| 3 | Austausch für VIDAC | +12,73 % | |
| 4 | ALLIANZ Hauptdiskussion | -0,07 % | |
| 5 | Volvo Car | -0,14 % | |
| 6 | TESLA MOTORS Hauptdiskussion | +0,09 % | |
| 7 | NVIDIA Hauptdiskussion | -0,28 % | |
| 8 | AIXTRON Hauptdiskussion | -0,09 % | |
| 9 | EAST AFRICA METALS Hauptdiskussion | ±0,00 % | |
| 10 | BED BATH & BEYOND Hauptdiskussion | ±0,00 % | Alle Diskussionen |