1 /6 Microsoft hat den neuen KI-Chip Maia 200 vorgestellt, der speziell für rechenintensive KI-Inferenz entwickelt wurde.
...
Microsoft
2 /6 Der Chip nutzt moderne 3-Nanometer-Technologie und erreicht über 10 PetaFLOPS bei 4-Bit-Präzision sowie mehr als 5 PetaFLOPS bei 8-Bit-Präzision.
...
Microsoft
3 /6 Maia 200 lässt sich über Standard-Ethernet auf bis zu 6.144 KI-Beschleuniger pro Cluster skalieren, was selbst größte Modelle problemlos ausführen lässt.
...
Microsoft
4 /6 Zunächst wird der Chip in den US-Regionen der Azure Cloud eingesetzt, unter anderem für Projekte des Microsoft-Superintelligence-Teams und für Microsoft 365 Copilot.
...
Microsoft
5 /6 Parallel stellt Microsoft eine Vorschau des Maia SDK bereit, das gängige KI-Frameworks unterstützt, einen Triton-Compiler enthält und Entwickler unterstützt.
...
Microsoft
6 /6 Mit dem Maia 200 will Microsoft die Ausführung großer KI-Modelle in Azure beschleunigen und die Entwicklung von KI-Anwendungen über die Azure AI Foundry erleichtern.