Die Situation war überraschend: In dem Unternehmen, das einige der leistungsstärksten Chips auf dem Markt entwickelt, waren die Ingenieure mit einem eklatanten Mangel an verfügbaren Ressourcen konfrontiert. Um dieses Hindernis zu umgehen, ohne in eine teure neue zentralisierte Infrastruktur zu investieren, dokumentierten die Teams die Erstellung von Minions. Dies ist ein „ virtuelle, dynamische und verteilte GPU-Cloud » Hier werden ungenutzte Apple Silicon-Grafikprozessoren insgesamt zusammengefasst der macOS-Maschinenflotte des Unternehmens.
Wie verwandelt Minions jeden Mac in einen Link in der Cloud?
Der Betrieb von Minions basiert auf einer Vier-Komponenten-Architektur Hauptdarsteller, mit großer Präzision orchestriert. Das Herzstück des Systems ist der Minion Serverein zentraler Server, der Anfragen von Teams empfängt, sie in kleinere Unteraufgaben aufteilt und ihren Fortschritt verfolgt. Alle diese Metadaten werden in einer PostgreSQL-Datenbank gespeichert um die Konsistenz der Informationen sicherzustellen.
Auf jedem Mac Nachdem er angeworben wurde, übernimmt ein Software-Agent namens Minion Executor. Es führt den ihm zugewiesenen Teil der Berechnung auf der GPU aus lokal und lädt die Ergebnisse dann in einen S3-Speicherplatz herunter. Endlich ein „Wachhund“, der Minion Watchdogüberwacht das gesamte Netzwerk. Wenn ein Computer nicht verfügbar ist, werden seine Aufgaben automatisch anderen Computern zugewiesen, wodurch eine hohe Fehlertoleranz gewährleistet wird.
Was ist das eigentliche Ziel dieses verteilten Systems?
Apples Ansatz mit Minions unterscheidet sich grundlegend von herkömmlichen Lösungen wie Nvidia-GPU-Clustern. Das primäre Ziel besteht hier nicht darin, maximale Rohleistung oder niedrigste Latenz für das Training riesiger Sprachmodelle zu erreichen. Vorrang hat die Verfügbarkeit und Optimierung der Auslastung vorhandenen Ressourcen.
Es geht darum, die brachliegende Energie zurückzugewinnen auf den Schreibtischen der Mitarbeiter, um sie an die Teams weiterzuverteilen, die sie benötigen. Das System nutzt die bereits im internen Netzwerk vorhandene Leistung. Für größere Anforderungen Mac mini und Neuere Mac Studio-Modelle können sogar über RDMA über Thunderbolt 5 zusammenarbeiten und ihren Speicher und ihre Rechenleistung kombinieren, um Modelle zu laden, die zu groß für einen einzelnen Computer sind.
Warum ist diese Initiative für Apple so aufschlussreich?
Diese interne Lösung verdeutlicht ein Paradoxon: Appledas Unternehmen, das dank des einheitlichen Speichers seiner Apple-Silicon-Chips eine der effizientesten Architekturen für lokale Inferenz bietet, sieht sich mit den Grenzen der Verfügbarkeit von Rechenressourcen konfrontiert. Dies verdeutlicht den enormen und wachsenden Appetit der künstlichen Intelligenz auf Rechenleistung, eine Herausforderung, die selbst die größten Technologieunternehmen betrifft.
Durch die interne Anwendung dieses Rezepts validiert Apple ein Modell, das externe Dienste Einzelpersonen bereits anbieten: die Vermietung der Leistung ihrer Maschine für KI-Unternehmen. Die Tatsache, dass Aufgaben jetzt innerhalb von Minuten beginnen, anstatt mehr als zehn Stunden zu warten, beweist die Wirksamkeit dieses pragmatischen Ansatzes. Minions ist der Beweis für eine bessere Nutzung von Vermögenswerten Vorhandene Geräte können eine sinnvolle Alternative zur ständigen Anschaffung neuer Geräte sein.
