Anleitung: Qwen2.5-1.5B mit Ray Train und EFA auf Amazon EKS verteilt trainieren

Ein AWS-Beispiel zeigt, wie sich Qwen2.5-1.5B mit Ray Train auf zwei Rechnern mit insgesamt acht NVIDIA L4 GPUs weitertrainieren lässt. Der fertige Container enthält die benötigte Software für PyTorch und die Netzwerkverbindung EFA; KubeRay richtet den Cluster anhand einer Konfigurationsdatei ein. Für das Beispiel muss kein eigenes Container-Image gebaut werden.