heise online· Denny Gille·· vor 5 StundenKI-Bewertung35
Wie AirLLM grosse KI-Modelle auf Grafikkarten mit wenig Speicher startet
heise+ | AirLLM: Große KI-Modelle auf schwachen Grafikkarten starten
KI-Überblick
Das Open-Source-Projekt AirLLM soll grosse KI-Modelle lokal auf Grafikkarten mit wenigen GByte Grafikspeicher nutzbar machen. Das könnte teure Spezialhardware überflüssig machen. Der Artikel nennt jedoch einen erheblichen Nachteil; die frei zugängliche Leseprobe erklärt ihn nicht.
Quelle:heise online · heise.de