MIT Technology Review · AI· Affan Syed·· vor 3 StundenKI-Bewertung43
HPE: Bei KI-Programmierhilfen zählt fertige Software statt verbrauchter Token
Stop counting tokens, start counting what ships
KI-Überblick
HPE empfiehlt Unternehmen, die Kosten von KI-Programmierhilfen an geprüften und übernommenen Codeänderungen statt am Verbrauch von Token zu messen. Schwierige Aufgaben sollen leistungsstarke externe Modelle übernehmen, Routinearbeiten lokal betriebene Modelle. HPE nennt für eigene Anwendungen 30 bis 50 % niedrigere Token-Kosten; ob sich eigene Infrastruktur lohnt, hängt aber von ihrer Auslastung und den gesamten Betriebskosten ab.
Quelle:MIT Technology Review · AI · technologyreview.com