Im Journal stöbern

Artikel mit dem Tag KI-APIs

Jeder Lotook-Artikel mit dem Tag KI-APIs: Nachrichten, Einordnungen und praktische Anleitungen mit Quellen.

Illustration einer Folge farbiger Token-Kacheln, die gestapelte Cache-Platten speisen, aus denen ein schnellerer leuchtender Ausgabestrom austritt
KI-Ratgeber · 9 Min. ·

Was ist ein KV-Cache? Wie LLMs Attention-Zustände wiederverwenden

Erfahren Sie, was ein KV-Cache ist, wie er das LLM-Decoding beschleunigt, mit der Kontextlänge wächst und API-Kosten beeinflusst.

Illustration von Dokumenten und Büchern, die durch einen leuchtenden Trichter in ein Gehirn aus einem neuronalen Netz fließen und als fertiges Dokument herauskommen
KI-Ratgeber · 10 Min. ·

Was ist RAG? Retrieval-Augmented Generation erklärt

RAG sucht relevante Dokumente und übergibt sie vor der Antwort an ein Modell. So kann es aktuelle oder private Daten statt nur Trainingswissen nutzen.