Inkling 2 Mini ist ein Loop-Modell mit Mixture-of-Experts-Architektur, 26,4 Milliarden Parametern und offenen Gewichten, das Thinking Machines Lab am 20. November 2026 veröffentlichte. Der unter Apache 2.0 lizenzierte, etwa 20GB große Checkpoint mit gemischter NVFP4- und MXFP8-Präzision ist für lokales agentisches Programmieren auf Apple Silicon mit mindestens 32GB Speicher, GPUs mit mindestens 32GB VRAM oder NVIDIA DGX Spark ausgelegt.
Was kündigte Thinking Machines Lab am 20. November 2026 an?
Thinking Machines Lab veröffentlichte Inkling 2 Mini am 20. November 2026 mit einem offiziellen Ankündigungsbeitrag, einem Start-Thread auf X am selben Tag und offenen Gewichten unter Apache 2.0 auf seiner Hugging Face-Modellkarte. Auf X schrieb Thinking Machines: „Einige von Ihnen fanden Inkling 2 Small mit 594B Parametern zu groß. Wir haben zugehört: Inkling 2 Mini ist ein Loop-Transformer mit nur 26B Parametern, klein genug für Ihren Laptop und leistungsfähig genug für agentische Arbeit, mit einem Wert von 20.1 im AA Index.“
Während der X-Beitrag die Zahl auf „nur 26B“ rundet, nennen der offizielle Blog, die Modellkarte, die Seite der Inkling-Familie und der Tinker-Katalog alle 26,4B Parameter insgesamt. Innerhalb der breiteren Auswahl an Open-Weight-Modellen 2026 ist Inkling 2 Mini das Einstiegsmodell einer dreiteiligen Familie:
- Inkling 2 Mini: 26,4B Parameter insgesamt, 3,4B pro Durchlauf aktiv; ein Laptop-tauglicher Loop-Transformer für agentisches Programmieren.
- Inkling 2 Small: 594B Parameter insgesamt, 17B aktiv; das Flaggschiff der zweiten Generation für agentisches Programmieren und Bildverarbeitung.
- Inkling: 975B Parameter insgesamt, 41B aktiv; für Text, Bilder und Audio.
Wie funktioniert die Loop-MoE-Architektur von Inkling 2 Mini?
Inkling 2 Mini kombiniert ein Mixture-of-Experts-Design (MoE) mit wiederholten Schichten, die sich Gewichte teilen. So kann ein 26,4B-Modell pro Token mehr Rechenleistung einsetzen, ohne seinen Speicherbedarf zu erhöhen. Bei einem einzelnen Durchlauf durch seine 24 reinen Decoder-Schichten wird jedes Token in einer Kombination aus lokalen und globalen Attention-Schichten an 8 von 128 Experten geleitet; dabei werden 3,4B Parameter aktiviert.
Die 24 Schichten sind in vier Blöcke mit je sechs Schichten aufgeteilt. Der erste und der letzte Block werden einmal ausgeführt, während die mittleren 12 Schichten mit geteilten Gewichten dreimal durchlaufen werden. So entstehen 48 Schichtanwendungen pro Token aus den Gewichten von 24 Schichten. Jeder zusätzliche Durchlauf durch die mittleren Schichten fügt etwa 1,0B effektiv aktive Parameter hinzu, sodass insgesamt 5,4B Gewichtsaktivierungen pro Token entstehen. Das erklärt, warum die Familienseite 3,4B aktive Parameter nennt, der Tinker-Plattformkatalog dagegen 5,4B: Die eine Zahl zählt Experten pro Durchlauf, die andere berücksichtigt alle drei Schleifendurchläufe.
Thinking Machines entwickelte Inkling 2 Mini, indem es ein größeres dünn besetztes Netzwerk beschnitt und nachtrainierte. Das Training begann mit 8 von 384 aktiven Experten pro Schicht. Anschließend wurden zwei Drittel entfernt, sodass die 128 meistgenutzten Experten pro Schicht blieben. Das beschnittene Modell durchlief daraufhin ein „Healing“ mit 1T Token durch Modelldestillation aus einem größeren internen Inkling-Modell, überwachtes Fine-Tuning, Reinforcement Learning mit 2,2T Token über 2.000 Schritte und On-Policy-Destillation zur Ausrichtung.
Anders als nach dem Training komprimierte Checkpoints wurde Inkling 2 Mini nativ mit gemischter niedriger Präzision trainiert und bereitgestellt: 20 Schichten in 4-Bit-NVFP4 und die letzten 4 in 8-Bit-MXFP8. So werden Konvertierungsverluste nach dem Training vermieden, wie unser Überblick zur KI-Quantisierung erläutert. Das Ergebnis ist ein einzelner, etwa 20GB großer Checkpoint, der Text und Pixelbilder akzeptiert (40px bis 4096px empfohlen) und Text auf Englisch sowie mit allgemeiner mehrsprachiger Unterstützung ausgibt. Die Modellkarte warnt jedoch, dass Tests auf Chinesisch abgeschnittene Formulierungen und Sprachmischungen zeigten.
Offizielle Hardwareanforderungen, Kontextgrenzen und Bezugsquellen für Inkling 2 Mini
Inkling 2 Mini benötigt für seinen nativen Checkpoint rund 20GB und ist laut offizieller Dokumentation von Thinking Machines Lab vom 21. November 2026 für Hardware mit mindestens 32GB gemeinsamem Speicher oder VRAM ausgelegt.
Offizielle Hardwareempfehlungen und die MacBook-Pro-Demo
Die offizielle Modellkarte nennt drei unterstützte lokale Hardwareziele:
- Macs mit Apple Silicon: MacBooks, Mac minis und Mac Studios mit mindestens 32GB gemeinsamem Speicher.
- Dedizierte GPUs und andere Plattformen: mindestens 32GB VRAM empfohlen.
- Workstation-Hardware: 1x NVIDIA DGX Spark, außerdem Kernel-Beschleunigung auf NVIDIAs GB300-Plattform für die Ausführung von NVFP4/MXFP8.
Thinking Machines veröffentlichte zudem eine Offline-„PlaneBench-Flugsimulator-Demo“. Sie zeigt Forschende, die Inkling 2 Mini auf einem MacBook Pro (M5 Pro, 48GB) im Flugmodus ausführen, um in wenigen Minuten einen spielbaren Flugsimulator zu bauen; der Großteil des Materials ist 15-fach beschleunigt. Der Clip zeigt eine einzelne Offline-Sitzung und ist weder eine Mindestanforderung noch ein standardisierter Geschwindigkeitstest.
Kontextgrenzen und Ausführungsorte für die Gewichte
Die offizielle Dokumentation nennt je nach Ausführungsort zwei unterschiedliche Kontextgrenzen. Laut Hugging Face-Modellkarte unterstützt Inkling 2 Mini ein Kontextfenster von bis zu 1M Token, während der offizielle Tinker-Modellkatalog das gehostete Inkling 2 Mini derzeit auf maximal 256K Kontext begrenzt.
Entwickler können die Apache-2.0-Gewichte für Inkling-2-Mini und die nur für Forschungszwecke bestimmte Variante mit variabler Schleifenzahl TML-d24-varloop-research direkt von Hugging Face herunterladen. Thinking Machines nennt Open-Source-Inferenzunterstützung für SGLang, vLLM, Ollama, Unsloth, NVIDIA Dynamo, TokenSpeed und Llama App. Die Modellkarte nennt außerdem llama.cpp für quantisierte GGUF-Builds und Exo Labs auf Apple Silicon sowie SkyRL, Miles und NVIDIA AutoModel für RL-Nachtraining. Gehostete Inferenz, Fine-Tuning und interaktiver Chat sind über Tinker und Tinker Playground verfügbar. Die für diesen Bericht geprüften offiziellen öffentlichen Seiten nennen mit Stand 21. November 2026 für die Speicherung von Tinker-Checkpoints $0.10 pro GB und Monat und weisen darauf hin, dass Trainings- und Inferenzpreise je nach Modell und Kontextlänge variieren. Eine vollständige Preistabelle pro Token für Inkling 2 Mini veröffentlichen sie nicht.
Wie schneidet Inkling 2 Mini in offiziellen Benchmarks ab?
Thinking Machines Lab berichtet, dass Inkling 2 Mini auf DeepSWE v1.1 und Vals Index v2.2 unter den Open-Weight-Modellen mit weniger als 100B Gesamtparametern führt und in Tests zu Programmierung, Browsing und Tool-Nutzung eng mit Qwen3.8-27B und Nemotron 3.5 Super VL (124.5B insgesamt) konkurriert. Alle folgenden Zahlen stammen aus dem offiziellen Blog und der Modellkarte von Thinking Machines vom 21. November 2026; die Testumgebungen unterscheiden sich je nach Modell.
| Benchmark (Hinweis zur offiziellen Testumgebung) | Inkling 2 Mini (5.4/26.4B) | Qwen3.8-27B (27.0/27.0B) | Nemotron 3.5 Super VL (12.0/124.5B) |
|---|---|---|---|
| AA Index (v5.0) | 20.1 | 20.1 | 13.6 |
| Vals Index (v2.2) | 46.5% | — | 29.8% |
| DeepSWE v1.1 (mini-swe-agent v2.4.6) | 48.2% | 42.2% | 24.7% |
| SWEBench Pro v2 Hard (mini-swe-agent v2.4.6) | 77.9% | 73.8% | 44.1% |
| SWEBench Verified (nur bash) | 79.2% | 77.8% | 71.1% |
| Terminal Bench v2.1 (pi v0.83.0 für Mini) | 71.6% | 73.0% | 60.7% |
| PMPP-Hard (AUC, 0–10h, pi v0.83.0) | 455.82 | 262.50 | — |
| BrowseComp (Mini mit Kompaktierung) | 79.0% | 61.6% | 78.9% |
| DeepSearchQA (Mini mit Kompaktierung) | 85.3% | 79.7% | 77.7% |
| MCP Atlas Public | 82.7% | 77.3% | 67.7% |
| LongBench v2 | 66.9% | 52.3% | 62.1% |
| HLE-Diamond | 15.2% | 15.3% | 8.8% |
| CritPt v2 Full / Hard | 31.4% / 17.0% | 10.6% / 4.0% | 36.9% / 13.5% |
In frühen akademischen Tests, die der offizielle Blog zitiert, ermittelten Forschende von Stanfords Hazy Research Lab und Scaling Intelligence Lab für Inkling 2 Mini außerdem 0.703 bei ihrer Metrik „Intelligence per Watt“. Sie nutzten eine NVIDIA DGX Spark (128GB) in MXFP8 mit geringem Reasoning-Aufwand. Damit lag es vor Qwen3.6-35B-A3B (0.430), Gemma-4-26B-A4B (0.159) und Qwen3.5-27B (0.036), die in NVFP4 und INT4 getestet wurden.
Welche Grenzen und Erkenntnisse zur Überwachbarkeit gibt es bei Inkling 2 Mini?
Laut den offiziellen Angaben von Thinking Machines Lab tauscht Inkling 2 Mini breiten Faktenabruf und strikte Einhaltung von Anweisungen über mehrere Gesprächsrunden gegen stärkeres agentisches Programmieren und bessere Tool-Ausführung ein.
Praktische Grenzen und Schutzmaßnahmen für Agenten
Der offizielle Blog erklärt ausdrücklich: „Inkling 2 Mini ist nicht das stärkste kleine Modell für Chats über mehrere Runden oder für Anweisungen mit vielen Einschränkungen: Es erreicht 50.0% bei MultiChallenge und 33.4% bei ComplexConstraints v1.1 und liegt bei beiden hinter Qwen3.8-27B. Auch bei reasoning-intensiven Benchmarks wie CritPt v2 und HLE-Diamond liegt es hinter größeren Modellen.“ (Zum Vergleich nennt die Tabelle der Modellkarte für Qwen3.8-27B separat 30.1% bei ComplexConstraints v1.1 und für Muse Glimmer 35.6%.)
Die Modellkarte hebt weitere Einschränkungen hervor, die Sie vor dem Einsatz lokaler Agenten kennen sollten:
- Wissenslücken: Schleifen können keine zusätzlichen Fakten in den Gewichten speichern. Daher liegt Inkling 2 Mini beim Faktenabruf hinter Inkling 2 Small (AA-Omniscience v1.1: -8.6, Nichthalluzinationsrate 63.4%) und neigt ohne Suchwerkzeuge eher zu selbstsicher vorgetragenen Fehlern.
- Debugging-Schleifen: Interne Tests zeigten, dass das Modell mitunter Code wiederholt überprüfte oder endlos in Schleifen geriet. Deshalb empfiehlt Thinking Machines strikte Grenzen für Ausgabe-Token und Agentenrunden.
- Risiko zerstörerischer Tool-Aktionen: Die Modellkarte warnt ausdrücklich: „Es kann ohne Bestätigung zerstörerische Aktionen ausführen, etwa Dateien löschen oder überschreiben.“
- Mindestaufwand beim Rechnen: Die minimale Reasoning-Einstellung schaltet Reasoning nicht vollständig ab. Drei Durchläufe der mittleren Schichten bedeuten zudem, dass der Rechenaufwand pro Token höher ist, als 3,4B aktive Parameter vermuten lassen; lokale Laufzeitunterstützung für Loop-Modelle ist noch neu.
Schleifen und Überwachbarkeit der Gedankenkette
Da Loop-Transformer intern über mehrere Durchläufe nachdenken, ohne alles aufzuschreiben, veröffentlichte Thinking Machines TML-d24-varloop-research (trainiert mit 1 bis 5 Durchläufen, überwiegend 3), um die Überwachbarkeit zu testen. Ohne Gedankenkette stieg die Fähigkeit beim Zeithorizont von 16 Sekunden bei einem Durchlauf auf 37 Sekunden bei drei Durchläufen; die Leistung bei seriellem N-Hop Lookup stieg bis zu 10 Schleifen weiter. Bei GPQA-Diamond-Traces, die bei allen fünf Durchlaufzahlen korrekt gelöst wurden, sank die durchschnittliche Reasoning-Länge von 3.703 Token bei 1 Durchlauf auf 1.661 Token bei 5 Durchläufen, bei unveränderter Satzlänge und Wortwahl. Tests auf agentische Sabotage zeigten mit steigender Schleifenzahl keinen Aufwärtstrend.
Thinking Machines fasste das Ergebnis auf X als „keinen bedeutsamen Rückgang der Überwachbarkeit“ zusammen. Gleichzeitig zeigten sowohl Inkling 2 Mini als auch das Modell mit variabler Schleifenzahl bei drei Durchläufen eine geringe Kontrolle über ihre Gedankenkette: In Traces mit 750–1.250 Token befolgten sie CoT-Anweisungen höchstens in 0.1% der Fälle. Diese Beobachtungen beschreiben das Verhalten bei einer Größe von 26,4B und bescheinigen keine Sicherheit für einen unbeaufsichtigten Einsatz.
Für wen ist Inkling 2 Mini tatsächlich gedacht?
Inkling 2 Mini richtet sich an Entwickler, die lokale Agenten für Programmierung, Suche und MCP-Tool-Nutzung auf Macs mit Apple Silicon und mindestens 32GB, GPUs mit mindestens 32GB VRAM oder DGX Spark betreiben und Apache-2.0-Gewichte wünschen, die sie prüfen oder feinabstimmen können. Nach meiner Lektüre der Veröffentlichungshinweise eignet es sich am besten für strukturierte Softwareentwicklungsaufgaben, bei denen Tool-Ausgaben, Tests und Suche die Antworten des Modells fundieren und Rundengrenzen Schleifen begrenzen.
Wenn Sie ein KI-Modell auswählen und vor allem über mehrere Runden chatten, dichte Faktenfragen ohne Retrieval beantworten oder dem Modell unbeaufsichtigten Zugriff auf das Dateisystem geben möchten, bleiben größere Modelle wie Inkling 2 Small oder speziell auf Chat ausgelegte Alternativen die sicherere Wahl.
Häufig gestellte Fragen zu Inkling 2 Mini
Warum nennt Thinking Machines für Inkling 2 Mini sowohl 3,4B als auch 5,4B aktive Parameter?
Inkling 2 Mini aktiviert bei einem einzelnen Durchlauf durch seine 24 Schichten 3,4 Milliarden Parameter; das entspricht der Zahl auf der Familienseite von Thinking Machines. Da die mittleren 12 Schichten pro Token dreimal durchlaufen werden, fügt jeder zusätzliche Durchlauf ungefähr 1,0 Milliarden effektiv aktive Parameter hinzu. Insgesamt entstehen so 5,4 Milliarden effektive Aktivierungen pro Token, wie bei Tinker angegeben.
Können Sie Inkling 2 Mini auf einem Laptop mit 16GB RAM ausführen?
Thinking Machines Lab nennt 16GB RAM in seiner offiziellen Dokumentation vom 21. November 2026 nicht als unterstützte Konfiguration. Der offizielle Checkpoint ist in gemischter NVFP4- und MXFP8-Präzision rund 20GB groß. Die offizielle Empfehlung nennt Macs mit Apple Silicon und mindestens 32GB Speicher, GPUs mit mindestens 32GB VRAM oder eine NVIDIA DGX Spark.
Was unterscheidet die Kontextgrenzen von 1M und 256K bei Inkling 2 Mini?
Die beiden Zahlen beschreiben die lokale Fähigkeit des Modells und die aktuelle Grenze beim Hosting. Auf Hugging Face gibt die offizielle Modellkarte von Inkling 2 Mini an, dass die Architektur Kontextfenster bis zu 1 Million Token unterstützt. Im offiziellen Tinker-Katalog gilt für das gehostete Inkling 2 Mini derzeit eine maximale Kontextgrenze von 256K, wie bei anderen Modellen auf dieser Plattform.
Hat Inkling 2 Mini tatsächlich offene Gewichte und ist es kommerziell kostenlos nutzbar?
Inkling 2 Mini wird laut seiner offiziellen Hugging Face-Modellkarte unter der freizügigen Apache-2.0-Lizenz veröffentlicht, die kommerzielle und lokale Nutzung zu den Bedingungen von Apache 2.0 erlaubt. Für den gehosteten Zugriff über Tinker nennen die am 21. November 2026 geprüften offiziellen Seiten $0.10 pro GB und Monat für die Checkpoint-Speicherung und veröffentlichen keine vollständige öffentliche Preistabelle pro Token.
Wie schneidet Inkling 2 Mini im Vergleich zu Inkling 2 Small ab?
Inkling 2 Small ist mit 594 Milliarden Parametern insgesamt und 17 Milliarden aktiven Parametern deutlich größer; Inkling 2 Mini hat insgesamt 26,4 Milliarden Parameter und 3,4 Milliarden aktive pro Durchlauf. Thinking Machines berichtet, dass Mini die Stärken von Small beim agentischen Programmieren nachbildet, aber beim Faktenabruf, breitem Weltwissen und anspruchsvollen Reasoning-Benchmarks zurückliegt.



