Ollama a publicat pe 9 noiembrie versiunea 0.40.16 a aplicației pentru rularea modelelor AI. Actualizarea aduce în biblioteca sa Ripple-65B Preview, un model cu ponderi publice pentru programare, dezvoltat de Ricursive Intelligence. În aceeași versiune, Ollama raportează o reducere de aproximativ 27 GiB a memoriei folosite de Qwen3.8 Flash Next pe Apple Silicon. Disponibilitatea noului model în bibliotecă și reducerea de memorie sunt două schimbări care privesc modele diferite.
Ripple intră în biblioteca Ollama
Ricursive Intelligence publicase deja ponderile Ripple. Noutatea din 9 noiembrie este integrarea modelului în Ollama, unde apare sub numele ripple-preview. Biblioteca afișează pentru variantele modelului fișiere de aproximativ 39 până la 46 GB. Fișa oficială indică licența Apache 2.0 pentru ponderi. Varianta Preview este adaptată pentru a urma instrucțiuni și face parte dintr-o familie care include și un model de bază, publicat separat.
Ripple are 65 de miliarde de parametri și o arhitectură densă. Parametrii participă la procesarea fiecărui token, unitatea în care este segmentat textul. Proiectarea și antrenarea modelului urmăresc activități de programare în mai mulți pași. Într-un mediu conectat la instrumente de dezvoltare, o sarcină poate cuprinde citirea fișierelor dintr-un proiect, propunerea unei modificări și rularea unui test. Aplicația care găzduiește agentul furnizează instrumentele și controlează ce acțiuni pot fi executate.
Ricursive Intelligence declară că a preantrenat modelul pe 12 trilioane de tokenuri, în principal text în engleză și cod. Autorii descriu o capacitate de context de până la aproximativ un milion de tokenuri pentru modelul publicat de ei. În Ollama, cantitatea de context efectiv folosită într-o sesiune depinde de varianta modelului, de setările motorului și de memoria disponibilă. Contextul cuprinde și răspunsurile instrumentelor, astfel că un jurnal de teste lung poate ocupa o parte considerabilă a sesiunii.
Ricursive raportează un scor de 80,52 la Terminal-Bench 2.1, o evaluare cu sarcini de lucru în terminal. Cifra vine din evaluarea autorilor modelului. Fișa Ripple prezintă și rezultate obținute cu un cadru de testare comun pentru mai multe modele, în care ordinea lor diferă. Ambele măsurători privesc sarcinile și mediile respective. Timpul de răspuns pe un anumit Mac sau pe o stație de lucru cu GPU dedicat ține de implementarea locală, de formatul ponderilor și de dimensiunea sarcinii.
Ce înseamnă reducerea de 27 GiB pe Mac
Nota de versiune atribuie economia de aproximativ 27 GiB modelului Qwen3.8 Flash Next, pe sistemele Apple Silicon. Este diferența raportată față de versiunea precedentă a aplicației. Ollama publică separat în bibliotecă o variantă MLX a modelului și afișează pentru ea un fișier de aproximativ 105 GB. Memoria folosită în timpul unei sarcini include ponderile încărcate, datele intermediare și starea necesară păstrării contextului. Spațiul ocupat pe disc se citește separat de această măsurătoare.
Qwen3.8 Flash Next este prezentat ca o versiune experimentală a arhitecturii care stă la baza Qwen4. Este multimodal și folosește o arhitectură cu mai mulți experți. Ollama indică 125 de miliarde de parametri în total și aproximativ șase miliarde activați pentru fiecare token. Această activare selectivă descrie calculul efectuat la un pas de generare. Varianta instalată păstrează ponderile necesare experților pe care îi poate selecta, iar încărcarea lor ține de motor și de configurație.
Pentru varianta MLX, catalogul indică o fereastră de context de 256K de tokenuri și intrări de tip text sau imagine. Fereastra reprezintă limita publicată pentru acea variantă. Dimensiunea unei cereri reale rămâne dată de materialul pe care clientul îl trimite, inclusiv imaginile procesate de model și istoricul conversației.
Pe Apple Silicon, procesorul și unitatea grafică accesează aceeași memorie unificată. Modelul folosește o parte din capacitatea pe care o împart sistemul de operare, editorul de cod și celelalte aplicații. Diferența raportată de Ollama este relevantă mai ales când vechea versiune ocupa aproape toată memoria disponibilă. Capacitatea necesară rămâne legată de modelul încărcat și de contextul utilizat. O sesiune scurtă și o sesiune cu multe fișiere și rezultate de test au cerințe diferite.
Schimbări pentru clienții care folosesc Ollama ca motor local
În această versiune, integrarea care pornește Claude Code din Ollama îl direcționează către modelul ales la lansare, potrivit notelor de versiune. Alegerea modelului afectează destinația cererilor de inferență. Un client de programare poate folosi un model local pentru generare și poate avea separat funcții proprii, extensii sau comenzi care comunică cu alte sisteme. Ruta modelului și conexiunile restului aplicației sunt aspecte distincte ale aceleiași instalări.
Actualizarea modifică și răspunsul la intrările prea lungi pentru ruta compatibilă /v1/responses. Ollama precizează că respectă opțiunea truncation și că eliminarea automată a unei părți din intrare a încetat să fie comportamentul implicit. Pentru o integrare care trimite loguri mari sau istoricul unei sarcini, politica de trunchiere determină dacă motorul poate scurta intrarea. Totodată, /v1/models returnează o listă goală când instalarea nu conține modele, un detaliu relevant pentru aplicațiile care afișează automat lista disponibilă.
Lista de modificări include actualizarea motorului llama.cpp și suport pentru CUDA 13.5 pe Windows pentru ARM. Pe Mac, cifra de memorie rămâne legată de Qwen3.8 Flash Next. Pentru Ripple, datele distincte din această lansare sunt intrarea în catalog, formatele de descărcare și profilul pentru programare. O comparație între cele două într-un proiect local se poate raporta la aceeași sarcină, aceeași lungime a contextului și configurația exactă pe care rulează fiecare model.
