Ovo je najmanje AI superračunalo na svijetu

Tiiny AI, američki startup specijaliziran za umjetnu inteligenciju, predstavio je najmanje osobno superračunalo na svijetu, Tiiny AI Pocket Lab, koje je službeno verificirano od strane Guinnessove knjige rekorda.

Ovaj događaj označio je prvo globalno javno predstavljanje Tiiny AI Pocket Laba. Po prvi put u AI superračunalstvu, uređaj džepne veličine sposoban je pokrenuti do punih 120 milijardi parametarskih velikih jezičnih modela (LLM) u potpunosti na uređaju, bez povezivosti s oblakom, poslužiteljima ili vrhunskih GPU-ova.

Dizajniran za energetski učinkovitu osobnu inteligenciju, Tiiny AI Pocket Lab radi s potrošnjom od 65 W. Može omogućiti performanse velikih modela uz znatno manji udio energije i ugljičnog otiska tradicionalnih sustava temeljenih na GPU-u.

Uređaj predstavlja veliku promjenu u putanji industrije umjetne inteligencije. Kako se umjetna inteligencija temeljena na oblaku sve više bori s problemima održivosti, rastućim troškovima energije, globalnim prekidima, previsokim troškovima obrade dugog konteksta i rastućim rizicima za privatnost, Tiiny AI uvodi alternativni model usmjeren na osobnu, prenosivu i potpuno privatnu inteligenciju.

„Umjetna inteligencija u oblaku donijela je izvanredan napredak, ali je također stvorila izazove ovisnosti, ranjivosti i održivosti“, rekao je Samar Bhoj, direktor GTM-a tvrtke Tiiny AI.

„S Tiiny AI Pocket Labom vjerujemo da inteligencija ne bi trebala pripadati podatkovnim centrima, već ljudima. Ovo je prvi korak prema tome da napredna umjetna inteligencija postane zaista dostupna, privatna i osobna, donošenjem snage velikih modela iz oblaka na svaki pojedinačni uređaj.“

Tiiny AI Pocket Lab dizajniran je za podršku gotovo svim glavnim slučajevima osobne upotrebe umjetne inteligencije, služeći programerima, istraživačima, kreatorima, profesionalcima i studentima. Omogućuje višestepeno zaključivanje, duboko razumijevanje konteksta, tijekove rada agenata, generiranje sadržaja i sigurnu obradu osjetljivih informacija, čak i bez pristupa internetu.

Uređaj također pruža pravu dugoročnu osobnu memoriju pohranjivanjem korisničkih podataka, preferencija i dokumenata lokalno s enkripcijom na razini banke, nudeći razinu privatnosti i trajnosti koju AI sustavi temeljeni na oblaku ne mogu pružiti.

Ključno je da Tiiny AI Pocket Lab djeluje u 'zlatnoj zoni' osobne umjetne inteligencije, što zadovoljava preko 80% stvarnih potreba. Nadalje, podržava modele skaliranja do 120B LLM-a, pružajući razine inteligencije usporedive s GPT-4o. To omogućuje zaključivanje na razini doktorata, višekoračnu analizu i duboko kontekstualno razumijevanje, ali uz sigurnost potpuno offline obrade na uređaju.

Objava dolazi u trenutku kada globalno tržište LLM-a ulazi u razdoblje brzog širenja. Prema Grand View Researchu, veličina globalnog tržišta LLM-a procijenjena je na 7,4 milijarde USD u 2025. godini, a predviđa se da će do 2030. dosegnuti 35,4 milijarde USD, uz složeni rast od 36,9% od 2025. do 2030. godine. Pokreće ga napredak u samostalno nadziranom učenju, razvoj modela specifičnih za područje i sve veća primjena u poduzećima u svim sektorima, uključujući maloprodaju, e-trgovinu, zdravstvo i medije.

Tiiny AI Pocket Lab pokreće dva ključna tehnološka otkrića koja omogućuju modele s velikim parametrima na kompaktnom uređaju. TurboSparse, tehnika rijetke aktivacije na razini neurona, značajno poboljšava učinkovitost zaključivanja uz zadržavanje pune inteligencije modela. PowerInfer, heterogeni inferencijski mehanizam otvorenog koda s više od 8000 GitHub zvjezdica, ubrzava velika LLM opterećenja dinamički distribuirajući izračune između CPU-a i NPU-a, omogućujući vrhunske performanse uz djelić tradicionalne potrošnje energije. Zajedno, ove tehnologije omogućuju Tiiny AI Pocket Labu da pruži mogućnosti koje su prije zahtijevale profesionalne GPU-ove koji su koštali tisuće dolara.

Ključne specifikacije:

Procesor: ARMv9.2 12-jezgreni CPU

Računalna snaga umjetne inteligencije: Prilagođeni heterogeni modul (SoC + dNPU), koji isporučuje ≈190 TOPS

Memorija i pohrana: 80GB LPDDR5X + 1TB SSD

Kapacitet modela: Pokreće LLM-ove s do 120B parametara u potpunosti na uređaju

Energetska učinkovitost: 30 W TDP, tipična snaga sustava 65 W

Dimenzije i težina: 14,2 × 8 × 2,53 cm, cca. 300 g, džepna veličina

Ekosustav: Implementacija desetaka LLM-ova otvorenog koda i agentskih okvira jednim klikom

Povezivost: Radi potpuno offline; nije potreban internet ili oblak

Tvrtka također nudi ekosustav otvorenog koda spreman za korištenje. Tiiny AI Pocket Lab podržava instalaciju vodećih modela otvorenog koda jednim klikom, uključujući OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral i Phi, te omogućuje besprijekorno postavljanje popularnih AI agenata otvorenog koda kao što su OpenManus, ComfyUI, Flowise, Presenton, Libra, Bella i SillyTavern.

Korisnici primaju kontinuirana ažuriranja, uključujući službena OTA ažuriranja hardvera. Gore navedene značajke bit će objavljene na CES-u u siječnju 2026.