Robot w walizce. Nietypowy gadżet z potężnym lokalnym modelem AI
Osoby dorastające w latach 80. mogą dobrze pamiętać film "Krótkie spięcie" z gadatliwym robotem Johnny 5. Teraz, w dobie dużych modeli językowych, pewien amator mikroelektroniki, postanowił stworzyć gadającego robota w walizce z całkiem potężnym lokalnym modelem, który nie wymaga połączenia z internetem.
AI w walizce zaklęty
Szybko reaguje, ma spory zasób wiedzy i jest charakterny. Taki jest Sparky, czyli wytwór jednego z użytkowników Reddit o ironicznym pseudonimie "CreativelyBankrupt". Stworzył go przy użyciu Nvidia Jetson Orin Super 16 GB i obudował wewnątrz walizki. Operuje on lokalnym modelem AI Gemma 4 E4B i dysponuje ponad 30 sensorami na kontekst sytuacyjny, a także – co najważniejsze – "ma on swoje opinie". Wyróżnia się dużymi oczami i ekspresyjną animacją na wbudowanym ekranie, a do wszystkiego nie potrzebuje łączności WiFi ani Bluetooth. Jego reakcje mają 200 ms okienko na wygenerowanie pierwszych tokenów, po czym utrzymuje tempo 14–15 tokenów/s.
Robot‑kompan używa mechanizmu SenseVoiceSmall dla konwersji mowy na tekst oraz Piper dla przetwarzania tekstu na mowę. Co ciekawe, mechanizm Piper jest zsynchronizowany z animowanym awatarem na ekranie, którego animacja ust odświeżana jest w 43 Hz. Poza normalną konwersacją głosową można również posiłkować się klawiaturą, joystickiem, a nawet analogowym pokrętłem.
Nagranie robota można zobaczyć tutaj.
