Bravúros ötlet: egy mérnök zsebben elférő méretűre kicsinyített egy nagy nyelvi modellt
Forrás:
hvg.hu
2 hónapja
A nagy nyelvi modellek (LLM-ek) a természetes nyelvi feldolgozásra összpontosítanak, élükön a GPT-vel. Binh, egy YouTuber, kifejlesztett egy USB-meghajtót, amelyen egy LLM fut Raspberry Pi Zero W-n. Ez a megoldás egyszerűen használható, de lassú, és jelenleg nem kínál valós használati esetet. Azonban a kisebb modellek csökkenthetik a karbonlábnyomot. Teljes cikk (hvg.hu)