Știri la minut Revista presei Radar personalȘtiri locale

Categorii

Știri

Revista

Radar

Locale

Știri despre: eGPU

Raspberry Pi 5 a reușit să accelereze LLM-urile folosind un eGPU AMD Radeon.

Jeff Geerling a demonstrat cum suportul pentru Vulkan API permite rularea eficientă a modelului de limbaj pe acest dispozitiv compact. După ce anterior nu a reușit să accelereze GPU LLM-urile, Geerling a găsit o soluție printr-un patch experimental, care oferă performanțe comparabile cu sistemele mai scumpe. Configurația hardware include un adaptor pentru conectarea GPU-ului la Pi, iar software-ul necesită compilarea unui kernel Linux personalizat. Costul total al configurației este de aproximativ 700 dolari, dar poate fi mai mic pentru cei care au deja componentele necesare. De asemenea, consumul de energie este remarcabil, cu un sistem care consumă doar ~12W în repaus, făcându-l o alegere atractivă pentru utilizarea AI-ului acasă.

Publicat acuma 1 zi

Beelink a anunțat că își deschide docking station-ul EX pentru comunitatea de dezvoltatori,

oferind specificații și brevete pentru a încuraja colaborarea în industrie. Această stație de docking, vândută inițial cu 159 de dolari, utilizează interfața PCIe 4.0 x8, oferind astfel o soluție performantă și cu latență scăzută pentru GPU-uri externe. Beelink a subliniat importanța acestei inițiative, menționând că documentația este disponibilă gratuit, chiar și pentru concurenți. Această mișcare ar putea determina o adoptare mai largă a cablurilor PCIe x8 în mini PC-uri și dispozitive de gaming, în ciuda popularității actuale a standardelor Thunderbolt și OCuLink, care rămân mai comune pe piață.

Publicat acuma 28 zile

Personalizează-ți știrile cu surse verificate, conținut relevant și informare eficientă.

Platformă

Știri la minut Revista presei Radar personal

Resurse

Sugerează publicație Raportează publicație

Legal

Termeni de utilizare Politică de utilizare cookie GDPR Contact

©2023. Toate drepturile rezervate.