Meta dezvoltă Llama 4 folosind un cluster de peste 100.000 de GPU-uri Nvidia H100, conform declarațiilor lui Mark Zuckerberg. Această inițiativă vine în contextul competiției cu giganți tehnologici precum Microsoft și Google, care dezvoltă modele AI avansate. Llama 4 promite să aducă „noi modalități” și „raționamente mai puternice”, dar Meta a decis să ofere modelele sale gratuit, cu anumite restricții de utilizare comercială. Totuși, utilizarea masivă a GPU-urilor ridică probleme legate de consumul de energie, un cluster de 100.000 de GPU-uri având un consum anual de 370 GWh, suficient pentru 34 de milioane de gospodării americane. În fața acestor provocări, Meta și competiția sa explorează soluții energetice, inclusiv investiții în energie nucleară pentru a susține cerințele de putere ale centrelor de date AI.