13 watts, l’équivalent d’une ampoule, suffisent pour faire tourner un LLM d’un milliard de paramètres

https://news.ucsc.edu/2024/06/matmul-free-llm.html

Algorithme sans matmul + FPGA dédié pour maximiser l’efficacité