Herramienta

LocalAI: motor de inferencia de IA local sin GPU

localai.io

Visitar localai.io

LocalAI es un motor de inferencia de IA de código abierto que permite ejecutar modelos LLM, visión, audio y video en cualquier hardware sin necesidad de GPU. Ofrece una alternativa local y privada a los servicios en la nube, con una arquitectura modular que carga solo los backends necesarios para cada modelo. Es ideal para desarrolladores que buscan ejecutar modelos de lenguaje y agentes de IA en sus infraestructuras propias sin depender de proveedores externos ni de tarjetas gráficas potentes.

Visto en X
@flopezluis
En GitHub
50.106 estrellas
Enviado por
Jam