La inteligencia artificial generativa ha dejado de ser una tecnologÃa exclusiva de los grandes centros de datos. Cada vez más, el hardware que tenemos en casa o en la oficina puede ejecutar modelos de IA de forma local, sin depender de la nube. Esta tendencia, conocida como edge computing, está ganando terreno gracias a los modelos abiertos y a la optimización del hardware.
Ejecutar IA en el borde tiene ventajas claras: los datos no salen del dispositivo, no hay que pagar por tokens ni suscripciones, y la privacidad está garantizada. Pero también plantea retos, como la necesidad de un hardware potente y el consumo energético. Ahora, además, están surgiendo plataformas que quieren aprovechar el hardware inactivo de los usuarios para crear redes de inferencia distribuidas.
Modelos abiertos: la base de la IA en el edge
Los grandes modelos de lenguaje (LLM) han sido tradicionalmente ejecutados en la nube, pero los modelos abiertos están cambiando las reglas del juego. Se pueden descargar libremente y usar sin necesidad de suscripciones ni APIs de pago. Eso sÃ, requieren un ordenador con suficiente rendimiento, especialmente en memoria y capacidad de cálculo. Cuantos más parámetros tenga el modelo, más recursos necesitará.
Entre los modelos más populares para ejecutar localmente destacan Llama de Meta, Qwen de Alibaba, DeepSeek, Mistral y Gemma de Google. Cada uno tiene sus puntos fuertes: Llama es muy estable y versátil; Qwen sobresale en programación y multilingüismo; DeepSeek destaca por su razonamiento lógico y eficiencia; Mistral, de origen europeo, utiliza arquitecturas de mezcla de expertos para ser más eficiente; y Gemma es ligero, ideal para equipos con recursos limitados. Esta variedad permite que cualquier usuario, con un hardware adecuado para LLMs en el edge, pueda tener su propio asistente de IA sin conexión a Internet.
La ejecución local no solo ahorra costes, sino que garantiza que los datos se quedan en el equipo. Esto es crucial para empresas y usuarios preocupados por la privacidad. Además, ya hay modelos open source capaces de procesar imágenes y vÃdeos, ampliando las posibilidades de uso en el edge.
Alquilar tu GPU para IA: el nuevo negocio
Mientras unos ejecutan modelos en su propio hardware, otros han visto un filón en el hardware inactivo. Startups como Far Labs y Evolving Edge están creando mercados para alquilar GPU de PC gaming que pasan la mayor parte del dÃa sin uso. La idea es similar a Uber o Airbnb, pero para tareas de inferencia de IA. Los propietarios instalan una aplicación y, cuando su equipo está parado, la plataforma lanza trabajos de inferencia en su tarjeta gráfica.
Far Labs, con sede en Abu Dabi, prepara el lanzamiento de su plataforma Far AI, que promete una latencia de 100 ms o menos. Evolving Edge, radicada en Austin, ya opera una beta abierta. Ambas se centran en modelos abiertos pequeños, no en cargas de trabajo de escala fronteriza. Este enfoque les permite utilizar hardware de consumo, como una RTX 4090, que consume entre 350 y 450 vatios bajo carga sostenida. El coste eléctrico es uno de los grandes interrogantes: si la tarifa por hora no supera el gasto en electricidad, el propietario estarÃa pagando por mantener su equipo activo.
Salad, una plataforma con más de 60.000 GPU activas diarias, ya ha demostrado que el modelo puede funcionar, pero sus cifras históricas no son muy alentadoras para los usuarios. En 2021, generó unos 3,6 millones de dólares, pero solo repartió 500.000 entre los propietarios, es decir, unos 14 céntimos por cada dólar generado. La rentabilidad real depende de las comisiones y del precio de la electricidad, que en España ronda los 0,16 euros por kWh. Con una RTX 4090 funcionando 24 horas, la factura mensual puede superar los 40 euros, por lo que el ingreso debe ser superior para que valga la pena.
Seguridad y confianza en las redes distribuidas
Permitir que un tercero ejecute código en tu ordenador conlleva riesgos. Un programa malicioso podrÃa acceder a archivos locales o aprovechar vulnerabilidades. Las startups aseguran que aÃslan la inferencia en un entorno sandbox, con comunicación cifrada y lÃmites estrictos al uso de GPU, CPU, memoria y red. Evolving Edge ha publicado el código de sus nodos para que cualquiera pueda auditar qué se ejecuta, pero el código abierto no garantiza que el binario instalado sea el mismo.
El precedente de Pearl, una red blockchain que prometÃa transformar la minerÃa de criptomonedas en trabajo de IA, es una advertencia. Un estudio mostró que utilizaba el equivalente a 320.000 GPU para operaciones con matrices aleatorias, sin producir IA útil. Far Labs y Evolving Edge intentan diferenciarse enrutando trabajos reales de inferencia, pero sus afirmaciones sobre costes y latencia aún no están verificadas a escala. La confianza será clave para que los usuarios se animen a alquilar su hardware.
En Europa, la tendencia también está calando. Modelos como Mistral, de origen francés, demuestran que el viejo continente tiene un papel en la IA generativa. Y en España, cada vez más entusiastas y pequeñas empresas exploran la ejecución local de modelos abiertos, aunque la falta de información clara sobre rentabilidad frena la adopción masiva.
El hardware en el edge está evolucionando rápido. Por un lado, los modelos abiertos permiten a cualquiera tener su propia IA sin depender de la nube. Por otro, las plataformas de alquiler de GPU prometen convertir los PC gaming inactivos en nodos de una red distribuida, pero aún deben demostrar que son rentables y seguros. Mientras tanto, la privacidad y el ahorro de costes siguen siendo los grandes atractivos de ejecutar IA en el borde, una tendencia que ha llegado para quedarse.
