Optimización de modelos abiertos para aplicaciones de IA multiplataforma y en dispositivos

En esta sesión, exploraremos técnicas prácticas de optimización de modelos para un despliegue eficaz y multiplataforma de modelos abiertos de IA. Aprenderemos estrategias para ejecutar localmente LLMs de última generación, permitiendo la creación de aplicaciones de IA centradas en la privacidad, rentables, altamente escalables y en tiempo real. Para demostrar el poder de este enfoque, construiremos aplicaciones web visualmente impresionantes que aprovechan Transformers.js para ejecutar estos modelos en el dispositivo en el navegador utilizando tecnologías web emergentes como WebGPU y WebNN. NOTA: Se requiere entrada para la masterclass.