Esta semana en Sistemas Complejos estamos con @philipkiely, quien recientemente ha escrito el libro (literalmente) sobre Ingeniería de Inferencia. Hablamos sobre cómo se ve la adopción de la IA como un asunto de ingeniería en las empresas.

Sigo pensando que las aplicaciones de chat son a) una de las aplicaciones individuales más explosivamente populares que se han lanzado al mercado y b) en su mayoría una demostración técnica del producto real, que es la API. Es un primitivo transformador como las sentencias if y los bucles for.

A diferencia de las sentencias if y los bucles for, se está desarrollando una capa de middleware, en parte debido al ritmo de cambio en el sustrato subyacente, que (extrañamente para la tecnología) no es estrictamente positivo. Y así, en lugar de arrancarte los pelos cuando se lanza una actualización del modelo...

... el equipo encargado de implementar inteligencia a gran escala puede, por ejemplo, tener un benchmarking automatizado de los diversos modelos contra las diversas tareas que tienes, ejecutar solicitudes anteriores contra el nuevo retador y calificarlas automáticamente, y luego avanzar a los ganadores automáticamente.

Mucho de esto se asemeja a la introducción adaptativa de infraestructura sobre la marcha, que es una capacidad que me parece un poco de ciencia ficción.

Creo que hay una visibilidad asimétrica en Twitter sobre los casos de uso de AI prosumer, incluidos las herramientas de codificación modernas (que son el desarrollo de LLM más importante económicamente... hasta la fecha). La introducción en la empresa se retrasará, pero no por una década, y se verá diferente.

Menos "simplemente entreguemos todas las bandejas de entrada y YOLO", más pilotos, más aplicaciones de línea de negocio transformadas gradualmente, y luego las cosas se vuelven realmente extrañas en la segunda generación cuando comienzas a pensar "¿Cómo se ve este proceso empresarial si lo diseñamos en torno a los LLMs existentes?"