Adaptación de estrategias de API a las tendencias dinámicas de la IA

En el panorama tecnológico en rápida evolución de hoy, la Inteligencia Artificial (IA) está recibiendo mucha atención en estos días. Dondequiera que mires en las redes sociales, hay nuevas startups de IA, herramientas de ingeniería de prompts y soluciones de Modelos de Lenguaje de Gran Escala (LLM). Y no es sorprendente porque la IA se siente casi como magia. Por ejemplo, ChatGPT realmente emocionó a todos. Alcanzó 100 millones de usuarios en solo 2 meses después de estar disponible públicamente, haciéndolo extremadamente popular, muy rápido.

Ahora, todos se preguntan: ¿qué significa esta ola de IA para mí, mi trabajo y mis productos? Más específicamente, ¿cómo afecta a aquellos que están a la vanguardia de la construcción de productos y aplicaciones digitales utilizando APIs? Este artículo explora lo que la tendencia de la IA significa para aquellos de nosotros que creamos herramientas digitales utilizando APIs.

Las APIs hacen que la IA sea accesible para todos

Las grandes corporaciones han sido rápidas en establecer laboratorios de investigación de IA dedicados, reclutando científicos de datos para crear modelos de IA. Pero, ¿qué pasa con las entidades más pequeñas sin los enormes recursos de computación y GPUs para un laboratorio de investigación de IA? ¿Deben simplemente observar mientras las grandes empresas capitalizan la revolución de la IA? La respuesta es no. Para muchas aplicaciones de IA, particularmente aquellas centradas en el lenguaje natural, no es necesario un laboratorio de investigación de IA especial. En su lugar, se pueden utilizar modelos de IA públicos existentes, como los LLMs. Esto significa que los desarrolladores no necesitan ser expertos en IA, solo necesitan ser competentes con las APIs. A través de la ingeniería de prompts, el ajuste fino y los embeddings, estos modelos pueden personalizarse para satisfacer requisitos específicos.

La palabra mágica aquí es "APIs". Las APIs encapsulan las complejidades de sus contenidos, haciendo que los modelos de IA sean accesibles para todos los desarrolladores, independientemente de su experiencia en IA. Esta separación de preocupaciones asegura que, mientras unos pocos científicos de datos crean modelos de IA y los empaquetan como APIs, un grupo más grande de desarrolladores puede integrar estos modelos en sus aplicaciones, creando soluciones "inteligentes" competentes en el procesamiento del lenguaje natural. El resultado es que las APIs nivelan el campo de juego, otorgando acceso a potentes modelos de IA para desarrolladores de empresas de todos los tamaños.

Patrones de IA y API para aplicaciones modernas

Las APIs son clave para conectar tu producto con todo lo demás. Son excelentes para conectar diferentes componentes de software. Cuando hablamos de IA, esta conexión es aún más crucial porque la IA necesita trabajar con diferentes fuentes de datos y herramientas para ser útil. Las aplicaciones modernas aprovechan consistentemente tanto la IA como las APIs. Mientras que la IA aporta "inteligencia" a las aplicaciones, permitiéndoles comprender el lenguaje y la intención humana, las APIs facilitan el acceso a los datos y las conexiones del sistema. Estas tecnologías no son solo entidades paralelas y su uso combinado puede ser sinérgico. Hay tres patrones principales para su integración:

Patrón 1: Llamar a servicios de IA a través de API

Los modelos de IA, como OpenAI ChatGPT, a menudo se empaquetan como APIs. A través de estas APIs, los desarrolladores pueden activar la IA, enviando prompts como entrada, lo que permite a los desarrolladores integrar la IA en sus aplicaciones de manera fluida. Una arquitectura comúnmente utilizada para construir una nueva aplicación de IA también utiliza dos puntos finales de API de OpenAI, como Vector Embeddings y Chat Completion, como se ve en el diagrama a continuación:

Este método primero crea vector embeddings a través de la API de OpenAI para cada documento de entrada (texto, imagen, CSV, PDF u otros tipos de datos estructurados/no estructurados), luego indexa los embeddings generados para una recuperación rápida y los guarda en almacenamiento como bases de datos vectoriales para una recuperación rápida, y estos documentos se presentan a ChatGPT junto con una pregunta del usuario como un prompt. Con este conocimiento personalizado adicional, ChatGPT puede responder inteligentemente a las consultas de los usuarios.

Patrón 2: Los servicios de IA llaman a APIs

La salida de un modelo de IA en respuesta a un prompt suele ser textual. Para traducir estas "ideas" en resultados accionables, los servicios de IA necesitan llamar a APIs. Estas APIs pueden iniciar acciones en el mundo real o digital, como realizar pagos, reservar una cita, enviar mensajes o ajustar la temperatura de una habitación. En esencia, las APIs actúan como las manos de un servicio de IA, permitiéndole interactuar con su entorno. Un buen ejemplo de esto pueden ser los plugins personalizados de ChatGPT. Este artículo explica cómo construir un plugin personalizado para API Gateway utilizando APISIX. Debido a que APISIX puede estar al frente de las APIs para enrutar las solicitudes de IA a los servicios de API backend deseados. Podemos implementar fácilmente medidas de seguridad como autenticación, autorización y limitación de tasa o almacenar en caché respuestas similares de las APIs y nos permite recopilar información valiosa sobre el uso, el rendimiento y los problemas potenciales de las APIs.

Patrón 3: La IA conecta APIs

Hace años, para hacer que dos sistemas de software o APIs se comunicaran, la única opción era la codificación manual. Los ingenieros de software creaban secuencias de código complejas y frágiles. Esta tarea era exclusiva para desarrolladores, y cada modificación significaba más codificación, lo que llevaba a una red enredada de códigos interconectados.

Con el advenimiento de la IA generativa, interactuar con una Plataforma de Integración como Servicio (iPaaS) podría ser tan sencillo como hacer una solicitud en un chat. Si deseas que los datos de una plataforma se sincronicen con otra, no necesitas entender los detalles técnicos. Solo necesitas especificar tus requisitos. Por ejemplo, podrías decir: "Sincroniza las puntuaciones de clientes potenciales de Marketo a Salesforce." o pedirle a la IA que mueva datos de una API a otra. La IA luego manejará el proceso, probará su compatibilidad y corregirá cualquier problema de manera autónoma. Las APIs utilizadas en tus integraciones están siempre cambiando y esto a veces puede causar problemas. La IA puede monitorear la salud de tus integraciones de datos y seguir corrigiendo los errores o simplemente enviar notificaciones de alerta en lenguaje natural si una entrada en una solicitud o respuesta de API requiere atención.

Protegiendo el uso de APIs

Con la capacidad de la IA para llamar a APIs que inician acciones en el mundo real o digital, es crítico implementar salvaguardas. Esta protección, idealmente implementada a nivel del sistema de gestión de APIs, es necesaria para garantizar el uso responsable y seguro de la IA. Esta publicación explora cómo API Gateway puede ser beneficioso para los desarrolladores de plugins de ChatGPT para exponer, asegurar, gestionar y monitorear sus puntos finales de API.

En conclusión

Las APIs proporcionan los bloques de construcción perfectos para el desarrollo de software impulsado por IA. La combinación de APIs y tecnologías de IA es vital para desarrollar aplicaciones potentes. Los tres patrones identificados—aplicaciones que integran funcionalidad de IA a través de APIs y servicios de IA que invocan APIs para acciones—ofrecen una hoja de ruta para aprovechar la IA en el desarrollo de aplicaciones. A medida que el panorama de la IA continúa evolucionando, el enfoque en las APIs y las estrategias para su integración se volverán aún más importantes.

Recursos relacionados

API Gateway For ChatGPT Plugins Building a ChatGPT custom plugin for API Gateway