Adapter les stratégies d'API aux tendances dynamiques de l'IA

September 26, 2023

Technology

Dans le paysage technologique en évolution rapide d'aujourd'hui, l'Intelligence Artificielle (IA) attire beaucoup d'attention ces derniers temps. Partout sur les réseaux sociaux, on voit de nouvelles startups d'IA, des outils d'ingénierie de prompts et des solutions de modèles de langage de grande taille (LLM). Et ce n'est pas surprenant, car l'IA ressemble presque à de la magie ! Par exemple, ChatGPT a vraiment excité tout le monde. Il a atteint 100 millions d'utilisateurs en seulement 2 mois après sa mise à disposition publique, devenant ainsi extrêmement populaire, très rapidement.

Maintenant, tout le monde se demande : que signifie cette vague d'IA pour moi, mon travail et mes produits ? Plus précisément, comment cela affecte-t-il ceux qui sont en première ligne pour construire des produits et applications numériques en utilisant des API ? Cet article explore ce que la tendance de l'IA signifie pour ceux d'entre nous qui créons des outils numériques en utilisant des API.

Les API rendent l'IA accessible à tous

Les grandes entreprises ont rapidement établi des laboratoires de recherche dédiés à l'IA, recrutant des scientifiques des données pour créer des modèles d'IA. Mais qu'en est-il des entités plus petites sans les ressources de calcul massives et les GPU nécessaires pour un laboratoire de recherche en IA ? Doivent-elles simplement observer pendant que les grandes entreprises capitalisent sur la révolution de l'IA ? La réponse est non. Pour de nombreuses applications d'IA, en particulier celles centrées sur le langage naturel, il n'est pas nécessaire d'avoir un laboratoire de recherche en IA spécialisé. Au lieu de cela, les modèles d'IA publics existants, comme les LLM, peuvent être utilisés. Cela signifie que les développeurs n'ont pas besoin d'être des experts en IA, ils doivent simplement maîtriser les API. Grâce à l'ingénierie de prompts, au fine-tuning et aux embeddings, ces modèles peuvent être personnalisés pour répondre à des besoins spécifiques.

Le mot magique ici est "API". Les API encapsulent les complexités de leur contenu, rendant les modèles d'IA accessibles à tous les développeurs, quelle que soit leur expertise en IA. Cette séparation des préoccupations garantit que, tandis qu'une poignée de scientifiques des données créent des modèles d'IA et les emballent sous forme d'API, un plus grand nombre de développeurs peuvent intégrer ces modèles dans leurs applications, créant des solutions "intelligentes" capables de traiter le langage naturel. Le résultat est que les API nivellent le terrain de jeu, offrant un accès à des modèles d'IA puissants pour les développeurs de toutes tailles d'entreprise.

Appeler des services d'IA via une API

L'IA et les modèles d'API pour les applications modernes

Les API sont essentielles pour relier votre produit à tout le reste. Elles sont excellentes pour connecter différents composants logiciels. Lorsque nous parlons d'IA, cette connexion est encore plus cruciale car l'IA doit travailler avec différentes sources de données et outils pour être utile. Les applications modernes exploitent systématiquement à la fois l'IA et les API. Alors que l'IA confère de "l'intelligence" aux applications, leur permettant de comprendre le langage et les intentions humaines, les API facilitent l'accès aux données et les connexions entre systèmes. Ces technologies ne sont pas simplement des entités parallèles et leur utilisation combinée peut être synergique. Il existe trois modèles principaux pour leur intégration :

Modèle 1 : Appeler des services d'IA via une API

Les modèles d'IA, comme OpenAI ChatGPT, sont souvent emballés sous forme d'API. Grâce à ces API, les développeurs peuvent déclencher l'IA, en envoyant des prompts comme entrée, ce qui leur permet d'intégrer l'IA dans leurs applications de manière transparente. Une architecture couramment utilisée pour construire une nouvelle application d'IA utilise également deux points de terminaison d'API OpenAI comme Vector Embeddings et Chat Completion, comme vous pouvez le voir dans le diagramme ci-dessous :

Alimenter ChatGPT via une API

Cette méthode crée d'abord des vector embeddings via l'API OpenAI pour chaque document d'entrée (texte, image, CSV, PDF ou autres types de données structurées/non structurées), puis indexe les embeddings générés pour une récupération rapide et les enregistre dans un stockage comme des bases de données vectorielles pour une récupération rapide. Ces documents sont ensuite présentés à ChatGPT avec la question de l'utilisateur comme prompt. Avec cette connaissance personnalisée ajoutée, ChatGPT peut répondre intelligemment aux requêtes des utilisateurs.

Modèle 2 : Les services d'IA appellent des API

La sortie d'un modèle d'IA en réponse à un prompt est généralement textuelle. Pour traduire ces "idées" en résultats actionnables, les services d'IA doivent appeler des API. Ces API peuvent initier des actions dans le monde réel ou numérique, comme effectuer des paiements, réserver un rendez-vous, envoyer des messages ou ajuster la température d'une pièce. En essence, les API agissent comme les mains d'un service d'IA, lui permettant d'interagir avec son environnement. Un bon exemple de cela peut être les plugins personnalisés de ChatGPT. Cet article explique comment construire un plugin personnalisé pour une API Gateway en utilisant APISIX. Parce qu'APISIX peut être à l'avant des API pour router les requêtes d'IA vers les services API backend prévus. Nous pouvons facilement mettre en œuvre des mesures de sécurité comme l'authentification, l'autorisation et la limitation de débit ou mettre en cache des réponses similaires provenant des API, et cela nous permet de recueillir des informations précieuses sur l'utilisation des API, les performances et les problèmes potentiels.

Modèle 3 : L'IA connecte des API

Il y a quelques années, pour faire communiquer deux systèmes logiciels ou API, la seule option était le codage manuel. Les ingénieurs logiciels créaient des séquences de code complexes et fragiles. Cette tâche était réservée aux développeurs, et chaque modification signifiait plus de codage, conduisant à un enchevêtrement de codes interconnectés.

Avec l'avènement de l'IA générative, interagir avec une plateforme d'intégration en tant que service (iPaaS) pourrait être aussi simple que de faire une demande dans un chat. Si vous voulez que les données d'une plateforme se synchronisent avec une autre, vous n'avez pas besoin de comprendre les aspects techniques. Vous devez simplement spécifier vos exigences. Par exemple, vous pourriez dire : "Synchronisez les scores de prospects clients de Marketo vers Salesforce." ou demander à l'IA de déplacer des données d'une API à une autre. L'IA gérera ensuite le processus, testera sa compatibilité et corrigera les problèmes de manière autonome. Les API utilisées dans vos intégrations changent constamment, ce qui peut parfois causer des problèmes. L'IA peut surveiller la santé de vos intégrations de données et continuer à corriger les erreurs ou simplement envoyer des notifications d'alerte en langage naturel si une entrée dans une requête ou une réponse API nécessite une attention particulière.

Protéger l'utilisation des API

Avec la capacité de l'IA à appeler des API qui initient des actions dans le monde réel ou numérique, il est crucial de mettre en place des mesures de protection. Cette protection, idéalement mise en œuvre au niveau du système de gestion des API, est nécessaire pour garantir une utilisation responsable et sécurisée de l'IA. Ce post explore comment une API Gateway peut être bénéfique pour les développeurs de plugins ChatGPT pour exposer, sécuriser, gérer et surveiller leurs points de terminaison d'API.

En conclusion

Les API fournissent les blocs de construction parfaits pour le développement de logiciels pilotés par l'IA. La combinaison des API et des technologies d'IA est essentielle pour développer des applications puissantes. Les trois modèles identifiés—les applications intégrant des fonctionnalités d'IA via des API et les services d'IA invoquant des API pour des actions—offrent une feuille de route pour tirer parti de l'IA dans le développement d'applications. Alors que le paysage de l'IA continue d'évoluer, l'accent sur les API et les stratégies pour leur intégration deviendra encore plus important.

Ressources connexes

API Gateway For ChatGPT Plugins Building a ChatGPT custom plugin for API Gateway

Share article link