Адаптация стратегий API к динамичным трендам в области AI

В современном быстро развивающемся технологическом ландшафте искусственный интеллект (ИИ) привлекает к себе много внимания. Везде, куда ни посмотришь в социальных сетях, появляются новые стартапы в области ИИ, инструменты для инженерии запросов и решения на основе больших языковых моделей (LLM). И это неудивительно, потому что ИИ кажется почти магией! Например, ChatGPT действительно вызвал всеобщий восторг. Он набрал 100 миллионов пользователей всего за 2 месяца после публичного запуска, став невероятно популярным в рекордно короткие сроки.

Теперь все задаются вопросом: что означает эта волна ИИ для меня, моей работы и моих продуктов? Более конкретно, как это влияет на тех, кто находится на передовой в создании цифровых продуктов и приложений с использованием API? В этой статье исследуется, что означает тренд ИИ для тех из нас, кто создает цифровые инструменты с использованием API.

API делают ИИ доступным для всех

Крупные корпорации быстро создали специализированные лаборатории по исследованию ИИ, нанимая специалистов по данным для разработки моделей ИИ. Но что делать более мелким организациям, у которых нет огромных вычислительных ресурсов и GPU для лаборатории ИИ? Должны ли они просто наблюдать, как крупные компании извлекают выгоду из революции ИИ? Ответ — нет. Для многих приложений ИИ, особенно тех, которые сосредоточены на обработке естественного языка, нет необходимости в специальной лаборатории ИИ. Вместо этого можно использовать существующие публичные модели ИИ, такие как LLM. Это означает, что разработчикам не нужно быть экспертами в ИИ — им просто нужно уметь работать с API. С помощью инженерии запросов, тонкой настройки и встраивания эти модели можно адаптировать для выполнения конкретных задач.

Ключевое слово здесь — "API". API скрывают сложность своего содержимого, делая модели ИИ доступными для всех разработчиков, независимо от их уровня знаний в области ИИ. Это разделение задач гарантирует, что, пока небольшая группа специалистов по данным создает модели ИИ и упаковывает их в API, более широкая группа разработчиков может интегрировать эти модели в свои приложения, создавая "умные" решения, способные обрабатывать естественный язык. В результате API уравнивают игровое поле, предоставляя доступ к мощным моделям ИИ разработчикам из компаний любого размера.

ИИ и API: шаблоны для современных приложений

API играют ключевую роль в подключении вашего продукта ко всему остальному. Они отлично справляются с соединением различных программных компонентов. Когда речь идет об ИИ, это соединение становится еще более важным, потому что ИИ должен работать с различными источниками данных и инструментами, чтобы быть полезным. Современные приложения активно используют как ИИ, так и API. В то время как ИИ придает приложениям "интеллект", позволяя им понимать человеческий язык и намерения, API обеспечивают доступ к данным и соединение систем. Эти технологии не просто существуют параллельно — их совместное использование может быть синергетическим. Существует три основных шаблона их интеграции:

Шаблон 1: Вызов сервисов ИИ через API

Модели ИИ, такие как OpenAI ChatGPT, часто упаковываются в виде API. Через эти API разработчики могут активировать ИИ, отправляя запросы в качестве входных данных, что позволяет им легко интегрировать ИИ в свои приложения. Часто используемая архитектура для создания нового приложения с ИИ также использует два API-интерфейса OpenAI, такие как Векторные вложения и Завершение чата, как показано на диаграмме ниже:

Этот метод сначала создает векторные вложения через API OpenAI для каждого входного документа (текст, изображение, CSV, PDF или другие типы структурированных/неструктурированных данных), затем индексирует созданные вложения для быстрого поиска и сохраняет их в хранилище, например, в векторные базы данных для быстрого доступа. Эти документы затем передаются ChatGPT вместе с вопросом пользователя в качестве запроса. С этим дополнительным пользовательским знанием ChatGPT может интеллектуально отвечать на запросы пользователей.

Шаблон 2: Сервисы ИИ вызывают API

Результат работы модели ИИ в ответ на запрос обычно представляет собой текст. Чтобы превратить эти "идеи" в конкретные действия, сервисы ИИ должны вызывать API. Эти API могут инициировать действия в реальном или цифровом мире, такие как осуществление платежей, бронирование встреч, отправка сообщений или регулирование температуры в помещении. По сути, API выступают в роли "рук" сервиса ИИ, позволяя ему взаимодействовать с окружающей средой. Хорошим примером этого могут быть пользовательские плагины ChatGPT. В этой статье объясняется, как создать пользовательский плагин для API Gateway с использованием APISIX. Поскольку APISIX может находиться перед API, чтобы направлять запросы ИИ к нужным сервисам API, мы можем легко реализовать меры безопасности, такие как аутентификация, авторизация и ограничение скорости, или кэшировать похожие ответы от API. Это также позволяет нам собирать ценную информацию об использовании API, производительности и потенциальных проблемах.

Шаблон 3: ИИ соединяет API

Несколько лет назад, чтобы заставить две программные системы или API взаимодействовать, единственным вариантом было ручное программирование. Инженеры-программисты создавали сложные и хрупкие последовательности кода. Эта задача была исключительно для разработчиков, и каждое изменение требовало дополнительного кодирования, что приводило к запутанной сети взаимосвязанных кодов.

С появлением генеративного ИИ взаимодействие с платформой интеграции как услуги (iPaaS) может быть таким же простым, как отправка запроса в чате. Если вы хотите, чтобы данные с одной платформы синхронизировались с другой, вам не нужно понимать технические детали. Вам просто нужно указать свои требования. Например, вы можете сказать: "Синхронизируйте оценки потенциальных клиентов из Marketo в Salesforce." или попросить ИИ переместить данные из одного API в другой. ИИ затем обработает процесс, проверит его совместимость и устранит любые проблемы самостоятельно. API, используемые в ваших интеграциях, постоянно меняются, и это иногда может вызывать проблемы. ИИ может отслеживать состояние ваших интеграций данных и автоматически исправлять ошибки или просто отправлять уведомления на естественном языке, если запись в запросе или ответе API требует внимания.

Защита использования API

С учетом способности ИИ вызывать API, которые инициируют действия в реальном или цифровом мире, крайне важно внедрить меры защиты. Эта защита, идеально реализованная на уровне системы управления API, необходима для обеспечения ответственного и безопасного использования ИИ. В этом посте исследуется, как API Gateway может быть полезен для разработчиков плагинов ChatGPT, чтобы предоставлять, защищать, управлять и отслеживать свои конечные точки API.

В заключение

API предоставляют идеальные строительные блоки для разработки программного обеспечения на основе ИИ. Сочетание API и технологий ИИ имеет решающее значение для создания мощных приложений. Три выявленных шаблона — интеграция функциональности ИИ через API и вызов API сервисами ИИ для выполнения действий — предлагают дорожную карту для использования ИИ в разработке приложений. По мере того как ландшафт ИИ продолжает развиваться, внимание к API и стратегиям их интеграции станет еще более важным.

Связанные ресурсы

API Gateway For ChatGPT Plugins
Building a ChatGPT custom plugin for API Gateway