Menyesuaikan Strategi API dengan Tren AI yang Dinamis

Dalam lanskap teknologi yang berkembang pesat saat ini, Kecerdasan Buatan (AI) sedang mendapatkan banyak perhatian. Di mana pun Anda melihat di media sosial, ada startup AI baru, alat rekayasa prompt, dan solusi Large Language Model (LLM). Dan ini tidak mengherankan karena AI terasa hampir seperti sihir! Misalnya, ChatGPT, benar-benar membuat semua orang bersemangat. Ia mendapatkan 100 juta pengguna hanya dalam 2 bulan setelah dirilis secara publik, membuatnya sangat populer dengan sangat cepat.

Sekarang, semua orang bertanya-tanya: apa arti gelombang AI ini bagi saya, pekerjaan saya, dan produk saya? Lebih khusus lagi, bagaimana hal ini berdampak pada mereka yang berada di garis depan dalam membangun produk dan aplikasi digital menggunakan API? Artikel ini mengeksplorasi apa arti tren AI bagi kita yang membuat alat digital menggunakan API.

API membuat AI dapat diakses oleh semua

Perusahaan besar telah cepat mendirikan laboratorium penelitian AI khusus, merekrut ilmuwan data untuk membuat model AI. Tetapi bagaimana dengan entitas yang lebih kecil tanpa sumber daya komputasi besar dan GPU untuk laboratorium penelitian AI? Apakah mereka hanya akan mengamati sementara perusahaan besar memanfaatkan revolusi AI? Jawabannya adalah tidak. Untuk banyak aplikasi AI, terutama yang berfokus pada bahasa alami, tidak perlu laboratorium penelitian AI khusus. Sebaliknya, model AI publik yang ada, seperti LLM, dapat digunakan. Ini berarti bahwa pengembang tidak perlu menjadi ahli AI; mereka hanya perlu mahir menggunakan API. Melalui rekayasa prompt, penyesuaian, dan embeddings, model-model ini dapat disesuaikan untuk memenuhi kebutuhan spesifik.

Kata ajaib di sini adalah "API." API menyederhanakan kompleksitas kontennya, membuat model AI dapat diakses oleh semua pengembang, terlepas dari keahlian mereka dalam AI. Pemisahan tanggung jawab ini memastikan bahwa sementara beberapa ilmuwan data menciptakan model AI dan mengemasnya sebagai API, lebih banyak pengembang dapat mengintegrasikan model-model ini ke dalam aplikasi mereka, menciptakan solusi "cerdas" yang mahir dalam pemrosesan bahasa alami. Hasilnya adalah bahwa API meratakan lapangan permainan, memberikan akses ke model AI yang kuat untuk pengembang dari semua ukuran perusahaan.

AI dan pola API untuk aplikasi modern

API adalah kunci dalam menghubungkan produk Anda dengan segala hal lainnya. Mereka sangat baik dalam menghubungkan berbagai komponen perangkat lunak. Ketika kita berbicara tentang AI, koneksi ini bahkan lebih penting karena AI perlu bekerja dengan berbagai sumber data dan alat untuk menjadi berguna. Aplikasi modern secara konsisten memanfaatkan AI dan API. Sementara AI memberikan "kecerdasan" pada aplikasi, memungkinkan mereka memahami bahasa dan maksud manusia, API memfasilitasi akses data dan koneksi sistem. Teknologi ini bukan hanya entitas paralel, dan penggunaan gabungannya dapat bersifat sinergis. Ada tiga pola utama untuk integrasi mereka:

Pola 1: Panggil layanan AI melalui API

Model AI, seperti OpenAI ChatGPT, sering dikemas sebagai API. Melalui API ini, pengembang dapat memicu AI, mengirim prompt sebagai input, memungkinkan pengembang untuk mengintegrasikan AI ke dalam aplikasi mereka dengan mulus. Arsitektur yang umum digunakan untuk membangun aplikasi AI baru juga memanfaatkan dua endpoint API OpenAI seperti Vector Embeddings dan Chat Completion seperti yang Anda lihat dalam diagram di bawah ini:

Metode ini pertama-tama membuat vector embeddings melalui API OpenAI untuk setiap dokumen input (teks, gambar, CSV, PDF, atau jenis data terstruktur/tidak terstruktur lainnya), kemudian mengindeks embeddings yang dihasilkan untuk pengambilan cepat dan menyimpannya ke dalam penyimpanan seperti database vektor untuk pengambilan cepat, dan dokumen-dokumen ini disajikan kepada ChatGPT bersama dengan pertanyaan pengguna sebagai prompt. Dengan pengetahuan khusus yang ditambahkan ini, ChatGPT dapat merespons dengan cerdas terhadap pertanyaan pengguna.

Pola 2: Layanan AI memanggil API

Output dari model AI sebagai respons terhadap prompt biasanya berupa teks. Untuk menerjemahkan "ide" ini menjadi hasil yang dapat ditindaklanjuti, layanan AI perlu memanggil API. API ini dapat memulai tindakan di dunia nyata atau digital, seperti melakukan pembayaran, memesan janji temu, mengirim pesan, atau menyesuaikan suhu ruangan. Intinya, API bertindak sebagai tangan layanan AI, memungkinkannya untuk berinteraksi dengan lingkungannya. Contoh yang baik dari ini adalah plugin kustom ChatGPT. Artikel ini menjelaskan cara membuat plugin kustom untuk API Gateway menggunakan APISIX. Karena APISIX dapat berada di depan API untuk merutekan permintaan AI ke layanan API backend yang dimaksud. Kita dapat dengan mudah menerapkan langkah-langkah keamanan seperti autentikasi, otorisasi, dan pembatasan kecepatan atau menyimpan respons serupa dari API dan ini memungkinkan kita untuk mengumpulkan wawasan berharga tentang penggunaan API, kinerja, dan masalah potensial.

Pola 3: AI menghubungkan API

Bertahun-tahun yang lalu, untuk membuat dua sistem perangkat lunak atau API berkomunikasi, satu-satunya pilihan adalah pengkodean manual. Insinyur perangkat lunak akan membuat urutan kode yang kompleks dan rapuh. Tugas ini hanya untuk pengembang, dan setiap modifikasi berarti lebih banyak pengkodean, yang mengarah ke jaringan kode yang saling terhubung yang rumit.

Dengan munculnya AI generatif, berinteraksi dengan Integration Platform as a Service (iPaaS) bisa semudah membuat permintaan dalam obrolan. Jika Anda ingin data dari satu platform disinkronkan dengan platform lain, Anda tidak perlu memahami teknisnya. Anda hanya perlu menentukan persyaratan Anda. Misalnya, Anda mungkin berkata, "Sinkronkan skor lead pelanggan dari Marketo ke Salesforce." atau meminta AI untuk memindahkan data dari satu API ke API lainnya. AI kemudian akan menangani prosesnya, menguji kompatibilitasnya, dan memperbaiki masalah apa pun secara mandiri. API yang digunakan dalam integrasi Anda selalu berubah dan ini terkadang dapat menyebabkan masalah. AI dapat memantau kesehatan integrasi data Anda dan terus memperbaiki kesalahan atau hanya mengirim notifikasi peringatan dalam bahasa alami jika entri dalam permintaan atau respons API memerlukan perhatian.

Melindungi penggunaan API

Dengan kemampuan AI untuk memanggil API yang memulai tindakan di dunia nyata atau digital, sangat penting untuk menerapkan perlindungan. Perlindungan ini, idealnya diimplementasikan pada tingkat sistem manajemen API, diperlukan untuk memastikan penggunaan AI yang bertanggung jawab dan aman. Posting ini mengeksplorasi bagaimana API Gateway dapat bermanfaat bagi pengembang plugin ChatGPT untuk mengekspos, mengamankan, mengelola, dan memantau endpoint API mereka.

Kesimpulan

API menyediakan blok bangunan yang sempurna untuk pengembangan perangkat lunak yang digerakkan oleh AI. Kombinasi API dan teknologi AI sangat penting untuk mengembangkan aplikasi yang kuat. Tiga pola yang diidentifikasi—aplikasi mengintegrasikan fungsionalitas AI melalui API dan layanan AI memanggil API untuk tindakan—menawarkan peta jalan untuk memanfaatkan AI dalam pengembangan aplikasi. Seiring lanskap AI terus berkembang, fokus pada API dan strategi untuk integrasinya akan menjadi semakin penting.

Sumber daya terkait

API Gateway Untuk Plugin ChatGPT Membangun plugin kustom ChatGPT untuk API Gateway