TechnologyIndonesia.id – Cloudera, perusahaan data untuk enterprise AI mengumumkan kolaborasi lebih lanjut dengan NVIDIA untuk memperluas kemampuan generative AI (artificial intelligence) dengan Microservices NVIDIA
Cloudera Powered by NVIDIA mengintegrasikan microservices NVIDIA NIM, bagian dari platform software NVIDIA AI Enterprise, ke dalam Cloudera Machine Learning, yang merupakan bagian dari Cloudera Data Platform dengan fungsi AI/ML, untuk mendapatkan hasil generative AI end-to-end yang cepat, aman, dan sederhana.
Data enterprise, digabungkan dengan platform full-stack komprehensif yang optimal untuk large language models (LLM), memainkan peran penting dalam pengembangan aplikasi generative AI di perusahaan, mulai dari uji coba hingga produksi.
Microservices NVIDIA NIM dan NeMo Retriever memungkinkan pengembang untuk mengaitkan model AI ke data bisnis mereka – termasuk teks, gambar, dan visualisasi, seperti grafik batang, line plots dan diagram lingkaran — untuk menghasilkan respon yang sangat akurat dan relevan.
Pengembang yang memanfaatkan microservices ini menggunakan aplikasi melalui NVIDIA AI Enterprise, dapat memberikan runtime yang optimal untuk membangun, menyesuaikan, dan menggunakan LLM kelas enterprise.
Dengan memanfaatkan microservices NVIDIA, Cloudera Machine Learning memungkinkan pelanggan mendapatkan manfaat dari data enterprise mereka di bawah pengelolaan Cloudera dengan membawa alur kerja AI berperforma tinggi, software platform AI, dan komputasi terakselerasi ke data tersebut – di mana pun data tersebut berada.
Cloudera akan memperkenalkan beberapa integrasi dengan microservices NVIDIA. Cloudera Machine Learning akan mengintegrasikan model dan aplikasi layanan yang didukung oleh microservices NVIDIA untuk mendongkrak performa inferensi model di semua beban kerja.
Dengan fungsi AI model-serving yang baru seperti ini pelanggan dapat mencapai toleransi kesalahan, penyajian latensi rendah, dan penskalaan otomatis untuk model yang diterapkan di mana saja – baik dari public cloud maupun private cloud.
Selain itu, Cloudera Machine Learning akan menawarkan microservices NVIDIA NeMo Retriever yang terintegrasi untuk menyederhanakan koneksi LLM kustom ke data enterprise. Kemampuan ini akan memungkinkan pengguna membangun aplikasi berbasis retrieval-augmented generation (RAG) untuk penggunaan dalam produksi.
Cloudera sebelumnya bekerja sama dengan NVIDIA untuk memanfaatkan pemrosesan data yang dioptimalkan dengan GPU melalui integrasi NVIDIA RAPIDS Accelerator for Apache Spark dengan Cloudera Data Platform.
Kini, dengan tambahan microservices NVIDIA dan integrasi dengan NVIDIA AI Enterprise, Cloudera Data Platform akan secara unik menyediakan pipelines hybrid AI end-to-end yang disederhanakan
Ke depannya, semua perusahaan akan lebih cepat dan intuitif dalam mengembangkan, menyesuaikan, dan menerapkan LLM yang mendukung generative AI yang transformatif.
Ini termasuk aplikasi seperti coding co-pilots untuk mempercepat waktu pengembangan, chatbots untuk mengotomatisasi interaksi pelanggan dan layanan, aplikasi rangkuman teks untuk memproses dokumen dengan lebih cepat, pencarian yang disederhanakan dan bersifat kontekstual, dan banyak lagi.
Inovasi ini memaksimalkan nilai time-to-business dengan menjadikan proses data dan AI tingkat lanjut lebih mudah dan lebih cepat di enterprise, sehingga meningkatkan pendapatan dan mengoptimalkan biaya.
“Cloudera mengintegrasikan microservices NVIDIA NIM dan CUDA-X untuk mendukung Cloudera Machine Learning, membantu pelanggan mengubah hype AI menjadi realita bisnis,” kata Priyank Patel, Vice President of AI/ML Products di Cloudera.
“Selain untuk memberikan kemampuan generative AI dan performa yang kuat bagi pelanggan, hasil dari integrasi ini akan memberdayakan enterprise untuk mengambil keputusan yang lebih akurat dan tepat waktu, sekaligus melakukan mitigasi terhadap ketidakakuratan, halusinasi, dan kesalahan dalam prediksi – semuanya adalah faktor yang sangat penting dalam bernavigasi di area data hari ini,” imbuhnya.
Vice President of Enterprise Products, NVIDIA, Justin Boitano mengatakan enterprise sangat bersemangat untuk memanfaatkan data masif mereka untuk generative AI dalam rangka mengembangkan copilots dan tools produktivitas yang disesuaikan.
“Integrasi microservices NVIDIA NIM ke dalam Cloudera Data Platform menawarkan para pengembang cara untuk dengan lebih mudah dan fleksibel dalam menggunkan LLM untuk mendorong transformasi bisnis,” kata Justin Boitano.
Cloudera akan memperlihatkan kemampuan AI barunya di ajang NVIDIA GTC, konferensi para pengembang untuk era AI. Acara yang diselenggarakan pada 18 – 21 Maret di San Jose McEnery Convention Center di San Jose, California ini, mengumpulkan perusahaan dan inovator pembentuk masa depan AI dan komputasi terakselerasi. (Ilustrasi Freepik)
Cloudera Perluas Kemampuan Generative AI dengan Microservices NVIDIA
