Nvidia, yeni teknolojilerini ve yapay zeka modellerini tanıttığı etkinlikte Nvidia NIM olarak adlandırdığı Nvidia Inference Microservices yeniliğini de duyurdu.
Yapay zeka alanında önemli bir ivme yakalayan Nvidia, yeni dönemde çok daha iddialı. 2024’te yapılan tanıtımlarda şirketin yapay zeka odaklı pek çok gelişme sunacağı görüldü. Bu yeniliklerden birisi de Nvidia Inference Microservices (NIM) yazılım teknolojisi.
Nvidia NIM Nedir?
En temel düzeyde, NIM mikro hizmetlerle dolu bir paket hizmetidir. Nvidia GPU’nun olduğu her yerde çalışabilen, açık modellerden tescilli modellere kadar her tür modeli içerebilecek NIM, yetenekleri ile geliştiricilere de sınırsız bir çalışma imkanı sunuyor. NIM teknolojisi şirketlerin kendi özel verilerini getirmelerine olanak tanırken Geri Alma Artırılmış Nesil (RAG) dağıtımını destekliyor ve hız konusunda da ciddi avantajlar sunuyor. Nvidia, şirketler ile yaptığı anlaşma sayesinde NIM’in SAP, Adobe, Cadence, CrowdStrike, Getty Images, ServiceNow ve Shutterstock, BOX, Cohesity, Cloudera, Databricks, Datastax, Dropbox, NetApp ve Snowflake platformlarında desteklendiğini duyurdu. GTC 5.0 sürüm dahilinde kullanıma sunulan NIM, NVIDIA Enterprise AI yazılım paketi içerisinde yer alıyor.
Nvidia NIM Nedir? Nvidia Inference Microservices Özellikleri2022’de OpenAI ChatGPT yazılımının piyasaya sürülmesiyle kullanılmaya başlanan yapay zeka, aylar içinde 100 milyondan fazla kullanıcıyı bir araya getirdi ve neredeyse her sektörde geliştirme faaliyetlerinde bir artış sağladı. Ancak bu sürece adapte olmak pek çok zorluğu ortaya çıkardı. Nvidia ise bu aşamada NIM özelliği ile devreye girmeyi başardı. NVIDIA AI Enterprise’ın bir parçası olan NVIDIA NIM, yapay zeka destekli kurumsal uygulamalar geliştirmek ve üretimde yapay zeka modellerini dağıtmak için kolaylaştırılmış bir yol sağlıyor. Böylece yapay zekaya uzak olan şirketlerin dahi yapay zeka entegrasyonunun başarılı ve kolay bir şekilde yapabilmesi adına Nvidia NIM ile destek sunuyor.
