Red Hat je upravo objavio nove ažuriranja za Red Hat AI, vaš portfelj proizvoda i usluga dizajniranih za ubrzanje razvoja i implementacije rešenja veštačke inteligencije u hibridnoj cloud infrastrukturi. Red Hat AI nudi platformu za poslovnu veštačku inteligenciju za obuku modela i inferenciju, pružajući više iskustva, fleksibilnost i pojednostavljeno iskustvo za implementaciju sistema bilo gde u hibridnoj cloud-u
U potrazi za smanjenjem troškova implementacije velikih jezičkih modela (LLMS) kako bi se zadovoljio sve veći broj slučajeva upotrebe, preduzeća se još uvek suočavaju sa izazovom integracije ovih sistema sa svojim vlasničkim podacima i pristupom njima sa bilo kog mesta: bilo u datacentru, na javnoj oblaku ili čak na ivici
Integracija kako Red Hat OpenShift AI tako i Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI odgovara na te brige pružajući platformu za poslovnu veštačku inteligenciju koja omogućava usvajanje efikasnijih i optimizovanih modela, prilagođeni specifičnim podacima o poslovanju, sa mogućnošću da budu implementirani u hibridnoj oblaku za obučavanje modela u širokom spektru arhitektura računanja
За Џоа Фернандеса, potpredsednik i generalni menadžer poslovne jedinice za veštačku inteligenciju u Red Hatu, a ažuriranje omogućava organizacijama da budu precizne i ekonomične u svojim putovanjima u veštačku inteligenciju. „Red Hat zna da će kompanije morati da pronađu načine za upravljanje rastućim troškovima svojih implementacija generativne veštačke inteligencije“, dok donose više slučajeva upotrebe za proizvodnju i rade na skali.. Red Hat AI pomaže organizacijama da se suoče s tim izazovima, omogućavajući im da imaju efikasnije modele, razvijeni za svrhu, obučeni sa svojim podacima i koji omogućavaju fleksibilnu inferenciju u on-premises okruženjima, od oblaka i na ivici.”
Red Hat OpenShift AI
Red Hat OpenShift AI nudi kompletnu platformu za veštačku inteligenciju za upravljanje životnim ciklusima prediktivne i generativne veštačke inteligencije (gen AI) u hibridnoj cloud infrastrukturi, uključujući operacije mašinskog učenja (MLOps) i sposobnosti operacija velikih jezičkih modela (LLMOps). Platforma pruža funkcionalnosti za izgradnju prediktivnih modela i podešavanje gen AI modela, zajedno sa alatima za pojednostavljenje upravljanja modelima veštačke inteligencije, od cevi za nauku o podacima i modela do praćenja modela, upravljanje i mnogo više.
Najnovija verzija platforme, Red Hat OpenShift AI 2.18, dodaje nove ažuriranja i sposobnosti kako bi podržao cilj Red Hat AI da donese optimizovane i efikasnije AI modele za hibridnu oblačnost. Glavne karakteristike uključuju
● Distribuirana uslugadostupan putem vLLM servera za inferenciju, distribuirana usluga omogućava IT timovima da podele uslugu modela između više grafičkih procesorskih jedinica (GPU). To pomaže da se olakša teret na jednom serveru, ubrzava obuku i fino podešavanje i promoviše efikasnije korišćenje računarskih resursa, u isto pomaže u raspodeli usluga između čvorova za modele veštačke inteligencije
● Iskustvo podešavanja modela od početka do krajakoristeći InstructLab i pipeline-ove za nauku o podacima Red Hat OpenShift AI, ova funkcija pomaže u pojednostavljivanju finog podešavanja LLM-ova, čineći ih skalabilnijim, efikasni i auditable u velikim proizvodnim okruženjima, u isto vreme kada pruža upravljanje putem kontrolne table Red Hat OpenShift AI
● AI zaštitne ogradeRed Hat OpenShift AI 2.18 помаже у побољшању прецизности, performanse, latencija i transparentnost LLM-ova kroz prethodni pregled tehnologije AI Guardrails, koji nadgleda i štiti korisničke ulaze i izlaze modela. AI Guardrails nudi dodatne funkcije detekcije kako bi pomogao IT timovima da identifikuju i ublaže potencijalno mrzilački govor, zlostavni ili profani, lične identifikacione informacije, podaci o konkurentima ili drugi podaci ograničeni korporativnim politikama
● Procena modelakoristeći komponentu za evaluaciju modela jezika (lm-eval) za pružanje važnih informacija o opštem kvalitetu modela, evaluacija modela omogućava naučnicima podataka da uporede performanse svojih LLM-ova na različitim zadacima, od logičkog i matematičkog razmišljanja do neprijateljskog prirodnog jezika, pomažući u stvaranju efikasnijih modela veštačke inteligencije, odgovarajući i prilagođeni
RHEL AI
Deo portfolija Red Hat AI, RHEL AI je platforma osnovnih modela za razvoj, тестирати и извршавати ЛЛМ-ове на конзистентнији начин, sa cilju unapređenja poslovnih aplikacija. RHEL AI nudi Granite LLM modele i alate za usklađivanje modela InstructLab, šta su paketi u pokretnoj slici Red Hat Enterprise Linux i mogu se implementirati u hibridnu oblačnu infrastrukturu
Objavljen u februaru 2025., RHEL 1.4 donio razne poboljšanja, uključujući
● Podrška za model Granite 3.1 8Бkao najnoviji dodatak porodici modela Granite sa open source licencom. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), pored svega, prozora konteksta od 128k za poboljšanje usvajanja rezultata sažimanja i zadataka obogaćene generacije pretrage (RAG)
● Nova grafička korisnička interfejs za doprinos veštinama i prethodnim znanjem, dostupan u formatu pregleda za programere, s ciljem pojednostavljenja potrošnje i fragmentacije podataka, kao i omogućiti korisnicima da dodaju svoje veštine i doprinose modelima veštačke inteligencije
● Dokument Znanje-bench (DK-bench)da bi olakšali poređenja između modela veštačke inteligencije prilagođenih relevantnim privatnim podacima i performansi istih modela bez prilagođavanja
Red Hat AI InstructLab na IBM Cloud
Sve više, preduzeća traže rešenja veštačke inteligencije koja prioritetizuju tačnost i sigurnost svojih podataka, u isto vreme dok održavaju troškove i složenost što je moguće nižim. Red Hat AI InstructLab, dostupan kao usluga na IBM Cloud, bilo je dizajnirano da pojednostavi, eskalirati i pomoći poboljšanju bezbednosti u obuci i implementaciji sistema veštačke inteligencije. Pojednostavljanjem podešavanja modela InstructLab, organizacije mogu izgraditi efikasnije platforme, prilagođene vašim jedinstvenim potrebama, održavajući kontrolu nad svojim poverljivim informacijama.
Besplatan trening o osnovama veštačke inteligencije
Veštačka inteligencija je transformativna prilika koja redefiniše kako kompanije funkcionišu i takmiče se. Da bi podržali organizacije u ovom dinamičnom okruženju, Red Hat nudi besplatne online obuke o osnovama veštačke inteligencije. Kompanija nudi dva sertifikata o učenju u veštačkoj inteligenciji, usmereni kako na iskusne starije lidere tako i na početnike, pomažući da se edukuju korisnici svih nivoa o tome kako veštačka inteligencija može pomoći u transformaciji poslovnih operacija, ubrzati donošenje odluka i podstaći inovacije
Dostupnost
Red Hat OpenShift AI 2.18 и Red Hat Enterprise Linux AI 1.4 су већ доступна. Više informacija o dodatnim resursima, побољшања, ispravke grešaka i kako ažurirati vašu verziju Red Hat OpenShift AI na najnoviju mogu se naćiovde,i najnovija verzija RHEL AI može se pronaćiovde.
Red Hat AI InstructLab na IBM Cloud biće uskoro dostupan. Obuka o osnovama veštačke inteligencije kompanije Red Hat je već dostupna za klijente
