Red Hat je upravo objavio nove nadogradnje za Red Hat AI, vaš portfelj proizvoda i usluga osmišljenih za ubrzanje razvoja i implementacije rješenja umjetne inteligencije u hibridnom oblaku. Red Hat AI nudi platformu za poslovnu AI za obuku modela i inferenciju, osiguravajući više iskustva, fleksibilnost i pojednostavljeno iskustvo za implementaciju sustava bilo gdje u hibridnom oblaku
U potrazi za smanjenjem troškova implementacije velikih jezičnih modela (LLMS) kako bi se zadovoljio sve veći broj slučajeva upotrebe, tvrtke se i dalje suočavaju s izazovom integracije tih sustava s vlastitim podacima i pristupom njima s bilo kojeg mjesta: bilo u podatkovnom centru, na javnoj oblaku ili čak na rubu
Integrirajući kako Red Hat OpenShift AI tako i Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI odgovara na te brige pružajući platformu za poslovnu AI koja omogućava usvajanje efikasnijih i optimizovanih modela, prilagođeni specifičnim podacima poslovanja, s mogućnošću implementacije u hibridnom oblaku za obuku modela u širokom spektru računalnih arhitektura
Za Joea Fernandesa, potpredsjednik i generalni direktor poslovne jedinice za AI u Red Hatu, a ažuriranje omogućava organizacijama da budu precizne i ekonomične u svojim putovanjima u AI. Red Hat zna da će tvrtke trebati načine za upravljanje rastućim troškovima svojih implementacija generativne IA, dok donose više slučajeva upotrebe za proizvodnju i djeluju na skali.. Red Hat AI pomaže organizacijama da se suoče s tim izazovima, omogućujući im da imaju učinkovitije modele, razvijeni za svrhu, obučeni s vašim podacima i koji omogućuju fleksibilnu inferenciju u on-premises okruženjima, iz oblaka i na rubu.”
Red Hat OpenShift AI
Red Hat OpenShift AI nudi sveobuhvatnu platformu za upravljanje životnim ciklusima prediktivne i generativne AI (gen AI) u hibridnoj oblaku, uključujući operacije strojno učenje (MLOps) i mogućnosti operacija velikih jezičnih modela (LLMOps). Platforma pruža funkcionalnosti za izgradnju prediktivnih modela i prilagodbu gen AI modela, zajedno s alatima za pojednostavljenje upravljanja modelima umjetne inteligencije, od cjevovoda znanosti o podacima i modela do praćenja modela, upravljanje i još mnogo toga.
Najnovija verzija platforme, Red Hat OpenShift AI 2.18, dodaje nove ažuriranja i mogućnosti za podršku cilju Red Hat AI da donese optimizirane i efikasnije AI modele za hibridnu oblak. Glavne značajke uključuju
● Distribuirana uslugadostupan putem vLLM poslužitelja za inferenciju, distribuirana usluga omogućava IT timovima da podijele uslugu modela između više grafičkih procesorskih jedinica (GPU). To pomaže u smanjenju opterećenja na jednom poslužitelju, ubrzava obuku i fino podešavanje te promiče učinkovitiju upotrebu računalnih resursa, u isto pomaže u raspodjeli usluga među čvorovima za modele umjetne inteligencije
● Iskustvo podešavanja modela od početka do krajakoristeći InstructLab i pipelineove za znanost o podacima Red Hat OpenShift AI, ova značajka pomaže pojednostaviti fino podešavanje LLM-ova, čineći ih skalabilnijima, efikasni i auditable u velikim proizvodnim okruženjima, istovremeno pruža upravljanje putem kontrolne ploče Red Hat OpenShift AI
● AI zaštitne ogradeRed Hat OpenShift AI 2.18 pomaže poboljšati preciznost, izvedba, latencija i transparentnost LLM-ova putem pregleda tehnologije AI Guardrails, koji nadzire i štiti korisničke ulaze i izlaze modela. AI Guardrails nudi dodatne mogućnosti otkrivanja kako bi pomogao IT timovima da identificiraju i ublaže potencijalno mrzilački govor, uvredljivi ili prostački, osobno prepoznatljive informacije, podatci o konkurentima ili drugi podaci ograničeni korporativnim politikama
● Evaluacija modelakoristeći komponentu za evaluaciju modela jezika (lm-eval) za pružanje važnih informacija o općoj kvaliteti modela, evaluacija modela omogućava znanstvenicima podataka da usporede performanse svojih LLM-ova u raznim zadacima, od logičkog i matematičkog razmišljanja do prirodnog jezika u sukobu, pomažući u stvaranju učinkovitijih modela umjetne inteligencije, odgovorni i prilagođeni
RHEL AI
Dio portfelja Red Hat AI, RHEL AI je platforma temeljnih modela za razvoj, testirati i izvoditi LLM-ove na dosljedniji način, s ciljem poticanja poslovnih aplikacija. RHEL AI nudi Granite LLM modele i alate za usklađivanje modela InstructLab, što su paketi u pokretnoj slici Red Hat Enterprise Linux i mogu se implementirati u hibridnu oblak
Izdano u veljači 2025., RHEL 1.4 donio razne poboljšanja, uključujući
● Podrška za model Granite 3.1 8Bkao najnoviji dodatak obitelji Granite modela s open source licencom. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), osim osim prozora konteksta od 128k za poboljšanje usvajanja rezultata sažimanja i zadataka generacije obogaćene pretraživanjem (RAG)
● Nova grafička sučelja za doprinos vještinama i prethodnim znanjima, dostupno u formatu pregleda za programere, s ciljem pojednostavljenja potrošnje i fragmentacije podataka, kao i omogućiti korisnicima da dodaju svoje vlastite vještine i doprinose modelima umjetne inteligencije
● Dokument Znanje-bench (DK-bench)za olakšavanje usporedbe između modela AI prilagođenih relevantnim privatnim podacima i performansi istih neprilagođenih modela
Red Hat AI InstructLab na IBM Cloud
Sve više, tvrtke traže rješenja umjetne inteligencije koja prioritet daju točnosti i sigurnosti svojih podataka, u isto vrijeme održavaju troškove i složenost što je moguće nižima. Red Hat AI InstructLab, dostupno kao usluga na IBM Cloud, bilo je osmišljeno da pojednostavi, skalirati i pomoći poboljšati sigurnost u obuci i implementaciji sustava umjetne inteligencije. Pojednostavljanjem prilagodbe modela InstructLab, organizacije mogu izgraditi učinkovitije platforme, prilagođene vašim jedinstvenim potrebama, održavajući kontrolu nad svojim povjerljivim informacijama.
Besplatna obuka o osnovama AI
AI je transformativna prilika koja redefinira kako tvrtke djeluju i natječu se. Kako bi podržali organizacije u ovom dinamičnom okruženju, Red Hat nudi besplatne online obuke o osnovama AI. Tvrtka nudi dva certifikata o učenju u AI, usmjereni kako prema iskusnim senior liderima tako i prema početnicima, pomažući educirati korisnike svih razina o tome kako umjetna inteligencija može pomoći u transformaciji poslovnih operacija, ubrzati donošenje odluka i potaknuti inovacije
Dostupnost
Red Hat OpenShift AI 2.18 i Red Hat Enterprise Linux AI 1.4 su već dostupni. Više informacija o dodatnim resursima, poboljšanja, ispravke grešaka i kako ažurirati svoju verziju Red Hat OpenShift AI na najnoviju mogu se pronaćiovdje,i najnovija verzija RHEL AI može se pronaćiovdje.
Red Hat AI InstructLab na IBM Cloud bit će uskoro dostupan. Obuka o osnovama AI-a Red Hata sada je dostupna za klijente
