Red Hat heeft zojuist nieuwe updates uitgebracht voor Red Hat AI, uw portfolio van producten en diensten ontworpen om de ontwikkeling en implementatie van AI-oplossingen in de hybride cloud te versnellen. Red Hat AI biedt een bedrijfs-KI-platform voor het trainen van modellen en inferentie, meer ervaring bieden, flexibiliteit en een vereenvoudigde ervaring voor het implementeren van systemen overal in de hybride cloud
In de zoektocht naar het verlagen van de implementatiekosten van grote taalmodellen (LLMS) om te voldoen aan een toenemend aantal gebruiksgevallen, bedrijven staan nog steeds voor de uitdaging om deze systemen te integreren met hun eigen gegevens en deze overal toegankelijk te maken: of het nu in een datacenter is, in de publieke cloud of zelfs aan de edge
Integratie van zowel Red Hat OpenShift AI als Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI speelt in op deze zorgen door een bedrijfs-AI-platform te bieden dat het mogelijk maakt om efficiëntere en geoptimaliseerde modellen te adopteren, afgestemd op de specifieke gegevens van de onderneming, met de mogelijkheid om in de hybride cloud te worden geïmplementeerd om modellen te trainen in een breed scala aan computerarchitecturen
Voor Joe Fernandes, vicepresident en algemeen directeur van de AI Business Unit van Red Hat, de update stelt organisaties in staat om nauwkeurig en kosteneffectief te zijn in hun AI-reizen. Red Hat weet dat bedrijven manieren nodig hebben om de stijgende kosten van hun implementaties van generatieve AI te beheren, naarmate ze meer gebruiksgevallen voor productie brengen en op schaal opereren.. Red Hat AI helpt organisaties deze uitdagingen aan te pakken, waardoor ze beschikken over efficiëntere modellen, ontwikkeld voor een doel, getraind met uw gegevens en die flexibele inferentie mogelijk maken in on-premises omgevingen, de cloud en op de edge.”
Red Hat OpenShift AI
Red Hat OpenShift AI biedt een complete AI-platform voor het beheren van de levenscyclus van voorspellende en generatieve AI (gen AI) in de hybride cloud, inclusief machine learning operaties (MLOps) en mogelijkheden voor Large Language Model Operations (LLMOps). Het platform biedt functionaliteiten om voorspellende modellen te bouwen en AI-modellen aan te passen, samen met tools om het beheer van AI-modellen te vereenvoudigen, van data science pipelines en modellen tot modelmonitoring, governance en veel meer.
Meest recente versie van het platform, Red Hat OpenShift AI 2.18, voeg nieuwe updates en mogelijkheden toe ter ondersteuning van het doel van Red Hat AI om meer geoptimaliseerde en efficiënte AI-modellen naar de hybride cloud te brengen. De belangrijkste functies zijn
● Gedistrubueerde dienstbeschikbaar via de vLLM inferentieserver, de gedistribueerde service stelt IT-teams in staat om de service van modellen over meerdere grafische verwerkingsunits (GPU's) te verdelen. Dit helpt de belasting op een enkele server te verlichten, versnelt de training en de fine-tuning en bevordert het efficiënter gebruik van computerbronnen, tegelijkertijd helpt het om de diensten tussen de knooppunten voor de AI-modellen te verdelen
● Eind-tot-eind modelafstemmingservaringgebruik makend van InstructLab en de data science pipelines van Red Hat OpenShift AI, dit nieuwe hulpmiddel helpt bij het vereenvoudigen van de fine-tuning van LLM's, ze ze meer schaalbaar maken, efficiënt en controleerbaar in grote productieomgevingen, tegelijkertijd biedt het beheer via het controlepaneel van Red Hat OpenShift AI
● AI BeveiligingsmaatregelenRed Hat OpenShift AI 2.18 helpt de nauwkeurigheid te verbeteren, de prestaties, de latentie en transparantie van LLM's door middel van een preview van de AI Guardrails-technologie, die de invoerinteracties van de gebruiker en de uitvoer van het model monitort en beschermt. AI Guardrails biedt aanvullende detectiefuncties om IT-teams te helpen potentieel haatdragende uitspraken te identificeren en te verminderen, misbruikend of godslasterlijk, persoonlijk identificeerbare informatie, gegevens van concurrenten of andere beperkt door bedrijfsbeleid
● Modelbeoordelinggebruik makend van de evaluatiecomponent van het taalmodel (lm-eval) om belangrijke informatie te verstrekken over de algehele kwaliteit van het model, de modelbeoordeling stelt datawetenschappers in staat om de prestaties van hun LLM's op verschillende taken te vergelijken, van logisch en wiskundig redeneren tot natuurlijke tegenstrijdige taal, helpen bij het creëren van effectievere AI-modellen, responsief en aangepast
RHEL AI
Deel van de Red Hat AI-portfolio, de RHEL AI is een platform voor fundamentele modellen om te ontwikkelen, LLM's consistenter testen en uitvoeren, met als doel zakelijke applicaties te stimuleren. De RHEL AI biedt Granite LLM-modellen en InstructLab modelafstemmingshulpmiddelen, wat zijn pakketten in een opstartbare afbeelding van Red Hat Enterprise Linux en kunnen worden geïmplementeerd in de hybride cloud
Gelanceerd in februari 2025, de RHEL 1.4 heeft verschillende verbeteringen gebracht, inclusief
● Ondersteuning voor het Granite 3-model.1 8Bals de nieuwste toevoeging aan de Granite-modellenfamilie met open source-licentie. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), naast een contextvenster van 128k om de adoptie van samenvattingsresultaten en taken van Retrieval-Augmented Generation (RAG) te verbeteren
● Nieuwe grafische gebruikersinterface om bij te dragen aan vaardigheden en eerdere kennis, beschikbaar in de previewversie voor ontwikkelaars, met als doel het verbruik en de fragmentatie van gegevens te vereenvoudigen, evenals het gebruikers mogelijk maken om hun eigen vaardigheden en bijdragen aan AI-modellen toe te voegen
● Document Knowledge-bench (DK-bench)om het vergelijken van AI-modellen die zijn aangepast met relevante privégegevens met de prestaties van dezelfde niet-aangepaste basismodellen te vergemakkelijken
Red Hat AI InstructLab op IBM Cloud
Steeds meer, bedrijven zijn op zoek naar AI-oplossingen die prioriteit geven aan de nauwkeurigheid en veiligheid van hun gegevens, tegelijkertijd de kosten en de complexiteit zo laag mogelijk houden. Het Red Hat AI InstructLab, beschikbaar als een dienst op IBM Cloud, is ontworpen om te vereenvoudigen, schaal en helpen de veiligheid te verbeteren bij de training en implementatie van AI-systemen. Bij het vereenvoudigen van de aanpassing van modellen van InstructLab, organisaties kunnen efficiëntere platforms bouwen, aangepast aan uw unieke behoeften, het behouden van de controle over uw vertrouwelijke informatie.
Gratis training over de basisprincipes van AI
AI is a transformative opportunity that is redefining how companies operate and compete. Om organisaties in dit dynamische scenario te ondersteunen, Red Hat biedt gratis online trainingen aan over de basisprincipes van AI. Het bedrijf biedt twee certificaten aan in AI-opleiding, gericht zowel op ervaren senior leiders als op beginners, helpen bij het opleiden van gebruikers van alle niveaus over hoe AI kan helpen bij het transformeren van bedrijfsoperaties, de besluitvorming versnellen en innovatie stimuleren
Beschikbaarheid
Red Hat OpenShift AI 2.18 en de Red Hat Enterprise Linux AI 1.4 zijn al beschikbaar. Meer informatie over aanvullende middelen, verbeteringen, bugfixes en hoe u uw versie van Red Hat OpenShift AI naar de nieuwste kunt bijwerken, zijn te vindenhier,en de nieuwste versie van RHEL AI is te vindenhier.
De Red Hat AI InstructLab op IBM Cloud zal binnenkort beschikbaar zijn. De training over de Basisprincipes van AI van Red Hat is nu beschikbaar voor klanten
