Hjem Artikler AI Open Source: Red Hat-perspektivet

Open Source AI: Red Hats perspektiv

For mere end tre årtier siden så Red Hat potentialet i open source-udvikling og -licensering til at skabe bedre software og fremme IT-innovation. Tredive millioner linjer kode senere har Linux ikke kun udviklet sig til at blive den mest succesfulde open source-software, men den position fastholder den dag i dag. Forpligtelsen til open source-principper fortsætter, ikke kun i virksomhedens forretningsmodel, men også som en del af arbejdskulturen. Efter virksomhedens vurdering har disse koncepter den samme indflydelse på kunstig intelligens (AI), hvis de udføres korrekt, men teknologiverdenen er delt i, hvad den "rigtige måde" ville være.

AI, især de store sprogmodeller (LLM'er) bag generativ AI (gen AI), kan ikke ses på samme måde som et open source-program. I modsætning til software består AI-modeller primært af numeriske parametermodeller, der bestemmer, hvordan en model behandler input, samt den forbindelse, den skaber mellem forskellige datapunkter. Parametre i trænede modeller er resultatet af en lang proces, der involverer enorme mængder træningsdata, som omhyggeligt forberedes, blandes og behandles.

Selvom modelparametre ikke er software, har de i nogle henseender en funktion, der ligner kode. Det er nemt at sammenligne dataene med modellens kildekode eller noget meget tæt på. I open source defineres kildekode almindeligvis som den "foretrukne måde" at foretage ændringer i softwaren på. Træningsdata alene passer ikke til denne funktion på grund af deres varierende størrelse og den komplicerede præ-træningsproces, der resulterer i en spinkel og indirekte forbindelse, som ethvert dataelement, der bruges i træning, har med de trænede parametre og modellens resulterende adfærd.

De fleste forbedringer og udvidelser af AI-modeller, der i øjeblikket finder sted i fællesskabet, involverer ikke adgang til eller manipulation af de oprindelige træningsdata. I stedet er de et resultat af ændringer af modelparametre eller en proces eller justering, der også kan tjene til at finjustere modellens ydeevne. Friheden til at foretage disse modelforbedringer kræver, at parametre frigives med alle de tilladelser, som brugerne modtager under open source-licenser.

Red Hats vision for open source AI.

Red Hat mener, at fundamentet for open source AI ligger i open source-licenserede modelparametre kombineret med open source-softwarekomponenter . Dette er et udgangspunkt for open source AI, men ikke filosofiens endelige mål. Red Hat opfordrer open source-fællesskabet, regulerende myndigheder og industrien til fortsat at stræbe efter større gennemsigtighed og overensstemmelse med open source-udviklingsprincipper, når de træner og finjusterer AI-modeller.

Dette er Red Hats vision som en virksomhed, der omfatter et open source-softwareøkosystem og praktisk kan engagere sig med open source AI. Det er ikke et forsøg på en formel definition, som den Open Source Initiative (OSI) udvikler med sin Open Source AI Definition (OSAID). Dette er virksomhedens perspektiv på, hvordan man kan gøre open source AI mulig og tilgængelig for den bredest mulige vifte af fællesskaber, organisationer og leverandører.

Dette perspektiv omsættes til praksis gennem arbejde med open source-fællesskaber, fremhævet af InstructLab , ledet af Red Hat, og indsatsen med IBM Research på Granite-familien af ​​licenserede open source-modeller . InstructLab reducerer betydeligt barriererne for ikke-dataforskere til at bidrage med AI-modeller. Med InstructLab kan domæneeksperter fra alle sektorer bidrage med deres færdigheder og viden, både til intern brug og for at hjælpe med at skabe en delt og bredt tilgængelig open source AI-model for upstream-fællesskaber.

Granite 3.0-familien af ​​modeller adresserer en bred vifte af AI-anvendelsesscenarier, fra kodegenerering til behandling af naturligt sprog til udtrækning af indsigt fra store datasæt, alt sammen under en permissiv open source-licens. Vi hjalp IBM Research med at bringe Granite-familien af ​​kodemodeller ind i open source-verdenen og fortsætter med at understøtte modelfamilien, både fra et open source-perspektiv og som en del af vores Red Hat AI-tilbud.

Konsekvenserne af DeepSeeks nylige annonceringer viser, hvordan open source-innovation kan påvirke AI, både på modelniveau og derudover. Der er naturligvis bekymringer om den kinesiske platforms tilgang, især fordi modellens licens ikke forklarer, hvordan den blev produceret, hvilket forstærker behovet for gennemsigtighed. Når det er sagt, forstærker den førnævnte forstyrrelse Red Hats vision for fremtiden for AI: en åben fremtid fokuseret på mindre, optimerede og åbne modeller, der kan tilpasses til specifikke virksomhedsdata-anvendelsesscenarier på ethvert sted i hybridskyen.

Udvidelse af AI-modeller ud over open source

Red Hats arbejde inden for open source AI går langt ud over InstructLab og Granite-familien af ​​modeller og omfatter de værktøjer og platforme, der er nødvendige for rent faktisk at forbruge og produktivt bruge AI. Virksomheden er blevet meget aktiv i at fremme teknologiprojekter og -fællesskaber, såsom (men ikke begrænset til):

RamaLama , et open source-projekt, der har til formål at fremme lokal styring og implementering af AI-modeller;

TrustyAI , et open source-værktøjssæt til at opbygge mere ansvarlige AI-arbejdsgange;

Climatik , et projekt med fokus på at gøre AI mere bæredygtig, når det kommer til energiforbrug;

Podman AI Lab , et værktøjssæt til udviklere med fokus på at fremme eksperimenter med open source LLM'er;

Den nylige annoncering om Neural Magic udvider virksomhedens vision for AI og gør det muligt for organisationer at tilpasse mindre, optimerede AI-modeller, herunder licenserede open source-systemer, til deres data, uanset hvor de befinder sig i hybridskyen. IT-organisationer kan derefter bruge vLLM til at drive beslutninger og produktion ud fra disse modeller og dermed hjælpe med at opbygge en AI-stak baseret på transparente og understøttede teknologier.

For virksomheder lever og ånder open source AI i hybrid cloud. Hybrid cloud giver den nødvendige fleksibilitet til at vælge det bedste miljø til hver AI-arbejdsbelastning og optimerer dermed ydeevne, omkostninger, skalering og sikkerhedskrav. Red Hats platforme, mål og organisation understøtter disse bestræbelser sammen med branchepartnere, kunder og open source-fællesskabet, i takt med at open source inden for kunstig intelligens drives fremad.

Der er et enormt potentiale for at udvide dette åbne samarbejde inden for AI-området. Red Hat forestiller sig en fremtid, der omfatter transparent arbejde med modeller, såvel som deres træning. Uanset om det sker i næste uge eller næste måned (eller endnu tidligere, givet den hurtige udvikling af AI), vil virksomheden og det åbne fællesskab som helhed fortsætte med at støtte og omfavne bestræbelserne på at demokratisere og åbne op for AI's verden.

RELATEREDE ARTIKLER

Skriv et svar

Skriv venligst din kommentar!
Skriv venligst dit navn her.

NYLIG

MEST POPULÆRE

[elfsight_cookie_consent id="1"]