Hem Artiklar AI Öppen källkod: Red Hat-perspektivet

Öppen källkod AI: Red Hats perspektiv

För mer än tre decennier sedan såg Red Hat potentialen i utveckling och licensiering med öppen källkod för att skapa bättre programvara och främja IT-innovation. Trettio miljoner rader kod senare har Linux inte bara utvecklats till att bli den mest framgångsrika programvaran med öppen källkod, utan den positionen upprätthålls än idag. Engagemanget för principerna om öppen källkod fortsätter, inte bara i företagets affärsmodell, utan också som en del av arbetskulturen. Enligt företagets bedömning har dessa koncept samma inverkan på artificiell intelligens (AI) om de görs korrekt, men teknikvärlden är oenig om vad som skulle vara "rätt sätt".

AI, särskilt de stora språkmodellerna (LLM) bakom generativ AI (gen AI), kan inte ses på samma sätt som ett program med öppen källkod. Till skillnad från programvara består AI-modeller främst av numeriska parametermodeller som bestämmer hur en modell bearbetar indata, samt kopplingen den gör mellan olika datapunkter. Parametrar i tränade modeller är resultatet av en lång process som involverar stora mängder träningsdata som noggrant förbereds, blandas och bearbetas.

Även om modellparametrar inte är programvara, har de i vissa avseenden en funktion som liknar kod. Det är lätt att jämföra data med modellens källkod, eller något mycket nära den. Inom öppen källkod definieras källkod vanligtvis som det "föredragna sättet" att göra modifieringar i programvaran. Träningsdata ensamma passar inte in i denna funktion, med tanke på dess varierande storlek och den komplicerade förträningsprocessen som resulterar i en svag och indirekt koppling som alla data som används i träning har med de tränade parametrarna och modellens resulterande beteende.

De flesta förbättringar och förbättringar av AI-modeller som för närvarande sker i gemenskapen involverar inte åtkomst till eller manipulering av den ursprungliga träningsdatan. Istället är de ett resultat av modifieringar av modellparametrar eller en process eller justering som också kan tjäna till att finjustera modellens prestanda. Friheten att göra dessa modellförbättringar kräver att parametrar släpps med alla de behörigheter som användare får under öppen källkodslicenser.

Red Hats vision för öppen källkod för AI.

Red Hat anser att grunden för öppen källkods AI ligger i licensierade modellparametrar med öppen källkod i kombination med komponenter för öppen källkodsprogramvara . Detta är en utgångspunkt för öppen källkods AI, men inte filosofins slutgiltiga mål. Red Hat uppmuntrar öppen källkodsgemenskapen, tillsynsmyndigheter och industrin att fortsätta sträva efter större transparens och anpassning till principerna för utveckling med öppen källkod vid träning och finjustering av AI-modeller.

Detta är Red Hats vision som ett företag som omfattar ett ekosystem för öppen källkodsprogramvara och praktiskt kan engagera sig i öppen källkods-AI. Det är inte ett försök till en formell definition, som den som Open Source Initiative (OSI) utvecklar med sin Open Source AI Definition (OSAID). Detta är företagets perspektiv på hur man kan göra öppen källkods-AI genomförbar och tillgänglig för ett så brett spektrum av samhällen, organisationer och leverantörer som möjligt.

Detta perspektiv omsätts i praktiken genom arbete med öppen källkodsgrupper, vilket framhävs av InstructLab , lett av Red Hat, och arbetet med IBM Research kring Granite-familjen av licensierade öppen källkodsmodeller . InstructLab minskar avsevärt hindren för icke-dataforskare att bidra med AI-modeller. Med InstructLab kan domänexperter från alla sektorer bidra med sina färdigheter och kunskaper, både för internt bruk och för att bidra till att skapa en gemensam och allmänt tillgänglig öppen källkods-AI-modell för uppströmsgrupper.

Granite 3.0-familjen av modeller adresserar ett brett spektrum av AI-användningsfall, från kodgenerering till naturlig språkbehandling till att utvinna insikter från stora datamängder, allt under en tillåtande öppen källkodslicens. Vi hjälpte IBM Research att introducera Granite-familjen av kodmodeller i öppen källkodsvärld och fortsätter att stödja modellfamiljen, både ur ett öppen källkodsperspektiv och som en del av vårt Red Hat AI-erbjudande.

Konsekvenserna av DeepSeeks senaste tillkännagivanden visar hur innovation med öppen källkod kan påverka AI, både på modellnivå och därefter. Det finns uppenbarligen oro kring den kinesiska plattformens tillvägagångssätt, särskilt att modellens licens inte förklarar hur den producerades, vilket förstärker behovet av transparens. Med det sagt förstärker den tidigare nämnda störningen Red Hats vision för AI:s framtid: en öppen framtid fokuserad på mindre, optimerade och öppna modeller som kan anpassas för specifika användningsfall för företagsdata på vilken plats som helst inom hybridmolnet.

Utöka AI-modeller bortom öppen källkod.

Red Hats arbete inom öppen källkod för AI går långt bortom InstructLab och Granite-familjen av modeller, och omfattar även de verktyg och plattformar som behövs för att faktiskt konsumera och produktivt använda AI. Företaget har blivit mycket aktivt i att främja teknikprojekt och communities, såsom (men inte begränsat till):

RamaLama , ett projekt med öppen källkod som syftar till att underlätta lokal hantering och implementering av AI-modeller;

TrustyAI , en verktygslåda med öppen källkod för att bygga mer ansvarsfulla AI-arbetsflöden;

Climatik , ett projekt som fokuserar på att bidra till att göra AI mer hållbar när det gäller energiförbrukning;

Podman AI Lab , en verktygslåda för utvecklare inriktad på att underlätta experiment med öppen källkod för LLM;

Det senaste tillkännagivandet om Neural Magic breddar företagets vision för AI, vilket gör det möjligt för organisationer att anpassa mindre, optimerade AI-modeller, inklusive licensierade system med öppen källkod, till sina data, oavsett var de befinner sig i hybridmolnet. IT-organisationer kan sedan använda vLLM- för att driva beslut och produktion från dessa modeller, vilket hjälper till att bygga en AI-stack baserad på transparenta och stödda tekniker.

För företag lever och andas öppen källkods-AI i hybridmolnet. Hybridmolnet ger den flexibilitet som behövs för att välja den bästa miljön för varje AI-arbetsbelastning, vilket optimerar prestanda, kostnad, skala och säkerhetskrav. Red Hats plattformar, mål och organisation stöder dessa ansträngningar, tillsammans med branschpartners, kunder och öppen källkods-communityn, i takt med att öppen källkod inom artificiell intelligens drivs framåt.

Det finns en enorm potential att utöka detta öppna samarbete inom AI-området. Red Hat ser en framtid som omfattar transparent arbete med modeller, såväl som deras träning. Oavsett om det sker nästa vecka eller nästa månad (eller ännu tidigare, med tanke på AI:s snabba utveckling), kommer företaget och den öppna gemenskapen som helhet att fortsätta stödja och omfamna ansträngningar för att demokratisera och öppna upp AI:s värld.

RELATERADE ARTIKLAR

Lämna ett svar

Vänligen skriv din kommentar!
Vänligen skriv ditt namn här.

NY

MEST POPULÄRA

[elfsight_cookie_consent id="1"]