MLflow

MLflow er en open source-platform, der strømline ML-livscyklussen og tilbyder værktøjer til eksperimentsporing, kodepakning, modelhåndtering og samarbejde. Dens komponenter forbedrer reproducerbarhed, udrulning og kontrol over livscyklussen på tværs af forskellige miljøer.

MLflow er en open source-platform designet til at strømline og håndtere maskinlæringslivscyklussen, og adresserer de kompleksiteter, der er involveret i udvikling, udrulning og styring af maskinlæringsmodeller. Den tilbyder en række værktøjer, der gør det muligt for dataspecialister og maskinlæringsingeniører at spore eksperimenter, pakke kode, håndtere modeller og samarbejde på en mere organiseret og effektiv måde. MLflow er bibliotek-uafhængig, hvilket gør den kompatibel med en bred vifte af maskinlæringsrammeværk og biblioteker.

Centrale komponenter i MLflow

MLflow er struktureret omkring fire primære komponenter, der hver især tjener et specifikt formål i maskinlæringsarbejdsgangen:

1. MLflow Tracking

Hvad det er
MLflow Tracking er en komponent, der leverer et API og en brugerflade til at logge maskinlæringseksperimenter. Den registrerer og forespørger parametre, kodeversioner, målinger og outputfiler (artefakter).

Anvendelsestilfælde
En dataspecialist kan bruge MLflow Tracking til at logge forskellige hyperparametre brugt i diverse eksperimenter og sammenligne deres effekt på modelpræstation. For eksempel kan forskellige læringsrater og batchstørrelser logges og analyseres under træning af et neuralt netværk for at afgøre, hvilken konfiguration der giver de bedste resultater.

Eksempel
Logning af parametre som læringsrate, batchstørrelse og målinger som nøjagtighed og tab under træning af en model. Disse oplysninger hjælper med at visualisere og sammenligne flere kørsel for at identificere de mest effektive hyperparameterindstillinger.

2. MLflow Projects

Hvad det er
MLflow Projects leverer et standardformat til pakning og deling af maskinlæringskode. Det sikrer, at eksperimenter er reproducerbare og flytbare, ved at definere projektafhængigheder og eksekveringsmiljøer.

Anvendelsestilfælde
Når man samarbejder om et projekt på tværs af forskellige teams eller udruller modeller til forskellige miljøer, sikrer MLflow Projects, at koden kører ensartet uanset, hvor den eksekveres.

Eksempel
En projektmappe, der indeholder en MLproject-fil, som specificerer, hvordan koden skal køres, dens afhængigheder og entry points. Denne opsætning gør det nemt for et team at dele deres arbejde og genskabe resultater i forskellige miljøer.

3. MLflow Models

Hvad det er
MLflow Models er en komponent, der gør det muligt at pakke maskinlæringsmodeller i et format, der kan udrulles på flere platforme, og som understøtter realtids- eller batchinference.

Anvendelsestilfælde
Efter træning af en model kan en dataspecialist bruge MLflow Models til at pakke modellen sammen med dens afhængigheder, så den er klar til udrulning på cloud-platforme som AWS SageMaker eller Azure ML.

Eksempel
Gemning af en trænet model i MLflow-format, som indeholder en serialiseret modelfil og en MLmodel-konfigurationsfil. Dette sikrer, at modellen nemt kan indlæses og bruges til inference i forskellige miljøer.

4. MLflow Model Registry

Hvad det er
Model Registry er et centraliseret lager til styring af livscyklussen for MLflow-modeller. Den tilbyder modelversionering, overgang mellem stadier og annoteringer, hvilket sikrer korrekt governance og samarbejde.

Anvendelsestilfælde
I produktion hjælper Model Registry MLOps-teams med at håndtere modelversioner, spore ændringer og kontrollere modeludrulningsstadier fra udvikling til produktion.

Eksempel
Registrering af en model i MLflow Model Registry, tildeling af et versionsnummer og overgang gennem stadier såsom “Staging” og “Production” for at sikre en kontrolleret frigivelsesproces.

Fordele ved at bruge MLflow

MLflow tilbyder flere fordele, der forbedrer udviklingsprocessen for maskinlæring:

1. Strømlinet eksperimentsporing: MLflow tilbyder en samlet grænseflade til at logge og sammenligne eksperimenter, hvilket fremmer reproducerbarhed og samarbejde.
2. Forbedret samarbejde: Ved at centralisere eksperimentdata og tilbyde en fælles platform fremmer MLflow videndeling og teamwork blandt dataspecialister og ingeniører.
3. Effektiv modeludrulning: MLflow Models standardiserer paknings- og udrulningsprocessen, så modeller nemt kan flyttes fra udviklings- til produktionsmiljøer.
4. Omfattende modelhåndtering: Model Registry muliggør effektiv livscyklusstyring, herunder versionering og overgang mellem stadier, hvilket sikrer, at modeller udrulles kontrolleret.
5. Reproducerbare pipelines: MLflow Projects og Pipelines understøtter oprettelsen af reproducerbare workflows, hvilket øger konsistens og skalerbarhed i maskinlæringsprocesser.
6. Open source og udvidelig: Som open source-platform forbedres MLflow løbende af et fællesskab af bidragsydere. Dens udvidelighed muliggør integration med forskellige værktøjer og tilpasning til specifikke behov.

Anvendelsestilfælde for MLflow

MLflow er alsidig og kan anvendes i forskellige maskinlæringsscenarier:

• Eksperimentsporing: Dataspecialister bruger MLflow Tracking til at logge og sammenligne eksperimentelle resultater og forbedre modeller baseret på datadrevne indsigter.
• Modeludvælgelse og -udrulning: MLOps-ingeniører benytter Model Registry til at udvælge og udrulle de bedst præsterende modeller i produktionsmiljøer.
• Overvågning af modelpræstation: Efter udrulning bruger teams MLflow til at overvåge modelpræstation og foretage nødvendige justeringer for at opretholde nøjagtighed og pålidelighed.
• Samarbejdsprojekter: Teams organiserer deres arbejde med MLflow Projects, hvilket fremmer samarbejde og sikrer ensartet eksekvering på tværs af forskellige miljøer.

MLflow i AI, AI-automatisering og chatbots

MLflows kapaciteter strækker sig til AI-automatisering og chatbotudvikling ved at tilbyde værktøjer, der strømline træning, udrulning og overvågning af AI-modeller. For eksempel kan MLflow bruges til at træne modeller til naturlig sprogbehandling under chatbotudvikling, spore deres præstation på tværs af forskellige datasæt og håndtere deres udrulning på diverse samtaleplatforme, hvilket sikrer, at chatbot’ens svar er nøjagtige og pålidelige.

Forskning om MLflow

MLflow er en open source-platform designet til at håndtere maskinlæringslivscyklussen, inklusiv eksperimentering, reproducerbarhed og udrulning. Den bruges i stigende grad i forskellige videnskabelige og industrielle sammenhænge til at strømline workflowet i maskinlæringsprojekter.

1. SAINE: Scientific Annotation and Inference Engine of Scientific Research
   I denne artikel introducerer forfatterne SAINE, en annoteringsmotor, der integrerer MLflow for at forbedre klassifikationsprocesser i videnskabelig forskning. Studiet fremhæver, hvordan MLflow hjælper med at udvikle et transparent og præcist klassifikationssystem. Motoren understøtter metasience-projekter og fremmer samarbejde i det videnskabelige samfund. Artiklen tilbyder også en demovideo og live demo for bedre forståelse af systemets kapaciteter. Læs mere.

2. IQUAFLOW: En ny ramme til måling af billedkvalitet
   IQUAFLOW anvender MLflow til at levere en ramme for vurdering af billedkvalitet ved at evaluere AI-modellers præstation. Rammen integrerer brugerdefinerede metrikker og letter undersøgelser af ydeevnenedgang på grund af billedmodifikationer som komprimering. MLflow bruges som et interaktivt værktøj til at visualisere og opsummere resultater i denne sammenhæng. Denne artikel beskriver forskellige anvendelsestilfælde og indeholder links til supplerende repositories. Udforsk nærmere.

3. Mod letvægtsdataintegration med multi-workflow-proveniens og dataobservabilitet
   Dette studie præsenterer MIDA, en ramme der udnytter MLflow til dataobservabilitet og integration på tværs af forskellige computermiljøer. Det adresserer udfordringer i tværfaglige samarbejder og understøtter udviklingen af ansvarlig AI. MLflow spiller en rolle i styring af dataflows på tværs af forskellige systemer uden yderligere instrumentering, hvilket øger reproducerbarheden og effektiviteten af videnskabelige workflows.