MLflow

MLflow je open-source platforma, ktorá zjednodušuje životný cyklus ML a ponúka nástroje na sledovanie experimentov, balenie kódu, správu modelov a spoluprácu. Jeho komponenty zvyšujú reprodukovateľnosť, nasadzovanie a kontrolu životného cyklu naprieč rôznymi prostrediami.

MLflow je open-source platforma navrhnutá na zjednodušenie a správu životného cyklu strojového učenia (ML), ktorá rieši zložitosť vývoja, nasadzovania a správy modelov strojového učenia. Poskytuje sadu nástrojov, ktoré umožňujú dátovým vedcom a inžinierom strojového učenia sledovať experimenty, baliť kód, spravovať modely a spolupracovať organizovanejším a efektívnejším spôsobom. MLflow je nezávislý od knižníc, vďaka čomu je kompatibilný so širokým spektrom frameworkov a knižníc strojového učenia.

Hlavné komponenty MLflow

MLflow je štruktúrovaný okolo štyroch hlavných komponentov, z ktorých každý slúži konkrétnemu účelu v pracovnom postupe strojového učenia:

1. MLflow Tracking

Čo to je
MLflow Tracking je komponenta, ktorá poskytuje API a používateľské rozhranie na zaznamenávanie experimentov strojového učenia. Zaznamenáva a dopytuje parametre, verzie kódu, metriky a výstupné súbory (artefakty).

Prípad použitia
Dátový vedec môže použiť MLflow Tracking na zaznamenávanie rôznych hyperparametrov použitých v rôznych experimentoch a porovnať ich vplyv na výkonnosť modelu. Napríklad pri trénovaní neurónovej siete je možné zaznamenať a analyzovať rôzne hodnoty learning rate a batch size, aby sa zistilo, ktorá konfigurácia prináša najlepšie výsledky.

Príklad
Zaznamenávanie parametrov ako learning rate, batch size a metrík ako presnosť a strata počas trénovania modelu. Tieto informácie pomáhajú vizualizovať a porovnávať viaceré behy za účelom identifikácie najefektívnejších nastavení hyperparametrov.

2. MLflow Projects

Čo to je
MLflow Projects poskytuje štandardný formát na balenie a zdieľanie kódu strojového učenia. Zabezpečuje, že experimenty sú reprodukovateľné a prenosné, pričom definuje závislosti projektu a spúšťacie prostredia.

Prípad použitia
Pri spolupráci na projekte naprieč rôznymi tímami alebo pri nasadzovaní modelov do rôznych prostredí zabezpečuje MLflow Projects konzistentné fungovanie kódu bez ohľadu na to, kde je spustený.

Príklad
Adresár projektu obsahujúci súbor MLproject, ktorý špecifikuje, ako sa má kód spustiť, jeho závislosti a vstupné body. Takéto nastavenie umožňuje tímu jednoducho zdieľať svoju prácu a reprodukovať výsledky v rôznych prostrediach.

3. MLflow Models

Čo to je
MLflow Models je komponenta, ktorá umožňuje baliť modely strojového učenia do formátu, ktorý je možné nasadiť na viacerých platformách a podporuje predikciu v reálnom čase alebo dávkovom režime.

Prípad použitia
Po natrénovaní modelu môže dátový vedec použiť MLflow Models na zabalenie modelu spolu so závislosťami, čím ho pripraví na nasadenie na cloudových platformách ako AWS SageMaker alebo Azure ML.

Príklad
Uloženie natrénovaného modelu vo formáte MLflow, ktorý obsahuje serializovaný súbor modelu a konfiguračný súbor MLmodel. Takto je zabezpečené, že model je možné jednoducho načítať a použiť na predikciu v rôznych prostrediach.

4. MLflow Model Registry

Čo to je
Model Registry je centralizovaný úložný priestor na správu životného cyklu MLflow modelov. Poskytuje verzovanie modelov, prechody medzi fázami a anotácie, čím zabezpečuje správnu správu a spoluprácu.

Prípad použitia
V produkčnom prostredí pomáha Model Registry tímom MLOps spravovať verzie modelov, sledovať zmeny a kontrolovať fázy nasadzovania modelov od vývoja až po produkciu.

Príklad
Registrácia modelu v MLflow Model Registry, priradenie čísla verzie a jeho prechod cez fázy ako „Staging“ a „Production“ pre zabezpečenie kontrolovaného procesu nasadenia.

Výhody používania MLflow

MLflow ponúka viacero výhod, ktoré zlepšujú proces vývoja strojového učenia:

1. Zjednodušené sledovanie experimentov: MLflow poskytuje jednotné rozhranie na zaznamenávanie a porovnávanie experimentov, čo uľahčuje reprodukovateľnosť a spoluprácu.
2. Zvýšená spolupráca: Centralizovaním dát experimentov a poskytovaním spoločnej platformy MLflow podporuje zdieľanie znalostí a tímovú prácu medzi dátovými vedcami a inžiniermi.
3. Efektívne nasadzovanie modelov: MLflow Models štandardizuje proces balenia a nasadzovania, vďaka čomu je možné modely jednoducho presúvať z vývoja do produkčných prostredí.
4. Komplexná správa modelov: Model Registry umožňuje efektívnu správu životného cyklu vrátane verzovania a prechodov medzi fázami, čo zabezpečuje kontrolované nasadzovanie modelov.
5. Reprodukovateľné pipeline: MLflow Projects a Pipelines podporujú tvorbu reprodukovateľných pracovných postupov, čím zvyšujú konzistentnosť a škálovateľnosť procesov strojového učenia.
6. Open source a rozšíriteľnosť: Ako open-source platforma je MLflow neustále vylepšovaná komunitou prispievateľov. Jeho rozšíriteľnosť umožňuje integráciu s rôznymi nástrojmi a prispôsobenie špecifickým potrebám.

Príklady použitia MLflow

MLflow je všestranný a dá sa použiť v rôznych scenároch strojového učenia:

• Sledovanie experimentov: Dátoví vedci využívajú MLflow Tracking na zaznamenávanie a porovnávanie experimentálnych výsledkov a vylepšovanie modelov na základe dátovo podložených poznatkov.
• Výber a nasadzovanie modelov: Inžinieri MLOps využívajú Model Registry na výber a nasadzovanie najvýkonnejších modelov v produkčných prostrediach.
• Monitorovanie výkonu modelov: Po nasadení používajú tímy MLflow na monitorovanie výkonnosti modelov a vykonávanie potrebných úprav na zachovanie presnosti a spoľahlivosti.
• Tímové projekty: Tímy organizujú svoju prácu pomocou MLflow Projects, čím podporujú spoluprácu a zabezpečujú konzistentné vykonávanie naprieč rôznymi prostrediami.

MLflow v AI, AI automatizácii a chatbotoch

Schopnosti MLflow siahajú aj do AI automatizácie a vývoja chatbotov tým, že poskytuje nástroje na zjednodušenie trénovania, nasadzovania a monitorovania AI modelov. Napríklad pri vývoji chatbotov môže byť MLflow použitý na trénovanie modelov spracovania prirodzeného jazyka, sledovanie ich výkonnosti na rôznych dátových sadách a správu ich nasadzovania na rôznych konverzačných platformách, čím sa zabezpečí, že odpovede chatbota budú presné a spoľahlivé.

Výskum o MLflow

MLflow je open-source platforma navrhnutá na správu životného cyklu strojového učenia vrátane experimentovania, reprodukovateľnosti a nasadzovania. Stále viac sa využíva v rôznych vedeckých aj priemyselných aplikáciách na zjednodušenie pracovného postupu ML projektov.

1. SAINE: Scientific Annotation and Inference Engine of Scientific Research
   V tomto článku autori predstavujú SAINE, engine na anotáciu, ktorý integruje MLflow na zlepšenie klasifikačných procesov vo vedeckom výskume. Štúdia zdôrazňuje, ako MLflow pomáha pri vývoji transparentného a presného klasifikačného systému. Engine podporuje metasvedecké projekty a posilňuje spoluprácu vo vedeckej komunite. Práca ponúka aj demonštračné video a živú ukážku pre lepšie pochopenie možností systému. Čítajte viac.

2. IQUAFLOW: Nový rámec na meranie kvality obrazu
   IQUAFLOW využíva MLflow na poskytovanie rámca na hodnotenie kvality obrazu prostredníctvom hodnotenia výkonu AI modelov. Rámec integruje vlastné metriky a uľahčuje štúdie degradácie výkonu v dôsledku úprav obrazu, ako je kompresia. MLflow je v tomto kontexte použité ako interaktívny nástroj na vizualizáciu a sumarizáciu výsledkov. Práca popisuje rôzne prípady použitia a poskytuje odkazy na doplnkové repozitáre. Zistiť viac.

3. Smerom k ľahkej integrácii dát pomocou multi-workflow provenance a dátovej pozorovateľnosti
   Táto štúdia predstavuje MIDA, rámec, ktorý využíva MLflow na pozorovateľnosť dát a integráciu naprieč rôznymi výpočtovými prostrediami. Rieši výzvy v multidisciplinárnej spolupráci a podporuje rozvoj Zodpovednej AI. MLflow hrá úlohu pri správe dátových tokov naprieč rôznymi systémami bez dodatočnej inštrumentácie, čo zvyšuje reprodukovateľnosť a efektivitu vedeckých pracovných postupov.