Inference Unlimited

Ako nakonfigurovať Docker na spustenie modelov AI lokálne

Úvod

Docker je nástroj na virtualizáciu aplikácií, ktorý umožňuje spúšťať modely AI v izolovaných prostrediach. Dá sa tak ľahko spravovať závislosti a prostredia, vyhýbať sa konfliktom medzi rôznymi projektami. V tomto článku sa pozrieme na to, ako nakonfigurovať Docker na spúšťanie modelov AI lokálne.

Predpoklady

Pred začiatkom konfigurácie Docker potrebujete:

Inštalácia Docker Desktop

Ak ešte nemáte nainštalovaný Docker Desktop, môžete to urobiť, postupujúc podľa inštrukcií na stránke Docker.

Vytvorenie súboru Dockerfile

Aby ste mohli spustiť model AI v Dockeri, musíte vytvoriť súbor Dockerfile, ktorý definuje prostredie a závislosti potrebné na spustenie modelu. Nižšie je príklad Dockerfile pre model AI založený na Pythone:

# Použite oficiálny obraz Python
FROM python:3.9-slim

# Nastavte premennú prostredia LANG
ENV LANG C.UTF-8

# Aktualizujte balíčky a nainštalujte závislosti
RUN apt-get update && apt-get install -y \
    build-essential \
    && rm -rf /var/lib/apt/lists/*

# Vytvorte pracovný adresár
WORKDIR /app

# Skopírujte požiadavky do pracovného adresára
COPY requirements.txt .

# Nainštalujte závislosti Python
RUN pip install --no-cache-dir -r requirements.txt

# Skopírujte zvyšok súborov do pracovného adresára
COPY . .

# Definujte port, na ktorom bude aplikácia počúvať
EXPOSE 8000

# Definujte príkaz na spustenie aplikácie
CMD ["python", "app.py"]

Vytvorenie súboru requirements.txt

Súbor requirements.txt obsahuje zoznam závislostí Python potrebných na spustenie modelu AI. Príklad súboru requirements.txt môže vyzeráť nasledovne:

numpy==1.21.2
pandas==1.3.3
tensorflow==2.6.0
flask==2.0.1

Budovanie obrazu Docker

Aby ste mohli postaviť obraz Docker, použite nasledovný príkaz v termináli:

docker build -t ai-model .

Tento príkaz postaví obraz Docker na základe Dockerfile a priradí mu tag ai-model.

Spustenie kontajnera Docker

Po postavení obrazu môžete spustiť kontajner Docker pomocou nasledovného príkazu:

docker run -p 8000:8000 ai-model

Tento príkaz spustí kontajner Docker a mapuje port 8000 kontajnera na port 8000 hosta.

Testovanie modelu AI

Aby ste overili, či model AI funguje správne, môžete použiť nástroj curl alebo otvoriť prehliadač a prejsť na adresu http://localhost:8000.

Správa kontajnerov Docker

Docker poskytuje niekoľko príkazov na správu kontajnerov. Nižšie sú niektoré z nich:

Záver

Docker je mocný nástroj na spúšťanie modelov AI v izolovaných prostrediach. Dá sa tak ľahko spravovať závislosti a prostredia, vyhýbať sa konfliktom medzi rôznymi projektami. V tomto článku sme sa pozreli na to, ako nakonfigurovať Docker na spúšťanie modelov AI lokálne. Veríme, že tieto informácie budú pre vás užitočné!

Język: SK | Wyświetlenia: 16

← Powrót do listy artykułów