Budování vlastního nástroje pro analýzu sentimentu pomocí LLM

Úvod

Analýza sentimentu je proces určování emocionálního tónu textu, který lze použít v mnoha oblastech, jako je marketing, zákaznická podpora nebo výzkum veřejného mínění. V tomto článku vám ukážeme, jak postavit vlastní nástroj pro analýzu sentimentu využívající velké jazykové modely (LLM).

Výběr modelu

Prvním krokem je výběr vhodného jazykového modelu. Můžeme si vybrat mezi:

• Předtrénovanými modely (např. BERT, RoBERTa, DistilBERT) – hotové k použití, ale vyžadující přizpůsobení.
• Specializovanými modely (např. VADER, TextBlob) – navrženými speciálně pro analýzu sentimentu.
• Vlastními modely – trénovanými na datech specifických pro naši oblast.

Pro náš příklad použijeme Hugging Face Transformers s modelem DistilBERT, který je lehčí verzí BERT a dobře se hodí pro úlohy analýzy sentimentu.

Instalace potřebných knihoven

Abychom mohli začít, nainstalujme potřebné knihovny:

pip install transformers torch pandas

Načtení modelu a tokenizéru

Následně načtěte model a tokenizér:

from transformers import pipeline

# Načtení hotového nástroje pro analýzu sentimentu
sentiment_pipeline = pipeline("sentiment-analysis")

Příprava dat

Připravme sadu dat pro testování. Můžeme použít jednoduchý příklad:

texts = [
    "Kocham ten produkt, je fantastický!",
    "Nedoporučuji, velmi zklamán.",
    "Průměrný produkt, nic výjimečného.",
    "Funkce jsou uspokojivé, ale cena je příliš vysoká."
]

Analýza sentimentu

Nyní můžeme provést analýzu sentimentu pro naše texty:

results = sentiment_pipeline(texts)

for text, result in zip(texts, results):
    print(f"Text: {text}")
    print(f"Sentiment: {result['label']} (Jistota: {result['score']:.2f})")
    print("---")

Přizpůsobení modelu

Pokud chceme model přizpůsobit našim specifickým datům, můžeme použít knihovnu Hugging Face Transformers k trénování modelu na našem datovém souboru.

from transformers import AutoTokenizer, AutoModelForSequenceClassification
from transformers import Trainer, TrainingArguments
import pandas as pd
from sklearn.model_selection import train_test_split

# Příklad datové sady
data = pd.DataFrame({
    "text": ["Kocham ten produkt", "Nedoporučuji", "Průměrný produkt"],
    "label": [1, 0, 0]  # 1 - pozitivní, 0 - negativní
})

# Rozdělení dat na trénovací a testovací soubor
train_texts, test_texts, train_labels, test_labels = train_test_split(
    data["text"], data["label"], test_size=0.2
)

# Načtení tokenizéru a modelu
model_name = "distilbert-base-uncased"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=2)

# Tokenizace dat
train_encodings = tokenizer(list(train_texts), truncation=True, padding=True)
test_encodings = tokenizer(list(test_texts), truncation=True, padding=True)

# Třída pro zpracování dat
class SentimentDataset(torch.utils.data.Dataset):
    def __init__(self, encodings, labels):
        self.encodings = encodings
        self.labels = labels

    def __getitem__(self, idx):
        item = {key: torch.tensor(val[idx]) for key, val in self.encodings.items()}
        item["labels"] = torch.tensor(self.labels[idx])
        return item

    def __len__(self):
        return len(self.labels)

train_dataset = SentimentDataset(train_encodings, train_labels)
test_dataset = SentimentDataset(test_encodings, test_labels)

# Nastavení trénování
training_args = TrainingArguments(
    output_dir="./results",
    num_train_epochs=3,
    per_device_train_batch_size=16,
    per_device_eval_batch_size=64,
    warmup_steps=500,
    weight_decay=0.01,
    logging_dir="./logs",
    logging_steps=10,
)

# Trénování modelu
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
    eval_dataset=test_dataset
)

trainer.train()

Nasazení modelu

Po trénování modelu jej můžeme uložit a použít pro analýzu sentimentu:

model.save_pretrained("./custom_sentiment_model")
tokenizer.save_pretrained("./custom_sentiment_model")

# Načtení přizpůsobeného modelu
custom_model = AutoModelForSequenceClassification.from_pretrained("./custom_sentiment_model")
custom_tokenizer = AutoTokenizer.from_pretrained("./custom_sentiment_model")

# Příklad analýzy
custom_pipeline = pipeline("sentiment-analysis", model=custom_model, tokenizer=custom_tokenizer)
print(custom_pipeline("Tento produkt je skvělý!"))

Shrnutí

V tomto článku jsme ukázali, jak postavit vlastní nástroj pro analýzu sentimentu využívající velké jazykové modely. Krok za krokem jsme probrali výběr modelu, přípravu dat, analýzu sentimentu a přizpůsobení modelu našim potřebám. Díky tomuto nástroji můžeme efektivně analyzovat emocionální tón textů v různých oblastech.