Upload 7 files

Sistema de Classificação de Intenção com IA (NLP Transformer)
1. Contexto de Negócio (O Problema Resolvido)
O objetivo deste projeto foi desenvolver o "cérebro" central de um sistema de atendimento ao cliente automatizado (como um chatbot ou um roteador de e-mails).

O sistema lê uma mensagem de texto livre de um usuário (ex: "Quero saber o preço do voo") e classifica automaticamente a intenção dessa mensagem (ex: Solicitação de Tarifa). Isso permite que a empresa direcione instantaneamente o cliente para o departamento correto (Vendas, Suporte, etc.), economizando milhares de horas de triagem manual e melhorando a experiência do cliente.

2. Tecnologias Utilizadas
Python e Pandas (para manipulação de dados).

Hugging Face (transformers, datasets): A plataforma padrão da indústria para modelos de IA baseados em Transformers.

DistilBERT: O modelo de Transformer (baseado no artigo "Attention Is All You Need") que usamos como "cérebro" pré-treinado.

PyTorch: A biblioteca de deep learning que rodou o treinamento na GPU.

Weights & Biases (wandb): Ferramenta profissional de MLOps usada para monitorar e registrar os KPIs de performance do modelo durante o treinamento.

3. Metodologia de Desenvolvimento (O Processo)
O projeto foi executado em três fases principais:

Fase 1: Preparação e "Tradução" dos Dados (Tokenização) O primeiro desafio é que a IA não lê texto, ela lê números. Usamos um Tokenizer (um "tradutor" específico do DistilBERT) para converter todo o nosso histórico de frases (o dataset ATIS) em um formato numérico padronizado (input_ids e attention_mask) que o modelo Transformer pudesse entender.

Fase 2: Treinamento por Transferência (O "Fine-Tuning") Esta é a parte central. Em vez de construir um modelo do zero (o que levaria meses e milhões de reais), aplicamos a técnica de Transfer Learning:

Contratamos o "Gênio": Carregamos o modelo DistilBERT, que já foi pré-treinado pelo Google/Hugging Face em bilhões de textos da internet. Ele já é um "gênio" em entender inglês.

Especializamos o "Gênio": O modelo "gênio" (pré-treinado) não sabia nada sobre as nossas 26 intenções de negócio (flight, airfare, etc.). O processo de fine-tuning (afinar) foi um treinamento curto e focado (rodado em GPU) onde "congelamos" o cérebro do gênio e treinamos apenas um novo "cabeçote" de classificação. Nós o especializamos para a nossa tarefa específica.

Fase 3: Monitoramento e Avaliação (A Prova de Valor) Durante o treino, usamos o wandb para garantir que o modelo estava aprendendo corretamente, monitorando o "Nível de Erro" (Loss) a cada época. Ao final, rodamos uma avaliação final no conjunto de "teste" (dados que o modelo nunca tinha visto) para validar a performance no mundo real.

4. Resultados e Impacto (O Valor Gerado)
KPI de Performance: O modelo final atingiu 97.31% de acurácia no conjunto de teste. Isso prova que o sistema é altamente confiável para classificar corretamente as solicitações dos clientes.

O Entregável Funcional: O resultado não foi apenas um número, mas um pipeline de inferência funcional. Testamos o modelo com frases novas (ex: "i need a flight to new york") e ele classificou a intenção corretamente (flight) com 99,9% de confiança.

Portfólio Público (A Prova): O modelo treinado (o "cérebro" especialista que criamos) foi publicado com sucesso no meu perfil profissional do Hugging Face, onde pode ser testado e verificado publicamente.

config.json

@@ -0,0 +1,80 @@
+{
+  "activation": "gelu",
+  "architectures": [
+    "DistilBertForSequenceClassification"
+  ],
+  "attention_dropout": 0.1,
+  "dim": 768,
+  "dropout": 0.1,
+  "dtype": "float32",
+  "hidden_dim": 3072,
+  "id2label": {
+    "0": "abbreviation",
+    "1": "aircraft",
+    "2": "aircraft+flight+flight_no",
+    "3": "airfare",
+    "4": "airfare+flight",
+    "5": "airfare+flight_time",
+    "6": "airline",
+    "7": "airline+flight_no",
+    "8": "airport",
+    "9": "capacity",
+    "10": "cheapest",
+    "11": "city",
+    "12": "day_name",
+    "13": "distance",
+    "14": "flight",
+    "15": "flight+airfare",
+    "16": "flight+airline",
+    "17": "flight_no",
+    "18": "flight_no+airline",
+    "19": "flight_time",
+    "20": "ground_fare",
+    "21": "ground_service",
+    "22": "ground_service+ground_fare",
+    "23": "meal",
+    "24": "quantity",
+    "25": "restriction"
+  },
+  "initializer_range": 0.02,
+  "label2id": {
+    "abbreviation": 0,
+    "aircraft": 1,
+    "aircraft+flight+flight_no": 2,
+    "airfare": 3,
+    "airfare+flight": 4,
+    "airfare+flight_time": 5,
+    "airline": 6,
+    "airline+flight_no": 7,
+    "airport": 8,
+    "capacity": 9,
+    "cheapest": 10,
+    "city": 11,
+    "day_name": 12,
+    "distance": 13,
+    "flight": 14,
+    "flight+airfare": 15,
+    "flight+airline": 16,
+    "flight_no": 17,
+    "flight_no+airline": 18,
+    "flight_time": 19,
+    "ground_fare": 20,
+    "ground_service": 21,
+    "ground_service+ground_fare": 22,
+    "meal": 23,
+    "quantity": 24,
+    "restriction": 25
+  },
+  "max_position_embeddings": 512,
+  "model_type": "distilbert",
+  "n_heads": 12,
+  "n_layers": 6,
+  "pad_token_id": 0,
+  "problem_type": "single_label_classification",
+  "qa_dropout": 0.1,
+  "seq_classif_dropout": 0.2,
+  "sinusoidal_pos_embds": false,
+  "tie_weights_": true,
+  "transformers_version": "4.57.1",
+  "vocab_size": 30522
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8e40368f0a4bfe548a832ae2fd76089d0ad33e6989123bf0cca909c37a383511
+size 267906392

special_tokens_map.json

@@ -0,0 +1,7 @@
+{
+  "cls_token": "[CLS]",
+  "mask_token": "[MASK]",
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "unk_token": "[UNK]"
+}

tokenizer_config.json

@@ -0,0 +1,56 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "[PAD]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "100": {
+      "content": "[UNK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "101": {
+      "content": "[CLS]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "102": {
+      "content": "[SEP]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "103": {
+      "content": "[MASK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "clean_up_tokenization_spaces": false,
+  "cls_token": "[CLS]",
+  "do_lower_case": true,
+  "extra_special_tokens": {},
+  "mask_token": "[MASK]",
+  "model_max_length": 512,
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "strip_accents": null,
+  "tokenize_chinese_chars": true,
+  "tokenizer_class": "DistilBertTokenizer",
+  "unk_token": "[UNK]"
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9bcc6dddbf044de8483724051ce297d580f6d6ff5873b682274c8b412c36d674
+size 5777