Update app.py

app.py

@@ -1,23 +1,21 @@
 import os
 import json
 import glob
-import spaces  # <--- Обязательно для ZeroGPU на бесплатном тарифе
+import spaces
 import requests
 import numpy as np
 import gradio as gr
 
-# Библиотеки для парсинга документов
 from pypdf import PdfReader
 import docx
 from pptx import Presentation
 import openpyxl
 from sentence_transformers import SentenceTransformer
 
-# 1. Загрузка легкой модели эмбеддингов
+# 1. Загрузка модели эмбеддингов
 print("Loading Embedding Model...")
 embedder = SentenceTransformer('cointegrated/rubert-tiny2')
 
-# Извлечение текста из разных форматов файлов
 def extract_text_from_file(file_path):
     ext = os.path.splitext(file_path)[1].lower()
     text = ""
@@ -47,26 +45,20 @@ def extract_text_from_file(file_path):
             with open(file_path, "r", encoding="utf-8", errors="ignore") as f:
                 text = f.read()
     except Exception as e:
-        print(f"Ошибка чтения файла {file_path}: {e}")
+        print(f"Ошибка чтения {file_path}: {e}")
     return text
 
-# Нарезка текста на смысловые фрагменты (чанки)
 def chunk_text(text, source_name, chunk_size=700, overlap=100):
     chunks = []
     for i in range(0, len(text), chunk_size - overlap):
         chunk = text[i:i + chunk_size].strip()
         if len(chunk) > 40:
-            chunks.append({
-                "text": chunk,
-                "source": source_name
-            })
+            chunks.append({"text": chunk, "source": source_name})
     return chunks
 
-# Сканирование и индексация файлов из папки documents/
 def build_vector_index(folder="documents"):
     os.makedirs(folder, exist_ok=True)
     all_chunks = []
-    
     files = glob.glob(f"{folder}/*.*")
     print(f"Найдено файлов в {folder}: {len(files)}")
     
@@ -83,31 +75,24 @@ def build_vector_index(folder="documents"):
 
     texts = [c["text"] for c in all_chunks]
     embeddings = embedder.encode(texts, convert_to_numpy=True, show_progress_bar=False)
-    
     return all_chunks, embeddings
 
-# Запускаем индексацию файлов при старте проекта
 CHUNKS, EMBEDDINGS = build_vector_index("documents")
 
-# Функция быстрого векторного поиска по документам
 def retrieve_relevant_context(query, top_k=4):
     if len(CHUNKS) == 0 or EMBEDDINGS is None:
         return ""
-    
     query_emb = embedder.encode([query], convert_to_numpy=True)
     scores = np.dot(EMBEDDINGS, query_emb.T).squeeze()
-    
     if np.ndim(scores) == 0:
         scores = np.array([scores])
-        
     top_indices = np.argsort(scores)[::-1][:top_k]
     
     context_blocks = []
     for idx in top_indices:
-        if scores[idx] > 0.25:  # Порог релевантности
+        if scores[idx] > 0.25:
             chunk = CHUNKS[idx]
             context_blocks.append(f"[Источник: {chunk['source']}]\n{chunk['text']}")
-            
     return "\n\n---\n\n".join(context_blocks)
 
 SYSTEM_PROMPT = """Ты — «Инвест-Консультант Щёлково» — ведущий эксперт Администрации г.о. Щёлково.
@@ -120,18 +105,15 @@ SYSTEM_PROMPT = """Ты — «Инвест-Консультант Щёлково
 
 HF_TOKEN = os.environ.get("HF_TOKEN")
 
-@spaces.GPU  # <--- Обязательный декоратор для ZeroGPU
+@spaces.GPU
 def respond(message, history):
     if not HF_TOKEN:
-        yield "⚠️ Ошибка: В настройках Space (Settings -> Secrets) не найден секрет HF_TOKEN! Пожалуйста, добавьте HF_TOKEN."
+        yield "⚠️ Ошибка: В настройках (Settings -> Secrets) не найден секрет HF_TOKEN!"
         return
 
     user_text = message.get("text", "") if isinstance(message, dict) else str(message)
+    context = retrieve_relevant_context(user_text, top_k=4)
 
-    # 1. Поиск релевантной информации в ваших документах
-    retrieved_context = retrieve_relevant_context(user_text, top_k=4)
-
-    # 2. Формирование диалога
     messages = [{"role": "system", "content": SYSTEM_PROMPT}]
 
     if history:
@@ -146,15 +128,11 @@ def respond(message, history):
                 if r in ["user", "assistant"] and c:
                     messages.append({"role": r, "content": str(c)})
 
-    # Добавляем контекст из найденных документов к вопросу пользователя
-    augmented_prompt = f"НАЙДЕННЫЕ ДОКУМЕНТЫ ИЗ БАЗЫ ЗНАНИЙ:\n{retrieved_context}\n\nВОПРОС ПОЛЬЗОВАТЕЛЯ: {user_text}"
+    augmented_prompt = f"НАЙДЕННЫЕ ДОКУМЕНТЫ ИЗ БАЗЫ ЗНАНИЙ:\n{context}\n\nВОПРОС ПОЛЬЗОВАТЕЛЯ: {user_text}"
     messages.append({"role": "user", "content": augmented_prompt})
 
     url = "https://router.huggingface.co/v1/chat/completions"
-    headers = {
-        "Authorization": f"Bearer {HF_TOKEN}",
-        "Content-Type": "application/json"
-    }
+    headers = {"Authorization": f"Bearer {HF_TOKEN}", "Content-Type": "application/json"}
     payload = {
         "model": "Qwen/Qwen2.5-Coder-32B-Instruct",
         "messages": messages,
@@ -166,35 +144,30 @@ def respond(message, history):
     full_response = ""
     try:
         res = requests.post(url, headers=headers, json=payload, stream=True, timeout=30)
-        
-        if res.status_code != 200:
+        if res.status_code == 200:
+            for line in res.iter_lines():
+                if line:
+                    line_str = line.decode('utf-8')
+                    if line_str.startswith("data: "):
+                        data_str = line_str[6:].strip()
+                        if data_str == "[DONE]": break
+                        try:
+                            data_json = json.loads(data_str)
+                            if "choices" in data_json and len(data_json["choices"]) > 0:
+                                delta = data_json["choices"][0]["delta"].get("content", "")
+                                if delta:
+                                    full_response += delta
+                                    yield full_response
+                        except Exception: pass
+        else:
             yield f"⚠️ Ошибка сервера ({res.status_code}): {res.text}"
-            return
-
-        for line in res.iter_lines():
-            if line:
-                line_str = line.decode('utf-8')
-                if line_str.startswith("data: "):
-                    data_str = line_str[6:].strip()
-                    if data_str == "[DONE]":
-                        break
-                    try:
-                        data_json = json.loads(data_str)
-                        if "choices" in data_json and len(data_json["choices"]) > 0:
-                            delta = data_json["choices"][0]["delta"].get("content", "")
-                            if delta:
-                                full_response += delta
-                                yield full_response
-                    except Exception:
-                        continue
     except Exception as e:
         yield f"⚠️ Ошибка подключения: {str(e)}"
 
-# Создаем веб-интерфейс
 demo = gr.ChatInterface(
     fn=respond,
     title="Инвест-Консультант г.о. Щёлково",
-    description="Умный виртуальный ассистент с автопоиском по загруженным документам (PDF, Word, Excel, PowerPoint).",
+    description="Умный ассистент Отдела по инвестициям с поиском по вашей базе знаний.",
     examples=[
         "Какие субсидии есть на покупку оборудования?",
         "Как получить землю за 1 рубль?",