Add stop-generation button

app/api.py

@@ -250,6 +250,8 @@ def chat_stream():
 
             # Запускаем стриминг ответа от LLM
             accumulated_content = ""
+            
+            try:
                 for chunk_data in run_agent_streaming(graph_id, user_node_id,
                                                       assistant_node_id,
                                                       system_prompt, model):
@@ -257,7 +259,6 @@ def chat_stream():
                         accumulated_content += chunk_data.get("content", "")
                         yield f"data: {json.dumps(chunk_data)}\n\n"
                     elif chunk_data.get("type") == "error":
-                    # Если произошла ошибка во время стриминга, помечаем узел как ошибочный
                         if assistant_node_id:
                             graph_history_manager.mark_node_as_error(
                                 graph_id, assistant_node_id,
@@ -271,7 +272,10 @@ def chat_stream():
                                         'node_type': 'error'
                                     })
                         yield f"data: {json.dumps(chunk_data)}\n\n"
-                    return  # Прекращаем генерацию при ошибке
+                        return
+            except GeneratorExit:
+                # НОВОЕ: Обработка прерывания генератора (клиент отключился)
+                print(f"⚠️ Клиент отменил стрим для узла {assistant_node_id}")
 
             # После завершения стриминга обновляем узел полным контентом
             if assistant_node_id:

app/llm_client.py

@@ -270,7 +270,7 @@ class CustomLLM:
                 response = self.client.chat.completions.create(
                     model=self.model_name,
                     messages=openai_messages,
-                    stream=True,  # Всегда True для стриминга
+                    stream=True,
                 )
 
                 for chunk in response:
@@ -278,6 +278,10 @@ class CustomLLM:
                     if chunk_message is not None:
                         yield chunk_message
 
+            except GeneratorExit:
+                # НОВОЕ: Обработка прерывания генератора
+                print(f"⚠️ Стрим OpenAI прерван для модели {self.model_name}")
+                raise
             except Exception as e:
                 print(f"Ошибка при стриминге OpenAI API: {e}")
                 raise
@@ -301,6 +305,10 @@ class CustomLLM:
                     if getattr(delta, "finish_reason", None) is not None:
                         break
 
+            except GeneratorExit:
+                # НОВОЕ: Обработка прерывания генератора
+                print(f"⚠️ Стрим Mistral прерван для модели {self.model_name}")
+                raise
             except Exception as e:
                 print(f"Ошибка при стриминге Mistral API: {e}")
                 raise