feat: formalize mode changes

app.py

@@ -34,7 +34,8 @@ model = AutoModelForCausalLM.from_pretrained(
 
 @spaces.GPU
 def generate(
-    prompt,
+    user_input,
+    prompt_style,
     temperature,
     max_tokens,
     top_k,
@@ -44,13 +45,16 @@ def generate(
     streamer = TextIteratorStreamer(
         tokenizer, skip_prompt=True, skip_special_tokens=True
     )
-    system = "Jesteś chatbotem udzielającym odpowiedzi na pytania w języku polskim"
+    system = f"""Jesteś pomocnym botem udzielającym odpowiedzi na pytania w języku polskim.
+    Odpowiadaj krótko i zwięźle, unikaj zbyt skomplikowanych odpowiedzi.
+    {prompt_style}
+    """
     messages = []
 
     if system:
         messages.append({"role": "system", "content": system})
 
-    messages.append({"role": "user", "content": prompt})
+    messages.append({"role": "user", "content": user_input})
 
     tokenizer_output = tokenizer.apply_chat_template(
         messages, return_tensors="pt", return_dict=True
@@ -88,6 +92,13 @@ def generate(
         yield cleaned_response
 
 
+STYLE_PROMPTS = {
+    "Formalny": """Przekształć poniższy tekst na bardziej formalny, zachowując jego oryginalne znaczenie i klarowność.""", # noqa
+    "Nieformalny": """Przekształć poniższy tekst na luźniejszy i bardziej nieformalny, tak żeby brzmiał swobodnie i naturalnie..""", # noqa
+    "Neutralny": """Przekształć poniższy tekst na bardziej neutralny, eliminując zbyt formalne lub potoczne sformułowania.""", # noqa
+}
+
+
 with gr.Blocks(
     css="""
     .gradio-container { max-width: 1600px; margin: 20px; padding: 10px; }
@@ -100,8 +111,8 @@ with gr.Blocks(
 
     with gr.Column(elem_id="main-content"):
         with gr.Row():
-            simple_question_btn = gr.Button("Proste Pytanie", variant="primary")
-            formalizer_btn = gr.Button("Formalizator", variant="secondary")
+            simple_question_btn = gr.Button("Zadaj Pytanie", variant="primary")
+            formalizer_btn = gr.Button("Zmiana stylu", variant="secondary")
             judge_btn = gr.Button("Sędzia", interactive=False)
 
         # Function to switch tool visibility and update button styles based on the active tool
@@ -128,7 +139,7 @@ with gr.Blocks(
             with gr.Row():
                 generate_btn_sq = gr.Button("Generuj odpowiedź", interactive=False)
                 clear_btn_sq = gr.Button("Wyczyść", interactive=False)
-            output_text_sq = gr.Textbox(label="Odpowiedź", interactive=False)
+            output_text_sq = gr.Textbox(label="Odpowiedź", interactive=False, lines=5)
 
             with gr.Accordion("⚙️ Parametry", open=False):
                 temperature_sq = gr.Slider(0, 1, 0.3, step=0.1, label="Temperatura")
@@ -165,6 +176,7 @@ with gr.Blocks(
                 fn=generate,
                 inputs=[
                     input_text_sq,
+                    "",
                     temperature_sq,
                     max_tokens_sq,
                     top_k_sq,
@@ -186,7 +198,7 @@ with gr.Blocks(
             )
             with gr.Row():
                 gr.Text(
-                    "Wybierz styl tekstu:",
+                    "Wybierz styl:",
                     elem_id="style-label",
                     show_label=False,
                     elem_classes="same-height",
@@ -209,14 +221,7 @@ with gr.Blocks(
                     elem_id="clear-btn",
                     elem_classes="same-height",
                 )
-            output_text = gr.Textbox(label="Wynik", interactive=False)
-
-            # Mock processing function to simulate text formalization with a delay
-            def mock_processing_function(input_text):
-                import time
-
-                time.sleep(1)  # Simulate processing delay
-                return input_text + " [Formalized]"
+            output_text = gr.Textbox(label="Wynik", interactive=False, lines=5)
 
             # Update button states based on input and output text changes for interactivity
             def update_button_states(input_text, output_text):
@@ -240,7 +245,20 @@ with gr.Blocks(
 
             # Event handlers for button actions to process and clear text
             generate_btn.click(
-                fn=mock_processing_function, inputs=input_text, outputs=output_text
+                fn=lambda input_text, style: generate(
+                    input_text,
+                    STYLE_PROMPTS[style],
+                    0.3,  # Hardcoded temperature
+                    1024,  # Hardcoded max_tokens
+                    40,   # Hardcoded top_k
+                    1.1,  # Hardcoded repetition_penalty
+                    0.95   # Hardcoded top_p
+                ),
+                inputs=[
+                    input_text,
+                    style_dropdown
+                ],
+                outputs=output_text,
             )
 
             clear_btn.click(