Skip to content

README.md

Latest commit

 

History

History
37 lines (25 loc) · 1.5 KB

README.md

File metadata and controls

37 lines (25 loc) · 1.5 KB
Raw

terapAI-app

Amaç: Fine-tune edilmiş Türkçe BDT sohbet modelini (örn. synturk/TerapAI_v1.0) Gradio arayüzü ile yerel veya Colab üzerinde etkileşimli olarak çalıştırmak.

Özellikler

  • Chat UI: Gradio tabanlı sohbet arayüzü (tek dosya: Gradio.ipynb).
  • Model yükleme: Hugging Face model deposundan (<user>/my_model) veya yerel klasörden (/path/to/my_model).
  • Phi-4/benzeri chat template desteği (modelinizin tokenizer’ına bağlıdır).
  • GPU/CPU desteği: device_map="auto" ile mevcut donanımı otomatik seçme.
  • Basit yapılandırma: .env ya da hücre üstü sabitler ile ayarlanabilir.

Hızlı Başlangıç

Colab üzerinde çalıştırma

  1. Notebook’u Colab’de açın: terapAI-app/Gradio.ipynb

  2. İlk hücrede model kaynağınızı belirtin: MODEL_LOCAL_PATH veya MODEL_ID.

  3. Gerekli paketler kurulur (ilk hücrede otomatik kurulum hücresi varsa onu çalıştırın).

  4. Son hücrede Gradio arayüzünü başlatın. Genelde şu şekilde olur:

    import os
import gradio as gr
os.environ["GRADIO_ANALYTICS_ENABLED"] = os.getenv("GRADIO_ANALYTICS_ENABLED", "false")

# demo = gr.ChatInterface(fn=your_response_fn, title="TerapAI")
demo.launch(server_name="0.0.0.0", server_port=int(os.getenv("APP_PORT", 7860)), share=os.getenv("APP_SHARE", "false").lower()=="true")

  5. Colab output’unda verilen URL’yi tıklayarak arayüze erişin (paylaşım açıksa public URL de oluşur).