با Streamlit، Microsoft Phi-3 و Ollama یک دستیار AI منبع باز رایگان بسازید

بیایید یک ربات چت فقط با پایتون و با استفاده از آن بسازیم Streamlit کتابخانه، اولاما، و مایکروسافت فی-3.

Streamlit

Streamlit اسکریپت های داده را در عرض چند دقیقه به برنامه های وب قابل اشتراک گذاری تبدیل می کند. همه در پایتون خالص. بدون نیاز به تجربه پیشرو. می توانید اطلاعات بیشتری را در اسناد رسمی Streamlit بیابید.

اولاما

Olama به شما امکان می دهد مدل های زبان بزرگ منبع باز را به صورت محلی اجرا کنید.

\ شما می توانید اطلاعات بیشتر را در رسمی پیدا کنید اولاما اسناد

Phi-3 Mini

Phi-3 Mini یک مدل باز با 3.8B پارامتر، سبک وزن و پیشرفته توسط مایکروسافت است.

\ شما می توانید اطلاعات بیشتر را در رسمی پیدا کنید Phi-3 Mini اسناد

مراحل

یک محیط جدید conda ایجاد کنید

conda create --name envStreamPhi

محیط را فعال کنید

conda activate envStreamPhi

اوللاما رو نصب کن

Ollama را از https://ollama.com/download دانلود کنید

مدل phi-3 را بکشید

مدلی که ما استفاده خواهیم کرد در اینجا قرار دارد:

ollama pull phi3

مدل Embeddings را بکشید:

ollama pull nomic-embed-text

نصب آزمایشی

streamlit hello

دستیار هوش مصنوعی را بسازید

برای ساخت دستیار هوش مصنوعی، 2 انتخاب دارید: مخزن را شبیه سازی کنید و تمام کدها را از همان ابتدا دریافت کنید، یا همراه با من کد را دریافت کنید.

I – گزینه اول: پروژه را از GitHub کلون کنید

git clone https://github.com/JalelTounsi/oLLaMaStreamPhi.git

برنامه را اجرا کنید

streamlit run app.py

II – گزینه دوم: Code Along

خود را ایجاد کنید app.py