👨‍🏫 Tutorial Educational Purpose: FREE gpt-4o-mini, gemma2, claude-3, mixtral, llama3.2 and wikipedia AI

[reonjy]

UNDER MAINTENANCE,
wait for new update coming soon...

Purpose: To provide educational support for students. Please use AI responsibly, it is not intended to use for cheating in academics.

You do not have permission to view the full content of this post. Log in or register now.

Features:

• no limits use, use responsibly.
• added wiki model that can render information based on wikipedia
• gemma2 model, unfiltered, good for roleplays
• llama3.2 model latest from Meta.

What's New:

• added llava model which can identify and describe images
• added new model named "knowledge", fine-tuned for academics, useful for students and teachers.

Credits:
You do not have permission to view the full content of this post. Log in or register now.
You do not have permission to view the full content of this post. Log in or register now.

 

[Accenture]

kala ko may free kang láρág bossing na bago hahaha

 

[reonjy]

kala ko may free kang láρág bossing na bago hahaha

updating thread pa lods.. hehe

 

[Accenture]

updating thread pa lods.. hehe

You do not have permission to view the full content of this post. Log in or register now.

 

[VoidHunter]

Salamat paps working

 

[Black na Tupa]

ilang days po ito?

 

[reonjy]

[Hidden content]

no use yan paps, identifier lang

ilang days po ito?

as long us running yung api server na gamit paps..

 

[Accenture]

no use yan paps, identifier lang yan..

ahh sge sge baka kase eto ang puso e hahaha

 

[reonjy]

using llava model fine-tuned to describe an image.

 

[Sakuta Azusagawa]

Salamat lods sa share i hope tumagal to need sa upcoming capstone project

 

[reonjy]

Salamat paps working

Salamat lods sa share i hope tumagal to need sa upcoming capstone project

thanks sa feedback mga paps!

 

[abcdugay]

salamat muli ts...

 

[zxion]

Thanks

 

[alist1986]

Nice one. Ang galing ng Ollama UI pakner 'no? Online and offline apis, tapos may RAG, web browsing and web search, atbp. Parang ᑕᕼᗩTGᑭT Playground na may steroids he he. System prompts lang, may personalized chatbot ka na. Ang daling i-deploy pa nyan. Dalawang python script lang or isa using docker script, meron ka nang server. Problema na lang ng users yung online apis at kung kayang i-run noong device yung models sa cpu or gpu mode. May guide naman sa github.
Pre, yung gemma-2-2b-9b-it ay api lang ba o model na pinasok mo sa zeabur server? Mas ok kasi yung gemma-2-2b-9b-it-You do not have permission to view the full content of this post. Log in or register now., halos kasinggaling ng 27b kahit maliit lang model. Yan kasi gamit ko locally sa 3rd gen pc sa CPU-mode na 6GB yung kain - pwedeng pagtiyagaan dahil mabilis din sumagot. Maganda na kasi ngayon at meron ng GGUF models. Kahit bumaba man ang quality during quantizing, nagagamit ng maayos sa potato pc. Sa local AI UI kasi yung nakagiliwan ko dahil included yung online apis din. Endpoints lang (no keys) ng open-source LLMs, halos unlimited na he he. Yung GPT-4x, di naman naglalayo na sa LLama3x (free) at sa kaunting bilis + multimodal features yung labanan. Good as free na kung alam mo yung itatapat sa premium LLM ng openAI sa iyong purpose. Kaya nga nilabas nila yung o1 na trained ng Nividia para sila competitive.
Siyanga pala, handsfree din itong UI ni reonjy. Kausapin nyo lang with mic and speaker or headphone ng sinubukan ko he he. Gamitin nyo yung non-local TTS dyan (GTTS) na medyo OK yung voice. Di ko ma-force yung SAPI5-adapter ko dito, kaya yung setting ng Ollama na lang yung best choice. Sa PC speech Recognition, i-set nyo sa English (Philippines). Mas maintindihan nya kaysa yung hinahanap ay speech accent ng US, UK, IN, atbp. he he. Medyo mahirap sa server na ito, at iisa ang account, bukod pa sa naka-fix yata yung settings. Pero gumagana naman ito. Locally, pwede itong sinabi ko para ma-train din sa Taglish accent yung STT.
I'm sure test pa lang ito, pero pwede rin maglagay ng inyong personal apis if personalized yung login option.
Note: Yung features na nandyan sa Open Web UI ay as good a premium GPT/LLM kung gagamtin ninyo. Maghahanap ka pa sa ᑕᕼᗩTGᑭT Playground ng bot nyan to get those features na paisa-isa. Dito nandyan na yung important features like Read documents, RAG, Web Search and Web browsing na incorporated na sa bawat input ninyo to get high quality results. Yung llama-3.2 multimodal (text/image) na rin at 130k context window na ka-rank ng ibang versions ng GPT-4o at mini sa You do not have permission to view the full content of this post. Log in or register now. sa hindi pa nakakaalam. Binigyan ko lang kayo ng idea para meron kayong options sa ibang UI tulad nito.

 

[zxion]

Thanks

 

[reonjy]

Nice one. Ang galing ng Ollama UI pakner 'no? Online and offline apis, tapos may RAG, web browsing and web search, atbp. Parang ᑕᕼᗩTGᑭT Playground na may steroids he he. System prompts lang, may personalized chatbot ka na. Ang daling i-deploy pa nyan. Dalawang python script lang or isa using docker script, meron ka nang server. Problema na lang ng users yung online apis at kung kayang i-run noong device yung models sa cpu or gpu mode. May guide naman sa github.
Pre, yung gemma-2-2b-9b-it ay api lang ba o model na pinasok mo sa zeabur server? Mas ok kasi yung gemma-2-2b-9b-it-You do not have permission to view the full content of this post. Log in or register now., halos kasinggaling ng 27b kahit maliit lang model. Yan kasi gamit ko locally sa 3rd gen pc sa CPU-mode na 6GB yung kain - pwedeng pagtiyagaan dahil mabilis din sumagot. Maganda na kasi ngayon at meron ng GGUF models. Kahit bumaba man ang quality during quantizing, nagagamit ng maayos sa potato pc. Sa local AI UI kasi yung nakagiliwan ko dahil included yung online apis din. Endpoints lang (no keys) ng open-source LLMs, halos unlimited na he he. Yung GPT-4x, di naman naglalayo na sa LLama3x (free) at sa kaunting bilis + multimodal features yung labanan. Good as free na kung alam mo yung itatapat sa ρrémíùm LLM ng openAI sa iyong purpose. Kaya nga nilabas nila yung o1 na trained ng Nividia para sila competitive.
Siyanga pala, handsfree din itong UI ni reonjy. Kausapin nyo lang with mic and speaker or headphone ng sinubukan ko he he. Gamitin nyo yung non-local TTS dyan (GTTS) na medyo OK yung voice. Di ko ma-force yung SAPI5-adapter ko dito, kaya yung setting ng Ollama na lang yung best choice. Sa PC speech Recognition, i-set nyo sa English (Philippines). Mas maintindihan nya kaysa yung hinahanap ay speech accent ng US, UK, IN, atbp. he he. Medyo mahirap sa server na ito, at iisa ang account, bukod pa sa naka-fix yata yung settings. Pero gumagana naman ito. Locally, pwede itong sinabi ko para ma-train din sa Taglish accent yung STT.
I'm sure test pa lang ito, pero pwede rin maglagay ng inyong personal apis if personalized yung login option.

haha uu pakner, nice yung ollama, self-hosting, pwedeng pwede.. tsaka, ok na ok daw yung llama-3.2 na latest..

anyway, try ko lagyan to mamaya ng database para pwede makapag signup ng personal account and pwede rin malagyan ng own api

regarding sa gemma2-9b, yup, default model lang yan pakner, galing ollama.. yung sa link mo, mas ok yun kasi naka fine-tuned..

 

[alist1986]

haha uu pakner, nice yung ollama, self-hosting, pwedeng pwede.. tsaka, ok na ok daw yung llama-3.2 na latest..

anyway, try ko lagyan to mamaya ng database para pwede makapag signup ng personal account and pwede rin malagyan ng own api

regarding sa gemma2-9b, yup, default model lang yan pakner, galing ollama.. yung sa link mo, mas ok yun kasi naka fine-tuned..

Di kasi sikat gamitin yung mga open-source LLM interfaces dahil marami na kasing online na preferred ng users. Pero sa free at unlimited mag-aalay ka ng oras to find them. Sa mga beta AI sites merong unlimited talaga sa premium GPTs/LLMs kya dapat samantalahin habang di pa sila commercial.
Itong Ollama UI as an example, yung pinakamadali dahil marami siyang options to use AI apis. Compared last year, GPT-4x level today is already reachable sa open-source models, tapos kalat na yung free inference apis nila he he. Sa huggingface ang dami nyan kung maghahanap ka sa isang single source.
Maganda kasi yang local server para sa gustong matuto ng running technology ng AI, kaysa nakadapende sa api service lang as is. Depende naman yan sa gusto ng user.
Teka, yung gemma-2-9b-it mo ay yung "abliterated" version? Ang alam ko kasi, medyo unfiltered lang yung standard - hindi totally. Di bale, marami namang available sa net he he.
Pinag-aaralan ko pa yung models na nakakaintindi ng tagalog at OpenAI pa lang yung medyo ok sa text. Kahit sa STT supported nila yung Tagalog thru Whisper ng api nila. Tine-test ko sa taglish at sa boses ko sa Speech Recognition para close to perfect mag-transcribe. Sakit sa ulo! Pero merong mga LLM yung LLama-3 na trained for Tagalog in GGUF form sa HF. Nahihirapan lang ako at naghihingalo pc ko with local AI kapag bumakas na yung browser. Lilinisin ko muna yung memory allocation ng LLM model thru ram optimizer para makahinga he he.

 

[RicoSwabe]

Na change na po password. Pa sabit po bossing

 

[reonjy]

Na change na po password. Pa sabit po bossing

binalik ko sa default.. try to login again..

 

[Masushi]

Thank you