Acest topic face parte din topicul principal RoadMap AI - de la curios pana la expert daca am noroc pentru cei care nu stiu.
Pe langa alte lucruri care le fac si testez in domeniul AI, incerc sa gasesc solutii pentru Finetune AI LLM model.
Se pare ca am gasit ceva si cand ajunge super desktopul meu, voi testa pentru ca cere reusrse bune pentru Finetune.
Un LLM model cere destul resurse pentru a rula local si daca nu ai un GPU bun, iti poti lua adio de a rula local un model LLM.
Dece ai vrea sa rulezi local?
Pai nu trebuie sa platesti.
Nu esti limitat de numar de token si reusurse
Poti rula modele necenzurate
Mai multa libertate.
Daca imi iese bine, voi putea reduce consumul de resure la un Model LLM de 16 ori mai putin, deci cu alte cuvinte de ai putea rula acest model pe aproape orice device.
Asta e primul pas, al doilea este Finetune unde poti adauga instructiuni custom.
Ce inseamna asta?
Pai sa ne imaginam urmatorul exemplu.
Luam un model care iti place si este pe placul tau, in acest caz unul care da bine pentru un magazin online, sa presupunem ca ai un magazin online.
Dupa ce reduci consumul de resurse, care iti va permite sa rulezi pe un dedicat server fara probleme, ii aduci intructiuni care sa fie pentru magazinul tau.
Sa spunem ca l-ai implemantat deja pe magazinul tau online.
Intra clientul dar nu stie ce vrea sa cumpere sau nu este hotarat, plus cum lumea este lenesa nu cauta pe site sau poate nu stie ce tip de produs are nevoie pentru necesitatile sale.
Aici intra instructiunile custom.
Modelul tau AI va discuta cu clientul, ce cauta, ce buget are sau cam in ce bani ar vrea sa fie produsul, ce optiuni sa aiba, etc.
Modeul face o analiza si apoi din baza de date ii ofera produsul si aici e un secret daca ii pot spune asa, produsul va avea pretul egal sau putin mai mare sau mai mic fata de bugetul clientului.
Modelul stie ca produsul X are pretul Y si ca adaosul minim este de 20% sub care nu poate vinde dar poate vinde pana la 50% adaos comercial.
Cumpararea se poate face direct in fereastra de chat unde modelul AI va procesa totul, iar clientul isi serveste cafeaua.
Daca nu vezi aurul in acest exemplu, mai bine mergi in alta parte.
Cu alte cuvinte te folosesti de un model AI care a costat o grama da bani si timp sa fie facut, ii adaugi instructiuni custom si gata.
Alta idee.
Ai cateva conturi de instagram sau unul singur unde vrei sa scaneze orice comentariu adaugat si sa raspunda in stilul tau, sa aiba chiar o intreaga discutie cu cei care comenteaza.
Ok, am explicat cam ce este in mare, acum ce trebuie sa fac sau planul meu.
1. cautare de modele LLM care sunt specifice pe o anumita categorie. Ma gandesc sa caut si sa descarc 5 modele pentru coding, articole/povesti in still uman, marketing si afaceri, adult. Asta imi va lua ceva timp.
2, dupa ce le gasesc, le voi face un Finetune la fiecare cu instructiuni custom. Tipul pentru fiecare poate dura, una este sa faci Finetune la un model de 7B si alta este la unul de 70 sau 130B parametri. Dar daca reusesc imi va permite sa rulez pe un server dedicat unul sau toate,plus as putea face Finetune pentru fiecare site in parte cu instructiuni custom diferite.
Ce urmaresc din toate acestea?
Automatizare la task-uri si activitati zilnice si un copilot real si de ajutor pentru aceasta comunitate.
Daca imi reuseste, va imaginati ca puteti face aproape orice aplicatie android, landing page, thema sau plugin wordpress sau ce va trece prin cap si singura limita va fi imaginatia si abilitatea de exprimare.
Pana la urma am mers pe aceasta configuratie Ce ati putea face cu aceasta configurație de calculator?
M-am gandit ce pot avea resurse mai bune, mai multe pe un desktop fata de un laptop la aceiasi bani.
Dupa cum vedeti, am mult de munca si sper sa reusesc, mai ales ca nu am mult timp la dispozitie zilnic sa ma ocup de acestea.
Tot ce voi face va fi public aici pe forum, coduri, modele si alte chestii de gen for fi urcate pe forum la sectiunea resurse unde de moment doar Clasele Full membru si VIp vor avea acces sa le descarce.
E mult de munca si costa bani sa las pe cineva care s-a înregistrat de 1 minut pe forum sa descarce toata munca fara sa spuna macar multumesc.
Cum am spus si celalalt topic, daca mai e cineva care activeaza in AI sau vrea sa testeze, poti deschide un topic unde vom colabora.
Daca aveti idei de instructiuni custom pentru Finetune va rog sa scrieti mai jos.
Incercati sa fiti cat mai explictiti pentru a intelege ce doriti si implementa unde este cazul.
Pe langa alte lucruri care le fac si testez in domeniul AI, incerc sa gasesc solutii pentru Finetune AI LLM model.
Se pare ca am gasit ceva si cand ajunge super desktopul meu, voi testa pentru ca cere reusrse bune pentru Finetune.
Un LLM model cere destul resurse pentru a rula local si daca nu ai un GPU bun, iti poti lua adio de a rula local un model LLM.
Dece ai vrea sa rulezi local?
Pai nu trebuie sa platesti.
Nu esti limitat de numar de token si reusurse
Poti rula modele necenzurate
Mai multa libertate.
Daca imi iese bine, voi putea reduce consumul de resure la un Model LLM de 16 ori mai putin, deci cu alte cuvinte de ai putea rula acest model pe aproape orice device.
Asta e primul pas, al doilea este Finetune unde poti adauga instructiuni custom.
Ce inseamna asta?
Pai sa ne imaginam urmatorul exemplu.
Luam un model care iti place si este pe placul tau, in acest caz unul care da bine pentru un magazin online, sa presupunem ca ai un magazin online.
Dupa ce reduci consumul de resurse, care iti va permite sa rulezi pe un dedicat server fara probleme, ii aduci intructiuni care sa fie pentru magazinul tau.
Sa spunem ca l-ai implemantat deja pe magazinul tau online.
Intra clientul dar nu stie ce vrea sa cumpere sau nu este hotarat, plus cum lumea este lenesa nu cauta pe site sau poate nu stie ce tip de produs are nevoie pentru necesitatile sale.
Aici intra instructiunile custom.
Modelul tau AI va discuta cu clientul, ce cauta, ce buget are sau cam in ce bani ar vrea sa fie produsul, ce optiuni sa aiba, etc.
Modeul face o analiza si apoi din baza de date ii ofera produsul si aici e un secret daca ii pot spune asa, produsul va avea pretul egal sau putin mai mare sau mai mic fata de bugetul clientului.
Modelul stie ca produsul X are pretul Y si ca adaosul minim este de 20% sub care nu poate vinde dar poate vinde pana la 50% adaos comercial.
Cumpararea se poate face direct in fereastra de chat unde modelul AI va procesa totul, iar clientul isi serveste cafeaua.
Daca nu vezi aurul in acest exemplu, mai bine mergi in alta parte.
Cu alte cuvinte te folosesti de un model AI care a costat o grama da bani si timp sa fie facut, ii adaugi instructiuni custom si gata.
Alta idee.
Ai cateva conturi de instagram sau unul singur unde vrei sa scaneze orice comentariu adaugat si sa raspunda in stilul tau, sa aiba chiar o intreaga discutie cu cei care comenteaza.
Ok, am explicat cam ce este in mare, acum ce trebuie sa fac sau planul meu.
1. cautare de modele LLM care sunt specifice pe o anumita categorie. Ma gandesc sa caut si sa descarc 5 modele pentru coding, articole/povesti in still uman, marketing si afaceri, adult. Asta imi va lua ceva timp.
2, dupa ce le gasesc, le voi face un Finetune la fiecare cu instructiuni custom. Tipul pentru fiecare poate dura, una este sa faci Finetune la un model de 7B si alta este la unul de 70 sau 130B parametri. Dar daca reusesc imi va permite sa rulez pe un server dedicat unul sau toate,plus as putea face Finetune pentru fiecare site in parte cu instructiuni custom diferite.
Ce urmaresc din toate acestea?
Automatizare la task-uri si activitati zilnice si un copilot real si de ajutor pentru aceasta comunitate.
Daca imi reuseste, va imaginati ca puteti face aproape orice aplicatie android, landing page, thema sau plugin wordpress sau ce va trece prin cap si singura limita va fi imaginatia si abilitatea de exprimare.
Pana la urma am mers pe aceasta configuratie Ce ati putea face cu aceasta configurație de calculator?
M-am gandit ce pot avea resurse mai bune, mai multe pe un desktop fata de un laptop la aceiasi bani.
Dupa cum vedeti, am mult de munca si sper sa reusesc, mai ales ca nu am mult timp la dispozitie zilnic sa ma ocup de acestea.
Tot ce voi face va fi public aici pe forum, coduri, modele si alte chestii de gen for fi urcate pe forum la sectiunea resurse unde de moment doar Clasele Full membru si VIp vor avea acces sa le descarce.
E mult de munca si costa bani sa las pe cineva care s-a înregistrat de 1 minut pe forum sa descarce toata munca fara sa spuna macar multumesc.
Cum am spus si celalalt topic, daca mai e cineva care activeaza in AI sau vrea sa testeze, poti deschide un topic unde vom colabora.
Daca aveti idei de instructiuni custom pentru Finetune va rog sa scrieti mai jos.
Incercati sa fiti cat mai explictiti pentru a intelege ce doriti si implementa unde este cazul.
