RoadMap AI - de la curios pana la expert daca am noroc

Buna,
Am fost super ocupat si putin nervos ca nu imi iese cum vreau eu. Problema este ca ceea ce incerc este de nivel 10 si eu nici macar la nivel 1 nu sunt, deci va imaginati cat am de invatat si cate probleme de rezolvat.

Dar incerc sa invat din mers si din greșelile / problemele care le intampin.

Pentru cei care doresc sa inceapa ceva de genul in domeniul AI unde limita este doar imaginatia ta va las mai jos cateva lucruri care trebuie sa le stiti. Chiar daca am spus unele lucruri mai sus, voi scrie periodic ce necesitati am intalnit asa ca voi sa le stiti, sa fiti pregatiti.

1. stiti ca am vorbit despre calculatorul care l-am luat special pentru asta. Daca aveti doua partiții sau si una, recomand sa aveti pentru C minim 1TB. Eu din 2TB SSD pentru C pana acum am ocupat putin peste 900Gb.
Asta pentru ca e nevoie de multe dependente si majoritatea programelor chiar daca alegi alta partitie tot salveaza o gramada de lucruri in C. Plus ca sunt unele care nu iti permite sa faci instalarea custom pe un alt folder/partitie si chiar daca iti permite iti va da erori.
2. Python - trebuie sa ai habar cate de cat despre Python care te va ajuta mult. Daca cunostintele tale sunt medii sau avansate, atunci poti face absolut orice, la mine nivelul in Python este sa rulez un fisier .py si sa fac o instalare pip. :D
3. va las cateva programe care trebuie sa le aveti instalate pe calculatorul vostru.

- git
- WSL on Windows [ubuntu din windows store]
-Docker
- python ultima versiune sau cel putin 3.11 si la instalare alegeti custom, apoi bifati pentru toti userii si sa fie adaugat la path environment variable. E bine sa aveti o singura versiune de python instalat.
- NodeJS
-Poetry
- rust
- conda
- uv
- bun
- mysql - optional daca rulati ceva ce are nevoie de baza de date
- postgresql - din ce am vazut majoritatea folosesc acest sistem si e recomanda pentru orice eventualitate sa aveti instalat.
- mongodb - optional pentru ca sunt unele programe care sugereaza acest sistem de db.
- visual studio
- daca aveti placa grafica Nvidia, e recomandat sa aveti nvidia toolkit instalat si diverul la ultima versiune
- windows sandbox activat pentru a testa lucruri care nu aveti incredere

Cam acestea sunt programele necesare, sau cel putin de cele care m-am lovit eu, e posibil sa imi fi scapat unul sau mai multe dar revin.


Pana la urma cred ca trebuie sa imi caut un partener care stie python foarte bine pentru a accelera totul, ca altfel pana invat eu sa fac singur mai trec 10 ani.

O alta problema care ma lovesc mereu si am mai spus, este ca mai aproape orice se leaga de API openAI care nu este ieftin, desi multi spun ca este.
Am am cheltuit 25$ + taxe, ca openai adauga 24% la orice suma adaugata si nu am facut mai nimic.
Pentru ce am nevoie as avea nevoie de minim 500$ + taxe , adica de inceput.
Insa daca ma gandesc bine, nu ar fi chiar asa mult, ca as recupera suma usor, insa nu doresc sa depind atat de API lor.

Ma cam contrazic acum.... :D

Salutari, pana data viitoare.
Continui sa testez si sa vad daca reusesc ceva...
 
Azi am reusit ceva si ma bucur ca am ceva care sa spun ca functioneaza sau am reusit. Nu e mare lucrur, insa e ceva.

Am reusit sa adaug un bot pe telegram care foloseste modelul dolphin-mistral necenzurat cu 7B parametri. Nu ar trebui sa refuze sa raspunda la nici o intrebare.

Ruleaza de pa calculatorul meu si are un raspuns bunicel zic eu, 1.92 secunde la raspuns.
bot telegram ai.png

I-am cerut sa faca un scrapper in python pentru a1.ro si a raspuns/generat in 2.65 secunde.
Screenshot_12.png

pentru a primi raspuns tot ce trebuie sa faci este sa dai tag la bot @AisistentAI_bot si urmat de text/mesaj care vrei tu si iti va raspunde.
 
Am mai testat si vad ca poate face un sumar la un articol daca ii dai link.
Răspunsul de moment este in engleză, vad cum fac sa fie in limba romana.
Insa pentru asta cred ca trebuie sa folosesc llama2.
Trebuie sa mai testez si cu multiple cereri in același moment sa vad daca duce si daca poate desigur.
Resursele consumate sunt foarte mici de moment, insa e si un model de numai 7B.
 
Am descoperit si prima problema.
Se pare ca Telegram are o limita de 30 mesaje pe secundă la bot.
Asa ca utilizarea simultană de catre mai multi useri sare din discuție pentru ca nu va răspunde, acum depinde si cat de mare este mesajul.

Ideal ar fi ca un răspuns sa fie in chunks de cate 30 mesaje pe secundă, apoi face o pauza si tot asa pana răspunde la toți.
Insa e de lucru aici, asa ca voi vedea cum pot face.
 
Loading...
Back
Sus