u/lolina123

Svi znamo da se polako bliži kraj modelu pretplate, jer je trenutno veoma subvencionisano i dugoročno neodrživo - iz prostog razloga što sve više i više ljudi postaju napredni korisnici, pa "jedi koliko možeš" model donosi sve veće i veće gubitke kompanijama koje nude vodeće modele širokim narodnim masama na korišćenje.

Međutim, na gubitku su takođe i kompanije koje su na modelu plaćanja za preduzeća, koja su u obavezi da plaćaju ne fiksno već im se obračunava cena po potrošnji tokena - i takav način će nesumnjivo jedini o(p)stati i za obične korisnike. Mnoge korporacije već imaju milionske mesečne troškove zbog ovoga i neke i ne mogu da isprate takav tempo (Uber, Meta).

Kako bi se gubici gomilaju, u IT industriji se šuška da će kompanije u očaju prestati da pokrivaju trošak korišćenja AI modela, na uštrb plate zaposlenih.
Šta ovo znači? Biće vam mesečno dozvoljen određeni iznos za tokene koji će biti mizeran (recimo koliko koštaju sad najviše pretplate), a sve preko toga će vam se na kraju meseca oduzeti od vaše neto plate. Imajte na umu da korišćenje agenata može da potroši i do nekoliko miliona tokena na dan, zbog pozivanja alata rapidno i sukcesivno uz gomilanje konteksta, pa mesečni troškovi za korišćenje AI modela na taj način bi vas iskoštao od 800$ pa čak do 2000$.

Zanima me koje je vaše mišljenje, i da li biste pristali na ovakav kompromis? Kako biste u ovoj situaciji koristili agente štedljivo, ili ih možda i potpuno odbacili i vratili se na stari režim ručnih iteracija sa AI modelom (zbog čega je sistem pretplate i mogao nekako da opstane u početku jer nije jeo toliko konteksta)?

reddit.com
u/lolina123 — 17 days ago