OpenAI, creatorul ChatGPT, a introdus un model mai mic numit GPT-4o Mini, despre care spune că este mai inteligent și mai ieftin decât GPT-3.5 Turbo, un model anterior construit pentru sarcini simple, cum ar fi dialogul.
OpenAI speră ca dezvoltatorii să folosească GPT-4o Mini pentru a „extinde semnificativ gama de aplicații construite cu AI”, conform unei postări pe blog.
Chatboții precum ChatGPT sunt interfața pe care o folosim pentru a comunica cu modelele de limbaj mare, sau LLM-uri, cum ar fi GPT-4o Mini și originalul, mult mai mare, GPT-4o. Aceste modele sunt antrenate să înțeleagă modul în care folosim limbajul, astfel încât să poată genera conținut care sună uman.
Un LLM poate avea 1 miliard sau mai mulți parametri, ceea ce reprezintă o măsură a cât de mult conținut poate ingera înainte de a produce un răspuns la solicitarea ta. Aceasta înseamnă că LLM-urile pot învăța și înțelege multe, dar nu sunt ideale pentru orice situație. Ele pot fi scumpe și consumă multă energie din cauza necesității pentru ferme de servere extinse și acces prin cloud.
Un model de limbaj mic este un compromis de un fel. Oferă putere și viteză AI, dar nu necesită aceleași resurse de calcul sau costuri. Phi-3 Mini de la Microsoft, care este construit pentru a rula pe telefoane și PC-uri, este un exemplu.
Gemini 1.5 Flash de la Google, care este proiectat pentru sarcini cu volum mare și frecvență înaltă, cum ar fi generarea de subtitrări și extragerea datelor din formulare, este un alt exemplu. Acum avem și GPT-4o Mini.
Detalii despre GPT-4o Mini
Atât utilizatorii gratuiti, cât și cei plătitori ai ChatGPT pot accesa GPT-4o Mini începând de joi în locul GPT-3.5, care a fost lansat în noiembrie 2022.
GPT-4o Mini suportă în prezent text și imagini în API-ul OpenAI, pe care dezvoltatorii îl folosesc pentru a construi noi aplicații bazate pe tehnologia OpenAI. Suportul pentru text, imagine, video și intrări și ieșiri audio este „în curs de dezvoltare”, conform postării.
Utilizatorii din mediul enterprise vor avea acces la GPT-4o Mini începând cu săptămâna din 22 iulie.
OpenAI a spus că GPT-4o Mini excelează în raționamentul matematic și codare, dar a demonstrat și abilități în sarcini care necesită raționament. Startup-ul fintech Ramp și aplicația de email Superhuman au testat GPT-4o Mini pentru a extrage date din fișiere și a genera răspunsuri la emailuri, conform postării.
Noul model are o fereastră de context de 128.000 de tokeni, care reprezintă o măsură a cât de mult poate reține într-o conversație dată. Prin comparație, GPT-4o are aceeași fereastră de context, în timp ce GPT-3.5 Turbo are o fereastră de context de 16.000 de tokeni.
GPT-4o Mini costă 15 cenți pe milion de tokeni de intrare și 60 de cenți pe milion de tokeni de ieșire, ceea ce OpenAI a spus că este aproximativ echivalent cu 2.500 de pagini dintr-o carte.
GPT-4o, care a fost lansat în mai, costă 5 dolari pe milion de tokeni de intrare și 2,50 dolari pe milion de tokeni de ieșire.
„Vizualizăm un viitor în care modelele devin integrate perfect în fiecare aplicație și pe fiecare website”, a spus postarea pe blog. „GPT-4o mini deschide calea pentru ca dezvoltatorii să construiască și să scaleze aplicații AI puternice mai eficient și mai accesibil.”
