Ilya Sutskever, unul dintre fondatorii OpenAI, implicat într-un efort eșuat de a-l înlătura pe CEO-ul Sam Altman, a anunțat că își deschide o companie de inteligență artificială axată pe siguranță.
Sutskever, un cercetător respectat în domeniul AI, care a părăsit ChatGPT luna trecută, a spus într-o postare pe rețelele sociale miercuri că a creat Safe Superintelligence Inc. împreună cu doi co-fondatori. Scopul unic al companiei este dezvoltarea în siguranță a „superinteligenței” — o referință la sistemele AI care sunt mai inteligente decât oamenii.
Compania s-a angajat să nu fie distrasă de „supraîncărcarea managerială sau ciclurile de produse,” iar, conform modelului său de afaceri, munca privind siguranța și securitatea va fi „izolată de presiunile comerciale pe termen scurt,” au spus Sutskever și co-fondatorii săi, Daniel Gross și Daniel Levy, într-o declarație pregătită.
Cei trei au spus că Safe Superintelligence este o companie americană cu rădăcini în Palo Alto, California, și Tel Aviv, „unde avem rădăcini adânci și capacitatea de a recruta talente tehnice de top.”
Sutskever a fost parte a unui grup care a făcut o încercare nereușită anul trecut de a-l înlătura pe Altman. Tulburările interne care au urmat au fost centrate pe faptul că liderii de la OpenAI prioritizau oportunitățile de afaceri în detrimentul siguranței AI.
La OpenAI, Sutskever a co-condus o echipă axată pe dezvoltarea în siguranță a inteligenței artificiale superioare omului, cunoscută sub numele de inteligență generală artificială (AGI). Când a părăsit OpenAI, el a spus că are planuri pentru un proiect „foarte semnificativ personal,” dar nu a oferit detalii.
Sutskever a spus că a fost alegerea sa de a părăsi OpenAI.
La câteva zile după plecarea sa, co-liderul echipei sale, Jan Leike, a demisionat și a criticat OpenAI pentru că a lăsat siguranța „pe locul doi în fața produselor strălucitoare.” Ulterior, OpenAI a anunțat formarea unui comitet de siguranță și securitate, dar acesta a fost completat în mare parte cu persoane din interiorul companiei.