OpenAI nu va marca textul generat de ChatGPT pentru a evita potențialele probleme pentru utilizatori.
Compania are deja un sistem pentru marcarea textului creat de ChatGPT și un instrument pentru detectarea acestei mărci, gata de aproape un an, conform unui raport al The Wall Street Journal. Totuși, există diviziuni interne cu privire la lansarea acestei funcționalități. Deși ar părea o măsură responsabilă, aceasta ar putea afecta negativ profitabilitatea companiei.
Marcarea textului de către OpenAI implică ajustarea modului în care modelul prezice cele mai probabile cuvinte și fraze care urmează celor anterioare, creând un tipar detectabil.
Oferirea unui mod de a detecta materialul scris de IA ar fi un avantaj pentru profesori care încearcă să descurajeze studenții să își predea temele scrise de IA. The Journal raportează că marcarea nu a afectat calitatea textului generat de chatbot. Într-un sondaj comandat de companie, „oamenii din întreaga lume au susținut ideea unui instrument de detectare a IA într-o proporție de patru la unu,” scrie Journal.
După publicarea articolului de către Journal, OpenAI a confirmat într-o postare pe blog că a lucrat la marcarea textului. Conform documentelor văzute de Journal, metoda este foarte precisă (eficientă în proporție de 99.9%) și rezistentă la „manipulări, cum ar fi parafrazarea.” Totuși, tehnici precum reformularea cu un alt model fac „trivială evitarea de către actorii rău intenționați.” Compania este, de asemenea, îngrijorată de stigmatizarea utilității instrumentelor de IA pentru vorbitorii non-nativi.
Cu toate acestea, se pare că OpenAI este îngrijorată că utilizarea marcării ar putea descuraja utilizatorii ChatGPT, aproape 30% dintre aceștia declarând că ar folosi mai puțin software-ul dacă ar fi implementată marcarea.
În ciuda acestui fapt, unii angajați încă consideră că marcarea este eficientă. În lumina sentimentelor persistente ale utilizatorilor, Journal raportează că unii au sugerat încercarea unor metode „potențial mai puțin controversate printre utilizatori, dar neprobate.”
În postarea sa de blog, compania a spus că este „în stadii incipiente” de explorare a încorporării de metadate. Compania a declarat că este „prea devreme” pentru a ști cât de bine va funcționa, dar că, deoarece este criptografic semnat, nu ar exista rezultate fals pozitive.
