Un studiu recent arată că persoanele fără expertiză juridică sunt mai predispuse să urmeze sfaturile oferite de ChatGPT decât cele ale avocaților reali, în special atunci când nu știu cine a furnizat consilierea. Rezultatele evidențiază provocările generate de creșterea utilizării conținutului generat de inteligență artificială.
Studiul a implicat 288 de participanți care au fost expuși la sfaturi juridice provenite fie de la avocați, fie de la ChatGPT. În primele două experimente, atunci când sursa sfatului nu era dezvăluită, participanții au arătat o preferință mai mare pentru sfaturile generate de AI. Chiar și când identitatea sursei era dezvăluită, nivelul de încredere acordat consilierii AI a rămas similar cu cel al avocaților umani.
Un factor determinant pare să fie limbajul utilizat: răspunsurile AI tind să fie mai concise și să folosească un limbaj mai complex, ceea ce contribuie la percepția de autoritate. Prin contrast, răspunsurile avocaților au fost mai lungi și au folosit un limbaj mai simplu.
Într-un al treilea experiment, s-a testat abilitatea participanților de a distinge între conținutul generat de AI și cel uman fără a cunoaște sursa. Rezultatele au arătat o rată de succes de 0,59 pe o scară unde 0,5 reprezenta ghicirea aleatorie, indicând o capacitate slabă, dar existentă, de a diferenția sursele.
Riscurile asociate consilierii AI
Utilizarea AI în domenii sensibile, precum dreptul, comportă riscuri semnificative, în special din cauza fenomenului de „halucinație” – generarea de răspunsuri eronate sau fără sens de către modelele lingvistice. În domeniul juridic, un sfat incorect poate avea consecințe grave, inclusiv complicații legale sau erori judiciare.
Creșterea încrederii publicului în consilierea oferită de AI subliniază necesitatea unor măsuri clare de reglementare și a îmbunătățirii alfabetizării digitale a populației.
Nevoia de reglementare și alfabetizare AI
În prezent, inițiative precum Actul UE privind Inteligența Artificială prevăd ca textele generate de AI să fie marcate corespunzător și detectabile ca fiind artificiale. Însă experții susțin că aceste măsuri trebuie completate prin educarea utilizatorilor pentru a-i ajuta să evalueze critic informațiile primite.
Practic, aceasta înseamnă că utilizatorii ar trebui să verifice informațiile importante din surse de încredere și să consulte specialiști umani, în special în domenii cu impact major, cum ar fi dreptul.
Recomandări pentru utilizarea responsabilă a AI
Utilizarea ChatGPT sau a altor modele AI poate fi utilă pentru obținerea de informații preliminare — cum ar fi identificarea opțiunilor legale sau găsirea unor cazuri similare. Totuși, orice decizie finală ar trebui validată de un avocat calificat.
Prin combinarea unei reglementări adecvate cu o mai bună educație în utilizarea AI, se pot maximiza beneficiile acestor tehnologii emergente, reducând în același timp riscurile asociate.
