Un model AI poate produce în câteva secunde un răspuns clar, bine structurat și aparent convingător.
Această capacitate este utilă, dar poate crea o problemă. Când informația este prezentată sigur și coerent, avem tendința să o considerăm corectă înainte să o verificăm.
Forma răspunsului nu oferă însă o garanție asupra conținutului.
Modelul poate omite un detaliu important, poate folosi informații vechi sau poate completa o lipsă cu o afirmație plauzibilă. Uneori poate indica o sursă care nu există ori poate interpreta greșit un document real.
Un răspuns convingător nu este automat un răspuns verificat.
Scopul acestui articol nu este să diminueze utilitatea AI-ului, este să arate unde apar erorile și cum adaptăm verificarea la importanța rezultatului.
🔘 De ce poate greși un model AI
Un model generează răspunsuri folosind promptul, contextul, tiparele învățate și instrumentele disponibile.
Nu consultă automat realitatea înainte să formuleze fiecare propoziție. Dacă informația lipsește sau nu are acces la o sursă actuală, poate construi un răspuns pe baza relațiilor pe care le-a învățat.
În multe situații, rezultatul este corect și util. În altele, modelul poate produce o continuare potrivită ca limbaj, dar greșită factual.
Eroarea poate fi dificil de observat deoarece informația falsă poate apărea într-o explicație coerentă, alături de informații corecte.
Modelul generează ceea ce pare potrivit în context. Adevărul factual trebuie stabilit separat.
Riscul nu este același pentru toate sarcinile. O listă de idei și o recomandare medicală nu trebuie tratate după același standard.
🔘 Ce este o halucinație AI
Termenul halucinație AI descrie situația în care modelul generează informații false, inventate sau nesusținute și le prezintă ca reale.
Este un termen convențional din domeniul AI. Nu descrie o experiență umană sau medicală.
Modelul nu decide să mintă. Construiește un răspuns plauzibil, iar uneori construcția include elemente care nu pot fi confirmate.
Cerere riscantă
Oferă-mi trei studii care demonstrează că această metodă crește productivitatea cu cel puțin 40%.
Cererea presupune că studiile există și introduce concluzia dorită. Modelul poate genera titluri, autori sau rezultate care par credibile, dar nu există în forma prezentată.
Cerere mai sigură
Verifică dacă există studii credibile despre efectul acestei metode asupra productivității. Nu presupune că efectul este pozitiv și nu inventa surse. Dacă dovezile sunt insuficiente, spune clar acest lucru.
Un prompt bun poate reduce riscul unei halucinații, dar nu îl poate elimina complet.
🔘 Sursele pot părea reale fără să existe
Modelele pot genera titluri, nume de autori, instituții și adrese web într-o formă credibilă.
Unele surse pot fi reale și prezentate corect. Altele pot exista, dar să nu susțină afirmația. În alte cazuri, sursa poate fi inventată sau combinată din elemente reale.
Afirmație care necesită control
Conform unui studiu publicat de Institutul European pentru Productivitate în 2024, folosirea AI reduce timpul administrativ cu 37%.
Afirmația conține o instituție, un an și un procent. Tocmai această precizie o face credibilă.
Trebuie să verificăm dacă instituția și studiul există, ce metodă a fost folosită și dacă procentul susține situația discutată.
Precizia aparentă nu înlocuiește dovada. Cu cât afirmația este mai exactă, cu atât trebuie să fie mai ușor de verificat.
🔘 Informația poate fi reală, dar depășită
Uneori, modelul oferă o informație care a fost corectă, dar nu mai este actuală. Legile, prețurile, funcțiile produselor și regulile platformelor se pot schimba.
Cerere dependentă de timp
Care sunt condițiile actuale pentru accesarea acestui program de finanțare?
Cuvântul „actuale” indică nevoia unor surse recente.
Cerere cu verificare temporală
Verifică pe pagina oficială condițiile valabile la data de [data]. Separă informațiile confirmate de cele care nu pot fi verificate și indică data actualizării sursei.
Informația corectă fără o dată relevantă poate deveni informație greșită.
🔘 Un răspuns poate fi corect, dar incomplet
Erorile nu apar numai când modelul spune ceva fals.
Un răspuns poate conține informații corecte și totuși să creeze o imagine greșită prin ceea ce omite.
Cerere orientată într-o singură direcție
Prezintă avantajele folosirii AI-ului în recrutare.
Modelul poate respecta cererea și poate omite costurile, riscurile sau deciziile care trebuie să rămână sub control uman.
Cerere echilibrată
Analizează folosirea AI-ului în recrutare. Separă beneficiile, limitele, riscurile și deciziile care trebuie să rămână sub control uman.
O omisiune importantă poate schimba sensul general chiar dacă afirmațiile incluse sunt corecte.
🔘 Modelul poate accepta o premisă greșită
Unele erori pornesc din prompt.
Prompt construit pe o presupunere
Explică de ce noua lege interzice folosirea acestui serviciu de către firmele mici.
Cererea presupune că legea și interdicția există.
Prompt care verifică premisa
Verifică mai întâi dacă legislația în vigoare interzice folosirea acestui serviciu de către firmele mici. Dacă există o asemenea prevedere, explică domeniul aplicării. Dacă premisa nu este corectă, indică ce poate fi confirmat.
Înainte să ceri explicația unei afirmații, verifică dacă afirmația este adevărată.
🔘 O sursă reală poate fi interpretată greșit
Modelul poate confunda o excepție cu regula generală, poate pierde o condiție sau poate simplifica excesiv un pasaj.
Riscul crește când documentul este lung, specializat, incomplet sau dependent de definiții din alte secțiuni.
Cerere superficială
Citește contractul și spune-mi dacă este sigur.
Termenul „sigur” nu are un sens precis.
Cerere controlată
Extrage clauzele despre durată, încetare, penalități, răspundere și folosirea datelor. Citează pasajele relevante și separă observațiile bazate pe text de întrebările care necesită evaluarea unui specialist.
AI-ul poate accelera examinarea unui document, dar nivelul verificării trebuie adaptat mizei și efectelor sale.
🔘 Calculele și codul trebuie testate
Un model poate greși la operații, unități, procente sau succesiuni mai lungi de pași.
Cerere verificabilă
Calculează costul total pentru 18 luni folosind valorile din tabel. Prezintă separat formula, valorile, unitățile și rezultatul. Semnalează datele lipsă și nu le înlocui prin presupuneri.
Pentru calcule importante este preferabil un instrument de calcul sau o foaie de calcul. Codul trebuie executat și testat, nu considerat corect numai pentru că arată convingător.
Când rezultatul poate fi calculat sau testat, verificarea trebuie făcută prin calcul sau testare.
🔘 Căutarea și instrumentele ajută, dar nu garantează
Unele modele pot căuta pe internet, analiza fișiere, executa cod sau consulta surse externe.
Aceste instrumente pot reduce anumite erori, dar modelul poate selecta o sursă slabă, interpreta greșit informația sau calcula folosind date greșite.
Procesul prin care răspunsul este legat de surse identificabile este numit uneori grounding. Într-un limbaj simplu, răspunsul este construit și controlat pe baza unor informații verificabile, nu numai din cunoștințele generale ale modelului.
Instrumentele cresc capacitatea de verificare, dar nu elimină nevoia de judecată.
🔘 Nu toate răspunsurile au nevoie de aceeași verificare
Nivelul de risc descrie consecințele folosirii unui răspuns greșit, nu probabilitatea că modelul va răspunde corect.
Putem evalua riscul prin trei întrebări:
Cât de probabilă este o eroare?
Cât de greu este să observăm eroarea?
Ce consecințe ar avea folosirea informației greșite?
Cu cât consecințele unei erori sunt mai mari, cu atât rolul AI-ului în decizia finală trebuie să fie mai limitat.
🔘 O metodă simplă de verificare
Pentru un răspuns factual, folosește cinci pași:
Identifică afirmațiile verificabile. Separă opiniile de nume, date, procente și reguli.
Cere sursele. Nu presupune că sunt corecte numai pentru că au fost oferite.
Deschide sursa. Verifică dacă există și dacă susține afirmația.
Controlează data și contextul. Confirmă momentul și condițiile aplicării.
Compară cu o sursă independentă. Pentru o afirmație importantă, caută o confirmare separată.
Verificarea înseamnă compararea răspunsului cu dovezile disponibile, nu solicitarea unei formulări mai convingătoare.
🔘 Exercițiu: auditează un răspuns
Alege un răspuns AI care conține informații factuale și marchează fiecare afirmație importantă:
confirmată;
parțial confirmată;
neconfirmată;
incorectă;
dependentă de context;
dependentă de timp.
Verifică în special numele, procentele, citatele, datele, relațiile de cauză și efect și regulile.
Nu controla numai afirmațiile care par suspecte. Erorile greu de observat sunt adesea formulate credibil.
🔘 Ce merită reținut
Un răspuns fluent nu este automat un răspuns verificat.
Un model poate genera informații false sau nesusținute într-o formă credibilă.
Sursele oferite de AI trebuie deschise și comparate cu afirmațiile.
Informațiile recente trebuie verificate folosind surse actualizate.
Un răspuns poate induce în eroare și prin omisiuni.
Premisele trebuie verificate înaintea explicațiilor bazate pe ele.
Calculele și codul trebuie testate.
Instrumentele ajută, dar nu elimină verificarea.
Nivelul verificării trebuie să crească odată cu riscul și consecințele unei erori.
🔘 De la limitele modelului la un prompt complet
Primele patru articole au construit fundația: cum generează modelul răspunsul, de ce formularea schimbă rezultatul, cum alegem contextul și unde apar erorile.
Putem trece acum la construirea unei cereri mai complete.
Următorul articol este „Anatomia unui prompt extins”. Vom analiza componentele unui prompt complex și vom vedea care sunt necesare, opționale sau inutile într-o anumită situație.
Descoperă cum poți folosi mai eficient inteligența artificială, prin articole, ghiduri și resurse practice.
Învață să construiești prompturi mai clare și să obții rezultate mai bune de la AI, cu ghiduri, exemple și metode practice, în seria Prompting AI.