Partea a II-a. Dintr-un citat inventat până la o lege care nu există: Nea Toma află cum se verifică informațiile generate de AI. Citește prima parte a episodului.
Legea care există numai în capul calculatorului
Gențiana trecu la un exemplu ceva mai serios. Uneori, AI poate indica studii inexistente, titluri de cărți inventate sau articole de lege care nu spun ceea ce pretinde răspunsul. Și le poate prezenta cu o siguranță demnă de un funcționar care tocmai ți-a respins cererea.
— AI poate inventa inclusiv surse, numere de articole sau referințe. O trimitere trebuie verificată, nu doar admirată.
Toma se îndreptă imediat în scaun.
— Adică dacă-i cer legea pentru reclamația împotriva administratorului, îmi poate da un articol greșit? — Da. Verificați legea actualizată pe un site oficial. — Și dacă îmi dă și sursa? — O deschideți și verificați ce scrie acolo. — Păcat! O lege inventată în favoarea mea ar fi prima care funcționează perfect!
Costel găsi imediat o obiecție.
— Dar dacă trebuie să verific tot, la ce-mi mai folosește AI? — Vă ajută să înțelegeți mai repede, să organizați informații și să pregătiți întrebările potrivite. — Costele, și calculatorul de buzunar te ajută la socotit, interveni Toma. Dar dacă bagi cifrele greșite, nu vine să-ți plătească diferența!
Gențiana insistă că greșelile devin periculoase atunci când cineva folosește un răspuns neverificat pentru o decizie medicală, financiară sau juridică. Una era să-i atribui lui Caragiale o poantă în plus și alta să invoci în instanță o hotărâre care exista numai în imaginația calculatorului.
Cum întrebi ca să nu primești povești cu ștampilă
Pentru partea practică, Gențiana le arătă cum să formuleze întrebări mai bune. În loc să ceară pur și simplu un răspuns, puteau solicita explicații clare, surse și precizarea lucrurilor incerte.
— Folosiți întrebări precum: „De unde știi?”, „Pot verifica această informație?” și „Ce nu este sigur în răspunsul tău?”
— Adică îi dăm voie să spună „nu știu”? întrebă Toma. — Exact. — Revoluționar! În România, dacă ai microfon, ești obligat să te pricepi la orice!
Gențiana îi avertiză totuși că nici instrucțiunea „Nu inventa informații” nu garantează eliminarea greșelilor. Răspunsurile importante trebuie controlate, iar știrile, prețurile, legile și rezultatele sportive trebuie verificate în surse actualizate.
— Dacă-l întreb cine a câștigat meciul de aseară, poate să greșească? întrebă Costel. — Dacă nu are informații actualizate sau folosește o sursă greșită, da. — Bravo, Costele! Ai descoperit că poți afla scorul și de la federație. Încă puțin și reinventezi ziarul!
Tema pentru acasă: verifică înainte să crezi
La sfârșitul lecției, Gențiana le ceru să aleagă un răspuns primit de la AI și să verifice o informație importantă din el. Toma alese un eveniment istoric, iar Costel, bineînțeles, specificațiile unui aparat de făcut cârnați. Pentru prima dată, vecinul urma să citească informațiile producătorului, nu reclama cu reducere de nouăzeci la sută.
Toma își notă regulile esențiale ale serii: verifică afirmațiile importante; deschide sursele indicate; controlează dacă informațiile sunt actuale; nu lua decizii privind sănătatea, banii sau drepturile tale pe baza unui răspuns neverificat.
După închiderea Zoom-ului, Costel rămase pe gânduri. Descoperise că inteligența artificială putea greși, că un citat frumos nu devenea autentic prin distribuire și că o lege inventată nu putea fi invocată împotriva administratorului.
— Tomo, dacă AI poate inventa, de unde știu când spune adevărul? — Verifici. — Și dacă nu verific? — Atunci faci ca la televizor: spui prostii cu mare siguranță și speri că n-a citit nimeni!
Domnișoara AI interveni de pe telefon, oferindu-se să-i ajute să găsească surse pentru verificare. Toma îi răspunse că acceptă cu plăcere, cu o singură condiție: dacă nu știe ceva, să spună că nu știe. Costel, în schimb, continua să regrete citatul.
— Mie tot îmi place ce-a zis Caragiale! — Costele, n-am stabilit că a zis-o! — Bine, dar sigur ar fi putut! — Și tu ai fi putut câștiga Nobelul. Hai să nu exagerăm cu posibilitățile!
Vecinul plecă bombănind, fără citat și fără satisfacția victoriei intelectuale. Toma rămase la masă și scrise în caiet:
„Inteligența artificială poate inventa. Eu trebuie să verific înainte să cred.”
Apoi o întrebă pe domnișoara AI:
— Spune-mi, dacă un calculator inventează un lucru și zece mii de oameni îl distribuie, ce avem?
— O informație falsă care se poate răspândi foarte repede.
— Și dacă mai apare și un specialist la televizor care o confirmă?
— Atunci dezinformarea poate deveni și mai convingătoare.
Toma dădu din cap, mulțumit.
— Exact, domnișoară! Pe vremuri, ca să răspândești o minciună, aveai nevoie de un zvoner și de un răspândac. Acum ai inteligență artificială, Facebook și pe Costel. Într-o oră, minciuna are bibliografie, zece mii de distribuiri și invitație la televizor!
Domnișoara AI îi răspunse că verificarea informațiilor rămâne esențială.
— Așa este! Și mai ține minte ceva: în România, adevărul trebuie să vină cu acte. Prostia intră fără programare!
În episodul următor: „Cum vorbești cu robotul fără să-i spui «să trăiți»”. Nea Toma descoperă ce este un prompt și de ce, dacă îi ceri vag unui AI să-ți scrie o reclamație, poți primi o declarație de dragoste pentru administrator.
Rămâi pe AI Drept la Subiect. Aici verificăm informațiile înainte să le credem, chiar dacă sunt prezentate cu eleganța unui profesor universitar și siguranța unui politician în campanie!
Citește episodul în ordine
- Partea I: ChatGPT știe tot. Inclusiv lucruri care nu s-au întâmplat. Nea Toma descoperă halucinațiile AI
- Cuprinsul complet al seriei
Mai departe în serie: Nea Toma descoperă arta promptului
Surse externe și informații utile
Citește și: seria «Românul și AI» și cum verifici răspunsurile AI.
Lasă un răspuns