Episodul 7 — Românul față în față cu inteligența artificială. Nea Toma descoperă că AI poate inventa informații cu o siguranță impresionantă. Cuprinsul seriei.
Din seria „Românul față în față cu inteligența artificială”
Costel găsește pe Facebook un citat pe care Caragiale nu l-a semnat
Domnul Toma își citea liniștit ziarul când Costel intră în sufragerie cu aerul unui academician care tocmai descoperise un manuscris pierdut. Avea telefonul în mână și zâmbetul superior al omului care găsise pe internet o informație și, prin urmare, nu mai putea fi contrazis.
— Tomo, ascultă ce-a spus Caragiale: „În România, viitorul vine prin poștă și nu găsește pe nimeni acasă!” — Frumos! Unde a scris asta? — Nu știu, dar am întrebat inteligența artificială! — Și? — Mi-a explicat ce-a vrut autorul să spună. — Costele, dacă ăi ziceai că ai câștigat Premiul Nobel, îți scria și discursul de mulțumire!
Costel era indignat. Asistentul îi oferise o interpretare elegantă, cu „ironie socială”, „mentalitate colectivă” și „actualitatea mesajului”. Pentru el, asemenea cuvinte țineau loc de probe. Toma îi ceru titlul operei, pagina și anul publicării. Costel nu avea nimic din toate acestea, dar avea fotografia lui Caragiale lângă citat. În România digitală, poza autorului ține loc de bibliografie, iar trei semne de exclamare valorează cât o ștampilă.
— Dacă sună a Caragiale, poate e de Caragiale! insistă Costel. — Și tu sforăi ca un tractor. Asta nu înseamnă că te-a fabricat Uzina Tractorul Brașov!
Toma îi recomandă să păstreze descoperirea pentru cursul de seară. Gențiana avea să lămurească situația. Costel acceptă, convins că urma să primească felicitări pentru contribuția adusă culturii naționale.
Halucinațiile AI. Când calculatorul inventează fără să roșească.
La ora șapte, cei doi intrară pe Zoom. Toma avea caietul și biscuiții, Costel avea citatul salvat și expresia martorului principal într-un proces literar. Gențiana anunță tema serii: halucinațiile inteligenței artificiale.
— Aoleu, doamnă! Acum au început și calculatoarele să vadă lucruri care nu există? — Nu chiar ca oamenii. O halucinație AI este o informație falsă sau inventată, prezentată ca și cum ar fi adevărată. — Deci minte? — Poate greși fără să aibă intenția omenească de a minți. — Aha! Ca un politician care ne anunță sincer că o ducem extraordinar!
Gențiana le propuse un exemplu. La ședința de bloc, un vecin spune că trebuie reparat liftul, altul aude că există bani în fondul de reparații, iar Costel anunță că marți vine un lift nou, gratuit, cu oglindă și aer condiționat. Nimeni nu confirmase nimic, dar informația circulase deja pe grupul blocului.
— Și liftul vine? întrebă Toma. — Nu știm. Costel a legat niște informații și a completat singur ce lipsea. — Eu nu fac așa! protestă vecinul. — Ba faci, mă! Anul trecut ai anunțat că ne izolează blocul gratis. Până la urmă ne-au izolat doar de adevăr!
Gențiana lămuri mecanismul fără formule complicate. Un asistent AI construiește răspunsuri pe baza tiparelor învățate din numeroase texte. Se pricepe să formuleze explicații, dar asta nu înseamnă că verifică automat fiecare afirmație.
AI poate da răspunsuri care sună foarte convingător, chiar și atunci când sunt greșite.
— Deci vorbește frumos și uneori habar n-are? întrebă Toma. — Se poate întâmpla. — Pentru asta nu trebuia să inventăm calculatoare. Aveam deja talk-show-uri!
Un citat fără sursă și un autor fără apărare
Gențiana îi ceru lui Costel să arate postarea. Nu exista nici carte, nici pagină, nici vreo trimitere verificabilă. Doar portretul lui Caragiale, citatul și câteva sute de distribuiri. Internetul rezolvase problema autenticității prin vot popular.
— Domnule Costel, nu avem o dovadă că acest citat îi aparține lui Caragiale. — Dar AI mi l-a explicat! — Pentru că a pornit de la presupunerea dumneavoastră. Dacă întrebarea conține o informație greșită, răspunsul poate continua pe aceeași greșeală. — Deci inventează și explicația? — Se poate. — Costele, interveni Toma, îl întrebi de ce ai ajuns academician, ea te crede și mâine îți cere poza pentru enciclopedie!
Gențiana le arătă diferența dintre o întrebare care presupune ceva neverificat și una care cere verificarea. În loc de „De ce a spus Caragiale asta?”, trebuiau să întrebe: „Există dovezi că acest citat îi aparține lui Caragiale? Unde a fost publicat?”
Nu porni de la o informație neverificată ca și cum ar fi adevărată. Cere dovezi și verifică sursa originală.
— Și dacă-mi place citatul? întrebă Costel. — Îl puteți păstra fără să-l atribuiți unui autor neverificat. — Ai auzit? spuse Toma. Lasă-l pe Caragiale în pace! Omul a murit în 1912 și românii îl pun și astăzi să scrie gratuit pentru Facebook!
Costel elimină numele autorului. Păstră însă citatul, fiindcă unele despărțiri literare sunt mai grele decât cele matrimoniale.
Continuarea acestui episod
Nea Toma a descoperit citatele inventate. În continuare verifică și legile care există numai în răspunsul unui calculator. Partea a II-a: ChatGPT inventează legi? Nea Toma verifică răspunsurile AI.
Citește în ordine
Surse externe și informații utile
Citește și: seria «Românul și AI» și verificarea răspunsurilor AI.
