Studiu de caz: FactCompass, verificarea afirmațiilor cu AI, cu sursele la vedere

Un model AI întrebat dacă o afirmație e adevărată răspunde aproape întotdeauna sigur pe el. Problema e că siguranța nu are legătură cu adevărul: modelul a învățat din texte până la o anumită dată, nu știe ce s-a întâmplat ieri și, când nu știe, poate inventa o sursă care sună credibil¹.

FactCompass pornește de la ideea opusă. Nu întreabă modelul ce crede. Îl pune să caute dovezi, să le citească și abia apoi să tragă o concluzie, cu sursele puse la vedere. E o platformă gratuită de verificare a informațiilor, construită de noi pentru limba română.

Ce vede utilizatorul

Scrii o afirmație, de exemplu una auzită la televizor sau citită pe o rețea socială. Pe ecran vezi, pas cu pas, ce face sistemul: descompune afirmația, caută, citește sursele, cântărește dovezile. Progresul vine în timp real, printr-o conexiune WebSocket², așa că nu stai în fața unui ecran gol.

După aproximativ un minut și jumătate primești:

• un verdict: adevărat, fals, înșelător sau date insuficiente;
• un scor de încredere, de la 0 la 100;
• sursele pe care s-a bazat verdictul, fiecare cu relevanța și credibilitatea ei;
• un articol scurt care explică de ce, ca să poți verifica raționamentul, nu doar concluzia.

Verdictul „date insuficiente” a fost o decizie importantă. Un sistem care spune „nu știu” când nu găsește dovezi e mai util decât unul care are mereu un răspuns.

Cum ajunge la verdict, în 9 pași

1. Descompunerea. O frază ca „Guvernul a mărit salariul minim cu 20% anul trecut” conține de fapt mai multe afirmații: cine, ce, cât, când. Fiecare se verifică separat.
2. Planul de căutare. Pentru fiecare afirmație, sistemul decide ce să caute și unde.
3. Căutarea în surse specializate. Întâi caută în domeniile pe care le-am clasificat dinainte: instituții oficiale, organizații de fact-checking, plus o listă de site-uri cunoscute pentru dezinformare, care trebuie tratate cu grijă.
4. Căutarea generală, printr-un motor de căutare găzduit de noi, SearXNG³.
5. Ordonarea rezultatelor. Un ranker dă fiecărui rezultat un scor: 70% cât de apropiat e ca sens de afirmație, 20% dacă are aceleași cifre, 10% câte cuvinte are în comun. Cifrele au pondere separată pentru că, în fact-checking, „20%” față de „2%” e exact diferența care contează.
6. Extragerea textului. Paginile alese se descarcă și se curăță de meniuri, reclame și comentarii.
7. Evaluarea dovezilor. Pentru fiecare sursă, sistemul stabilește dacă susține afirmația, o contrazice sau nu spune nimic despre ea.
8. Articolul explicativ, scris doar din dovezile găsite.
9. Verdictul final, cu scorul de încredere.

Tehnologiile și de ce le-am ales

Go, de la un capăt la altul. Serverul web și workerul care rulează verificările sunt scrise în Go⁴. O verificare înseamnă zeci de cereri în rețea care pot întârzia sau cădea oricând, iar goroutines și context-ele cu timeout din Go fac ușor de controlat câte rulează deodată și cât așteptăm după fiecare. Descărcările merg în paralel, dar cu o limită, iar fiecare cerere are propriul timeout, ca o pagină care nu răspunde să nu blocheze toată verificarea.

Un motor de fluxuri, nu un program rigid. Pașii de mai sus nu sunt scriși „la fix” în cod. FactCompass are un motor în care un flux e o listă de pași, fiecare fie o instrucțiune pentru un model AI, fie o unealtă scrisă în Go: căutare, ranker, extragere. Pașii își transmit rezultatele printr-o stare comună, în JSON. Un flux nou se poate construi din panoul de administrare, fără să scriem cod, iar versiunile vechi rămân arhivate, ca să putem compara rezultatele.

Modele AI locale și în cloud, fiecare la locul lui. Pentru limba română folosim OpenEuroLLM-Romanian⁵, un model deschis bazat pe Gemma 3 și adaptat pentru limba română, care rulează pe serverele noastre prin Ollama⁶. Tot local calculăm și embeddings-urile, cu nomic-embed-text-v2-moe⁷, folosite de ranker ca să compare sensul textelor. Modelul local face pașii care cer înțelegerea fină a textului în română: descompunerea afirmației și evaluarea fiecărei surse. Planul de căutare și verdictul final le face Gemini⁸, de la Google.

Extragere în două trepte. Majoritatea paginilor se citesc simplu: le descărcăm și scoatem textul principal cu un algoritm de tip Readability⁹, același pe care îl folosesc browserele pentru modul de citire. Unele site-uri însă își afișează conținutul doar prin JavaScript. Pentru ele, FactCompass deschide pagina într-un Chrome fără interfață, controlat din Go prin chromedp¹⁰, și citește textul după ce s-a încărcat.

JSON reparat, nu aruncat. Modelele AI sunt rugate să răspundă în JSON, dar uneori uită o virgulă sau închid greșit o paranteză. În loc să pierdem un pas întreg, rezultatul trece printr-un strat de reparare, acoperit de teste automate pe cazurile reale întâlnite.

Ce am învățat de la motoarele de căutare

Cea mai mare parte a muncii nu a fost la modelele AI, ci la căutare. Câteva lecții:

• Prea multe căutări te scot din joc. Peste aproximativ zece căutări pe minut de pe același server, Google suspendă accesul pentru o zi întreagă. Așa că FactCompass își pune căutările la coadă, cu pauze între ele.
• Nu orice motor e bun pentru fact-checking. Unele întorc pagini populare când nu găsesc nimic relevant, altele răspund greu sau cer CAPTCHA. Le-am testat pe rând și le-am păstrat doar pe cele care întorc rezultate relevante pentru afirmații în română.
• Un singur caracter poate opri un filtru. O vreme, filtrul de limbă al căutării nu funcționa, fără nicio eroare: parametrul se numea altfel decât credeam.
• Când căutarea cade, aflăm noi primii. Dacă motorul de căutare nu răspunde, administratorul primește un email, dar nu mai des de o dată la 30 de minute, ca să nu fie inundat.

Unde a ajuns proiectul

FactCompass e online, gratuit, la factcompass.org. Primele măsurători interne, din ianuarie 2026, arătau o durată totală de aproximativ 100 de secunde pe verificare, iar cei mai lungi pași erau descompunerea afirmației și evaluarea dovezilor. De atunci lucrăm să crească numărul de verificări duse la capăt și să scadă timpul de răspuns.

Ce înseamnă asta pentru o firmă

Fluxul din spatele FactCompass, căutare, extragere, evaluarea dovezilor și concluzie cu surse, nu e specific știrilor. Același tip de sistem poate urmări ce fac concurenții, poate verifica un partener înainte de contract sau poate răspunde la întrebări din documentele firmei. Regula rămâne aceeași: fiecare concluzie vine cu dovezile ei.

La DO IT MAGIC SOFTWARE construim sisteme AI care își arată sursele. Dacă vrei un asemenea sistem pentru firma ta, scrie-ne.

Surse

Întrebări frecvente