Inteligența artificială înțelege limbajul uman – InfoCons protectia consumatorilor de securitate cibernetica
Campanie de conștientizare, despre prevenție și reziliență.
Campanie ADA (Analizează. Decide. Acționează.) – episodul 4 – Inteligența artificială înțelege limbajul uman
Inteligența Artificială de tip Large Language Model înțelege limbajul uman și generează la rândul ei componente conversaționale asemănătoare celor naturale.
Modulele sunt antrenate pe volume mari de text … pe miliarde sau trilioane de cuvinte din cărți, articole, site-uri, analize sau doar linii de cod.
Ele învață predictiv într-un context controlat, iar după antrenare pot răspunde la întrebări, redacta texte, rezuma informații și susține dezbateri coerente.
Exemple de astfel de modele sunt ChatGPT, Gemini, Claude, Mistral sau Command-R. Acestea sunt integrate în aplicații comerciale, educaționale și organizaționale.
LLM-urile pot produce conținut persuasiv, pot construi articole, opinii sau știri false.
La o examinare superficială, răspunsurile pot părea neutre, dar reflectă datele de antrenament și parametrii modelului.
Inteligența artificială poate imita stilul unei persoane reale în conversații text și poate ghida utilizatorul spre anumite idei, concluzii sau produse.
Începuturile Inteligenței Artificiale – InfoCons protectia consumatorilor de securitate cibernetica
Un actor malițios poate genera sute de articole „expert” pe o temă controversată, toate orientate spre o aceeași direcție conceptuală.
Un chatbot empatic poate sugera soluții care conduc spre decizii riscante, iar un model configurat strategic poate infiltra mesaje persuasive în contexte de dezinformare.
Riscul este de escaladare a manipulării prin crearea în câteva minute a mii de texte adaptate emoțional și ideologic. Fragmentele pot părea naturale și credibile, ceea ce face dificilă diferențierea față de cele autentice.
Te protejezi dacă tratezi inteligența artificială ca un instrument – nu ca o sursă absolută de adevăr!
Verifici sursa primară a informației, apoi analizezi dacă textul pare prea perfect structurat sau argumentat, iar în final observi tehnici persuasive precum repetiția, apelul la emoții sau lipsa surselor verificate.
Gândirea critică reprezintă primul scut, primul strat de apărare pentru o bună protecție!
Acest demers se bazează pe unul dintre ghidurile programului educațional ADA (Analizează. Decide. Acționează.) derulat în parteneriat cu Centrul Național Cyberint, din cadrul Serviciului Român de Informații, a Directoratului Național de Securitate Cibernetică, Poliția Română și Asocianția Română de Securitate Cibernetică pentru Cloud (Cloud Security Alliance Romanian Chapter).
Semnat :
Mircea Constantin Șcheau Ph.D. in Public Order and National Security
