AI vizual : Cum se “fabrică” realitatea – InfoCons protectia consumatorilor de securitate cibernetica
Campanie de conștientizare, despre prevenție și reziliență.
Campanie ADA (Analizează. Decide. Acționează.) – episodul 5 – AI vizual: Cum se “fabrică” realitatea
Trăim într-o perioadă în care ceea ce vedem nu mai este neapărat adevărat. AI-ul vizual a ajuns atât de avansat încât poate crea imagini și videoclipuri care par autentice, dar sunt complet ireale.
Vorbim despre oameni care nu există, declarații care nu au fost rostite niciodată și clipuri în care fețele și vocile pot fi schimbate în câteva secunde.
Tehnologia din spate este impresionantă, apar algoritmi care învață din milioane de imagini și pot reproduce orice detaliu, de la expresii faciale până la mișcări ale buzelor. Așa se construiesc deepfake-urile, acele materiale ce pot păcăli chiar și un ochi antrenat.
Toate acestea conduc la prăbușirea încrederii noastre asupra vizualului sau chiar a celorlalte simțuri. Un clip ce expune o personalitate poate declanșa controverse. Un „martor ocular” inventat alimentează dezinformarea.
Iar un influencer virtual poate promova orice interes, fără ca publicul să știe că în spate nu este nicio persoană reală.
Inteligența artificială înțelege limbajul uman – InfoCons protectia consumatorilor de securitate cibernetica
Riscurile sunt serioase, de la manipulare emoțională la șantaj, fake news sau reputații distruse. Viteza de propagare a unor astfel de materiale devine greu de controlat.
Ce putem face? Să verificăm sursa, să fim atenți la conținutul prea șocant și să folosim instrumente care detectează falsurile, ca Deepware scanner. Și, foarte important, să nu distribuim materiale suspecte înainte de a le verifica.
AI-ul vizual este o tehnologie spectaculoasă, dar ne obligă să fim mai vigilenți ca oricând. În era digitală, nu tot ce vedem este real!
Acest demers se bazează pe unul dintre ghidurile programului educațional ADA (Analizează. Decide. Acționează.) derulat în parteneriat cu Centrul Național Cyberint, din cadrul Serviciului Român de Informații, a Directoratului Național de Securitate Cibernetică, Poliția Română și Asocianția Română de Securitate Cibernetică pentru Cloud (Cloud Security Alliance Romanian Chapter).
Semnat :
Mircea Constantin Șcheau Ph.D. in Public Order and National Security
