Egyre komolyabb problémát jelentenek a közösségi médiában terjedő, mesterséges intelligenciával generált, úgynevezett deepfake csalások. Ezek során hírességek arcát és hangját használják fel megtévesztő hirdetésekhez. Most a Meta saját, függetlennek mondott felügyeleti testülete, az Oversight Board kongatta meg a vészharangot. Lesújtó véleményük szerint a Facebookot és az Instagramot is üzemeltető vállalat nem tesz eleget a saját szabályainak betartatásáért. Ezzel pedig túlságosan megkönnyíti a csalók dolgát.
A Felügyeleti Testület lesújtó véleménye: A Meta nem védi meg a felhasználóit a csalásoktól
A Felügyeleti Testület (Oversight Board), amelynek feladata a Meta tartalommoderálási döntéseinek felülvizsgálata és ajánlások megfogalmazása, éles kritikával illette a céget. Kijelentették, hogy a vállalat nem lép fel elég hatékonyan a platformjain terjedő, egyre kifinomultabb átverésekkel szemben. Különösen aggasztónak tartják a MI-manipulált tartalmak terjedését. Ezek komoly anyagi és erkölcsi kárt okozhatnak a gyanútlan felhasználóknak. A testület véleményének súlya van. Hiszen elvileg pont azért hozták létre, hogy külső kontrollt biztosítson a Meta működése felett.
A Ronaldo Nazário-eset: Egy kirívó példa a moderációs hiányosságokra és a lassú reakcióra
A testület egy konkrét esetet is részletesen elemzett, hogy rávilágítson a rendszerszintű problémákra. Egy online szerencsejáték népszerűsítésére egy olyan videót használtak, amelyben Ronaldo Nazário, a visszavonult brazil futballsztár MI-generált mása szerepelt. A Felügyeleti Testület szerint a hirdetés „nyilvánvaló jeleit mutatta annak, hogy átverés”. Ennek ellenére a Meta még akkor sem volt hajlandó törölni azt, amikor már több mint 50 alkalommal jelentették a felhasználók.
Később, a növekvő nyomás hatására, a techóriás végül eltávolította a hirdetést. Azonban az alapjául szolgáló Facebook-poszt továbbra is elérhető maradt. Egészen addig, amíg maga az Oversight Board bele nem kezdett az ügy hivatalos kivizsgálásába. Mire ez megtörtént, a megtévesztő tartalom már több mint 600 ezer megtekintést generált – részletezi az Engadget. Ez az eset jól mutatja a moderációs folyamatok lassúságát és hiányosságait.
Rendszerszintű problémák és a testület javaslatai a hatékonyabb fellépés érdekében
A felügyelő testület szerint a Ronaldo-eset nem egyedi. Alapvető moderációs hibákra világít rá abban, ahogyan a Meta a közszereplőket érintő, bejelentett csalásokat kezeli. A probléma megoldására egy konkrét ajánlást is megfogalmaztak. Sürgetik a céget, hogy változtasson belső irányelvein. Különösen fontosnak tartják, hogy a tartalomellenőröket megfelelő képzésben részesítsék. Meg kell tanítani nekik, hogyan ismerhetik fel hatékonyan az MI-manipulált tartalmakat. Ez elengedhetetlen a jövőbeli, még kifinomultabb deepfake videók kiszűréséhez. A felhasználók védelme érdekében proaktívabb lépésekre van szükség.
A Meta védekezése: Pontatlanságok vádja és a meglévő technológiai tesztekre való hivatkozás
A Meta szóvivője a testület kritikáira reagálva úgy nyilatkozott, hogy a jelentés „számos állítása egyszerűen pontatlan”. A vállalat ezzel lényegében elhárította a felelősséget. A szóvivő felhívta a figyelmet egy tavaly (2024) megkezdett tesztre. Ez a rendszer arcfelismerést alkalmaz a hírességeket érintő csalások és megtévesztő tartalmak kiszűrésére. Azonban a Felügyeleti Testület által vizsgált eset azt mutatja, hogy ezek a meglévő rendszerek vagy nem elég hatékonyak, vagy nem alkalmazzák őket következetesen. A két fél közötti véleménykülönbség egyértelmű.
A mesterséges intelligencia és a dezinformáció harca a közösségi médiában: Új kihívások
A deepfake csalások problémája túlmutat a Meta platformjain. A mesterséges intelligencia fejlődésével egyre könnyebbé és olcsóbbá válik meggyőző, hamis videók és hangfelvételek létrehozása. Ez komoly kihívás elé állítja a közösségi média platformokat. Folyamatosan fejleszteniük kell felismerő algoritmusaikat. Emellett hatékonyabbá kell tenniük a tartalommoderációs folyamataikat. A káros tartalmak terjedése aláássa a platformokba vetett bizalmat. Jelentős társadalmi és anyagi károkat okozhat.
Összegzés: Növekvő nyomás a Metán a hatékonyabb fellépés és a felhasználók védelme érdekében
A Meta saját Felügyeleti Testületének éles kritikája jelentősen növeli a cégre nehezedő nyomást. Egyértelművé teszi a szakadékot a vállalat által hangoztatott szabályzatok és a valós gyakorlat között. Bár a Facebook és az Instagram igyekszik a technológiai fejlődés élvonalában maradni, a biztonsági és moderációs kérdésekben úgy tűnik, lemaradásban vannak. A felhasználók és a szabályozó hatóságok egyaránt hatékonyabb és átláthatóbb fellépést várnak el a deepfake-ek és más online csalások visszaszorítása érdekében. Az Oversight Board jelentése egy fontos figyelmeztetés. Jelzi, hogy a probléma megoldása már nem tűr halasztást.
Leave a Reply