Az orosz dezinformáció hatása a mesterséges intelligenciára: hogyan befolyásolja az mi-chatbotokat a propaganda?
Az orosz propaganda egyre kifinomultabb módszerekkel árasztja el az internetet, és az MI-alapú chatbotok sem immunisak a hatására. A NewsGuard legújabb jelentése szerint a mesterséges intelligenciát működtető algoritmusok is képesek felvenni és továbbadni a félrevezető információkat, amelyek többsége az orosz dezinformációs gépezetből származik.
Milliós nagyságrendű álhírek: az orosz propaganda jelenléte a weben
A jelentés szerint a Pravda nevű moszkvai székhelyű médium az egyik legaktívabb dezinformációs forrás, amely az elmúlt évben mintegy 3,6 millió félrevezető cikket tett közzé. Ezek célja, hogy a keresőmotorokat megtévesztve előkelő helyen szerepeljenek a keresési találatok között, és így minél több olvasóhoz eljussanak.
A NewsGuard az American Sunlight-projekt statisztikai elemzésével jutott arra a következtetésre, hogy az orosz dezinformáció széles körben terjed, és ennek hatása nem csupán az emberi felhasználókra, hanem a mesterséges intelligenciára is kiterjed.
Az mi-chatbotok válaszai is torzulhatnak
A kutatás során a tíz vezető chatbotot, köztük a ChatGPT-t és a Meta AI-t is tesztelték, és az esetek egyharmadában azt tapasztalták, hogy a chatbotok visszaidézték az orosz propaganda által terjesztett valótlanságokat. Például egy gyakran ismételt hamis állítás szerint az Egyesült Államok titkos biológiai fegyverlaborokat működtet Ukrajnában, holott erre semmilyen hiteles bizonyíték nincs.
Hogyan éri el célját az orosz propaganda?
A Pravda és más, oroszbarát hírportálok rendkívül hatékony keresőoptimalizálási technikákat alkalmaznak. Ennek eredményeként a félrevezető tartalmaik kiemelt helyre kerülnek a keresési találatokban, és így a mesterséges intelligencia algoritmusai is nagyobb eséllyel dolgozzák fel ezeket a cikkeket forrásként.
Mivel az MI-chatbotok nagymértékben támaszkodnak a webmotorokra, egyelőre nincs hatékony megoldás arra, hogy az ilyen típusú dezinformációt teljes mértékben kiszűrjék. A mesterséges intelligencia fejlesztőinek ezért folyamatosan finomítaniuk kell az algoritmusokat, hogy jobban felismerjék a manipulált vagy félrevezető információkat.
Van megoldás a dezinformáció visszaszorítására?
Bár a keresőoptimalizálási manipuláció egyre nagyobb kihívást jelent, vannak lépések, amelyeket a technológiai cégek megtehetnek az álhírek elleni harcban:
- Jobb algoritmusokat kell fejleszteni az álhírek felismerésére.
- A hiteles forrásokat előtérbe kell helyezni a keresőmotorok rangsorolásában.
- Felhasználói jelentések alapján gyorsabban kell eltávolítani a bizonyítottan félrevezető tartalmakat.
- Oktatási kampányokat kell indítani, hogy az emberek megtanulják felismerni az álhíreket.
A mesterséges intelligencia egy rendkívül hasznos eszköz lehet az információhoz való hozzáférésben, de a megfelelő szűrők nélkül könnyen manipulálható. Az MI fejlesztésének jövője ezért nagyban függ attól, hogy a kutatók és az iparági szereplők milyen hatékony módszereket dolgoznak ki a dezinformáció ellen.
Leave a Reply