Ai hazugsággyár

A mesterséges intelligencia korába lépve a valóság és a fikció közötti határvonal egyre vékonyabbá válik, ez azonban nem jelentheti az etika és a tisztesség végét. Minden jó érzésű embernek, újságírónak és felelős tartalomgyártónak határozottan el kell határolódnia az AI által generált, manipulatív hazugságoktól.
A technológia fejlődhet, a megtévesztés eszközei válhatnak ijesztően élethűvé, de az erkölcsi alapvetésünknek változatlannak kell maradnia: a hazugság, készüljön bármilyen modern eszközzel, és legyen bármennyire is tökéletes, mindig hazugság marad. Nem nézhetjük tétlenül, hogy a deepfake és a dezinformáció torzítsa el a közös valóságunkat. Függetlenül attól, hogy a világon éppen melyik politikai szereplő vagy szervezet alkalmazza, a technológia ilyenfajta használata súlyos kérdéseket vet fel a közélet tisztaságával kapcsolatban. Az alábbiakban összefoglalom, miért jelent mindez akkora problémát.

Miért veszélyes az AI alapú hazugság és dezinformáció?

• A valóság és a fikció elmosódása: a mai AI modellek (generatív videó- és hangszerkesztők) olyan élethű felvételeket képesek készíteni, amelyeket az átlagfelhasználó szabad szemmel már aligha tud megkülönböztetni a valóságtól. ez fegyverként használva tömeges megtévesztéshez vezethet.
• Erőteljes érzelmi manipuláció: az ilyen tartalmakat gyakran a legzsigeribb emberi érzelmekre – a félelemre, a haragra vagy a szeretteink féltésére – építik. A felfokozott érzelmi állapotban lévő emberek kevésbé hajlamosak a kritikus gondolkodásra és a tényellenőrzésre.
• Villámgyors terjedés: a közösségi média algoritmusai előnyben részesítik a sokkoló, erős reakciókat kiváltó posztokat. Egy AI által generált, félelemkeltő videó órák alatt milliókhoz juthat el, jóval azelőtt, hogy a független tényellenőrzők meg tudnák cáfolni.

Miért nem etikus a használata?

• Szándékos és tudatos megtévesztés: az AI alapú hazugság nem egy egyszerű tévedés, hanem egy tervezett, technológiailag megtámogatott kísérlet a választópolgárok átverésére.
• A demokratikus folyamatok torzítása: a demokrácia alapja, hogy a választók valós tények, teljesítmények és programok alapján hozzanak döntést. Ha a döntésüket hamisított videókkal és generált fenyegetésekkel befolyásolják, az sérti a tisztességes választásokhoz fűződő alapelveket.
• Az ellenfél tisztességtelen besározása: olyan szavakat vagy tetteket adhatnak politikai ellenfelek (vagy bárki más) szájába, amelyeket soha nem mondtak vagy követtek el, esélyt sem hagyva a tisztességes védekezésre.

Milyen hosszú távú következményekkel járhat?

• A „hazug osztaléka” (Liar's dividend): ez a jelenség az AI egyik legnagyobb veszélye. Ha elterjed a köztudatban, hogy bármiről készülhet élethű hamisítvány, a politikusok és közszereplők a jövőben a valódi, kompromittáló felvételekre is könnyedén ráfoghatják, hogy „az csak mesterséges intelligencia”.
• A társadalmi bizalom teljes összeomlása: ha az emberek már sem a szemüknek, sem a fülüknek nem hihetnek, cinikussá válnak, és elveszítik a bizalmukat a médiában, az intézményekben és egymásban is. Információs káosz alakul ki.
• Fokozódó polarizáció és pánik: az ilyen jellegű kampányok mélyítik a társadalmi árkokat, szélsőséges ellenségeskedést szítanak a különböző csoportok között, és indokolatlan pánikot (például háborús félelmeket) keltenek a lakosság körében.

A mesterséges intelligencia önmagában csak egy eszköz, de a dezinformációs célú használata alapvetően támadja meg a közös valóságunkba vetett hitet.