AI vs. hitelesség: A digitális tartalmak eredetiségének növekvő igénye

.

Hogyan reagálnak a vállalkozások a mesterséges intelligenciával előállított tartalmak terjedésére?

E problémák miatt a nagy technológiai vállalatok azon dolgoznak, hogy javítsák a média hitelességét és eredetiségét. A Microsoft az éves Build konferencia részeként bejelentette, hogy a Bing Image Creator és Designer eszközei mostantól új médiaszármazás-funkciókkal rendelkeznek majd.

A felhasználók ellenőrizhetik majd, hogy a képeket vagy videókat mesterséges intelligencia készítette-e. Ehhez olyan kriptográfiai módszereket használnak, amelyek tartalmazzák a tartalom származási helyére vonatkozó információkat.

Ahhoz azonban, hogy ez a rendszer működjön, a különböző platformoknak egyet kell érteniük a Coalition for Content Provenance and Authenticity(C2PA) specifikációval.

Hasonlóképpen, a Meta kiadott egy Meta Video Seal nevű eszközt, amely láthatatlan vízjeleket tud hozzáadni a mesterséges intelligencia által készített videoklipekhez. Ez a nyílt forráskódú eszköz a tervek szerint gond nélkül együttműködik a meglévő szoftverekkel, megkönnyítve a mesterséges intelligencia által készített tartalmak megtalálását. A Video Seal azt ígéri, hogy ellenáll az olyan gyakori szerkesztéseknek, mint az elmosódás és a vágás, ellentétben a régebbi vízjel-technológiákkal, amelyeknek gondot okozott a videó tömörítése és manipulálása.

Problémák és korlátozások

Még ezekkel a fejlesztésekkel együtt is gondot okoz, hogy sokan használják ezeket a technológiákat. Sok fejlesztő tétovázhat a meglévő szabadalmaztatott megoldásokról az olyan nyílt forráskódú lehetőségekre való áttérésben, mint a Video Seal.

A Meta azt tervezi, hogy workshopokat tart a nagyobb mesterséges intelligencia konferenciákon, és nyilvános ranglistát készít, amelyen összehasonlítja a különböző vízjel-előkészítési módszereket, hogy minél több embert rávegyen a közös munkára.

Emellett a mostani vízjelzési módszerek nem mindig elég erősek vagy hatékonyak, ha videós tartalomról van szó.

Az AI által generált tartalmak elleni küzdelem két fő megközelítése

A mesterséges intelligencia által generált tartalom elleni küzdelemben két különböző stratégia alakult ki:

1. Vízjelek (megelőző megközelítés):

• Láthatatlan aláírásokkal látja el a tartalmat a létrehozás pillanatában.
• Olyan, mint egy digitális tanúsítvány, amely azt mutatja, hogy „ezt mesterséges intelligencia készítette”.
• Az olyan eszközök, mint a Meta Video Seal és a Microsoft provenance funkciói ezt a megközelítést képviselik.
• Fő előnye a mesterséges intelligenciával előállított tartalom azonnali azonosítása

2. Felismerő eszközök (analitikus megközelítés):

• A meglévő tartalom elemzése annak megállapítására, hogy az mesterséges intelligencia által generált-e.
• A mesterséges intelligencia által létrehozott tartalomra jellemző minták és jellemzők keresése.
• Különösen hasznos az olyan tartalmak esetében, amelyeket a létrehozáskor nem jelöltek meg.
• Ezek az eszközök képezik a második védelmi vonalunkat

Mindkét megközelítésre szükség van, mivel kiegészítik egymást: a vízjelek megakadályozzák a visszaéléseket, míg az észlelőeszközök segítenek azonosítani a nem jelölt tartalmakat.

Érzékelési eszközök és technológiák

A mesterséges intelligencia által generált tartalmak a vízjeles technológiáknál több módon is megtalálhatók. Az új észlelőeszközök összetett algoritmusokat használnak a szöveges és a képi tartalom vizsgálatára.

• Eredetiség, mélytanulási algoritmusokat használnak az AI által generált szövegben lévő minták megtalálására.
• A GPTZero a nyelvi struktúrákat és a szófrekvenciákat vizsgálja, hogy különbséget tudjon tenni az emberek által írt és a gépek által létrehozott tartalom között.
• A CopyLeaks N-grammokat és szintaktikai összehasonlításokat használ, hogy olyan apró nyelvi változásokat találjon, amelyek mesterséges intelligencia szerzőségének jelei lehetnek.

Ezeknek az eszközöknek az a célja, hogy pontos véleményt adjanak a felhasználóknak arról, hogy mennyire valódi a tartalom, de az, hogy mennyire jól működnek, nagyon eltérő lehet.

Összefoglalva

A generatív mesterséges intelligencia fejlődésével egyre fontosabbá válik a digitális hitelesség védelme. A Microsoft és a Meta a tartalom hitelességének és a média eredetének ellenőrzésére vonatkozó úttörő szabványokkal jár élen.

A mélyhamisítások elleni hatékony küzdelemhez szükség van ezen eszközök iparági szintű elfogadására és a technológiai vállalatok közötti szorosabb együttműködésre. A digitális tartalmak jövőbeli integritása attól függ, hogy a felderítési technológiák gyorsabban fejlődnek-e, mint a mesterséges intelligencia által generált megtévesztés.

Valójában nemrégiben beszámoltunk arról, hogy a YouTube hasonló lépéseket tesz azáltal, hogy új AI-felismerő eszközöket vezet be az alkotók és a márkák számára. Megközelítésükben szintetikus hangazonosító és mesterséges intelligencia által generált arcfelismerő technológiák is szerepelnek, ami még jobban mutatja, hogy a nagy platformok hogyan dolgoznak a tartalom hitelességének védelmén az AI-korszakban.