Az internet minden félelmetes ereje közül a leginkább félelmetes lehet a gyanútlan csalás képessége. A clickbait, a photoshoppel készített képek és a hamis hírek a legrosszabb bűncselekmények, de az utóbbi években új, potenciálisan veszélyes eszköz jelent meg, amely a mélyfake mesterséges intelligencia (AI) néven ismert.
A mélyfake kifejezés hamisított, számítógéppel létrehozott videóra és audióra utal, amelyet nehéz megkülönböztetni a valódi, változatlan tartalomtól. Annak a filmnek a célja, hogy mi legyen a Photoshop a képekkel.
Hogyan működik a deepfake AI?
Az eszköz arra hivatkozik, amelyet úgynevezett generatív versenytárs hálózatoknak (GAN) hívnak, és ezt a technikát 2014-ben találta meg Ian Goodfellow, Ph.D. hallgató, aki most az Apple-nél dolgozik, jelentette a Popular Mechanics.
A GAN algoritmus két különálló AI-t tartalmaz, az egyik tartalmat generál - mondjuk emberek fotóit - és egy ellenfelet, amely megpróbálja kitalálni, hogy a képek valósak vagy hamisak - állítja a Vox. Az AI létrehozása szinte semmilyen elképzeléssel nem kezdődik, hogy az emberek hogyan néznek ki, vagyis partnere könnyen megkülönböztetheti az igaz fényképeket a hamis képektől. De az idő múlásával az AI minden típusa fokozatosan javul, és végül a generáló AI elkezdi olyan tartalom előállítását, amely tökéletesen életszerűnek tűnik.
Mélyhamis példák
A GAN lenyűgöző eszközök, és nem mindig használják rosszindulatú célokra. 2018-ban egy GAN által generált festmény, amely utánozza a holland "Old Master" stílust, mint például a 17. századi Rembrandt van Rijn, a Christie aukciósházában, hihetetlen 432 500 dollárért eladva.
Ugyanebben az évben a mélyfakeok széles körben előtérbe kerültek, elsősorban egy Reddit felhasználó révén, aki „mélyfakeszek” név alatt állt. A GAN technikát gyakran használták a híres sztárok - köztük Gal Gadot, Maisie Williams és Taylor Swift - arcainak felhelyezésére a pornográf-film színésznők testére.
Más GAN-ok megtanultak egyetlen képet készíteni egy személyről, és meglehetősen reális alternatív fényképeket vagy videókat készíteni az adott személyről. 2019-ben egy mélyfaj hátborzongató, de valósághű filmeket készíthet a Mona Lisa-ról, különféle pozíciókban beszélgetve, mozogva és mosolyogva.
A mélyhangok megváltoztathatják az audio tartalmat. Amint azt a The Verge idén írta, a technika új szavakat oszthat fel egy beszélgetõ személy videójába, így úgy tűnik, hogy valamit mondtak, amit soha nem akartak.
Az új szerszám telepítésének egyszerűsége potenciálisan ijesztő következményekkel jár. Ha bárki bárhol elkészíthet valósághű filmeket, amelyek bemutatják, hogy egy híresség vagy politikus beszél, mozog és mond olyan szavakat, amelyeket még soha nem mondtak, a nézők arra kényszerülnek, hogy óvatosabbá váljanak az internetes tartalmak iránt. Példaként csak hallgassa meg Obama elnök figyelmeztetését a „megakadályozott” disztopikus jövő ellen ebben a Buzzfeed-videóban, amelyet Jordan Peele filmkészítő készített a mélyfaj segítségével.
