AI eta Deepfakes: okerreko eskuetan dagoen bikote arriskutsua
Celia CatalánAdimen Artifizialaren hazkundeari esker, medikuntza, ekonomia, energia sektorea edo garraioa bezalako funtsezko sektoreak eraldatzea ahalbidetu du. Gaur egungo egoeran, Adimen Artifizialak gizarte hobeago bat eraikitzeko potentzial izugarria du. Hala ere, AI ertz biko tresna indartsua da, non helburu negatiboak edo gaiztoak dituzten irtenbideak garatzeko ustiatu daitekeen.
Zibersegurtasun mailan, Adimen Artifizialak ingeniaritza sozialeko tekniken bilakaera eta hobekuntza ahalbidetu du, zibereraso kanpaina eraginkorragoak eta detektatzeko zailagoak gauzatzea erraztuz.
Testuinguru honetan, IAk bultzatutako iruzur berriak garatu dira, batez ere deepfake-ak sortzea dakarrena.
Zer da deepfakea?
Deepfake terminoa Deep Learning eta faltsu terminoaren konbinaziotik sortzen da. Horrela, termino honek Deep Learning bezalako Adimen Artifizialaren algoritmo konplexuak erabiliz ikus-entzunezko edukiak manipulatzen dituen teknikari egiten dio erreferentzia, oso efektu errealista emanez. Ezaugarri horrek esan nahi du gizakiaren ohiko pertzepzioaren arabera, kontsumitzen den ikus-entzunezko edukia egia ala gezurra den zehaztea oso zaila dela.
Testuinguru honetan, identitate lapurretarako deepfake teknologia plataforma digital guztietara eta komunikazio pertsonalaren esparrura, zinema industriara, baita korporazio eta gobernu sektorera ere zabaltzea lortu du. Eduki digitalen ekoizpenean sormenerako eta berrikuntzarako aukerak zabaltzen dituen arren, pribatutasunerako eta segurtasunerako arrisku handiak ere sortzen ditu.
Deepface eta deepvoice deepfake-n oso ezagunak ez diren arren, bereizita azal ditzakegu zibersegurtasunaren munduan dauden aplikazioak ulertzeko:
- Deepfaces: Errealismo maila handiko irudiak hutsetik sortzean datza, baina guztiz fikziozkoak izanik.
- Deepvoices: teknologia honek testu idatzitik oso naturalak diren giza ahots sintetikoak sortzeko aukera ematen digu. Ahotsa hutsetik sortzeaz gain, benetako pertsona baten ahotsa faltsutzea posible da AI benetako ahotsaren laginekin entrenatuz. Pertsona baten ahotsaren minutu batzuk entzunda, edozein erabiltzailek bere ahotsa klonatu eta segurtasuna eta pribatutasuna arriskuan jar ditzake.
Deepfake eta AI erasoen benetako kasuak
Irudiak, audioak eta bideoak deepfake edo faltsuen aldaketa eta sorkuntza kasu ezagun batzuk hauek dira:
- Vladimir Putin eta Donald Trump-en deepfake: 2019an, Vladimir Putin eta Donald Trump irudikatzen zituen deepfake bideo bat partekatu zen sarean, non bi buruzagi politikoak gai serioak eztabaidatzeko agertu ziren, hala nola armen kontrola eta nazioarteko politika. Eduki mota honek nabarmentzen du nola deepfake-ak erabil daitezkeen iritzi publikoak gaizki informatzeko eta manipulatzeko.
- Film pornografikoetako aktoreen deepfakea: deepfakeen erabilerarik eztabaidagarrienetako bat famatuak eta publikoak eszena arriskutsuetan erakusten dituzten bideo pornografiko faltsuak sortzea izan da, Emma Watson, Rosalía edo Taylor Swift-en kasua bezala. Eduki mota honek pribatutasunari eta baimenari buruzko kezka legalak eta etikoak sortu ditu.
- Barack Obama Deepfake: 2018an, Barack Obama AEBetako presidente ohiaren bideo deepfake bat sortu zuen Jordan Peeleren Monkeypaw Productions-ek. Bideoan, Obamak ezohiko adierazpenak eta deepfakeen arriskuei buruz ohartarazten ari dela dirudi, teknologia honi eta balizko erabilera gaiztoei buruz kontzientziatzeko egin zena. Bideoa YouTuben dago eskuragarri hurrengo estekan .
- Ahotsaren faltsioaren kasu aipagarrietako bat 2019ko martxoan Britainia Handiko energia-enpresa bateko zuzendari nagusiarena da. Gertaera honetan, iruzurgileek adimen artifiziala erabili zuten CEOaren ahotsa imitatzeko. Goi-zuzendari honek bere ustezko nagusiaren telefono dei bat jaso zuen eta bertan 220.000 euroko transferentzia kanpoko banku-kontu batera egiteko agindu zioten. CEOak transferentzia egin zuen bere nagusiaren nortasuna egiaztatu gabe, hain ahots errealista duen telefono dei baten sinesgarritasuna ikusita.
