Lumikha ang mga siyentipiko ng computer ng pekeng mga video na nanlinlang sa pinaka modernong mga detector ng lalim

Ang mga sistemang idinisenyo upang makita ang mga pekeng pekeng gawa – mga video na nagmamanipula ng totoong mga materyales na may artipisyal na katalinuhan – ay maaaring malinlang, unang ipinakita ang mga computer sa komperensiya ng WACV 2021 na ginanap online mula Enero 5 hanggang 9, 2021.

Ipinakita ng mga mananaliksik na ang mga detektor ay maaaring talunin sa pamamagitan ng pagpasok ng mga input, na tinawag na mga halimbawa ng karibal, sa bawat frame ng video. Ang mga magkasalungat na halimbawa ay bahagyang minamanipula ng data na sanhi ng mga artipisyal na sistema ng katalinuhan, tulad ng mga modelo ng pagkatuto ng makina, upang magkamali. Bilang karagdagan, isiniwalat ng koponan na ang pag-atake ay tumatakbo pa rin matapos na mai-compress ang video.

“Ipinapakita ng aming trabaho na ang pag-atake sa malalim na pekeng detektor ay maaaring maging isang tunay na banta,” sabi ni Shezin Hussein, Ph.D. sa computer engineering sa UC San Diego. mag-aaral at unang kapwa may-akda sa WACV. “Ang mas nakakaalarma ay ang katunayan na ipinapakita namin na posible na lumikha ng matatag na mapagkumpitensyang malalim na mga pekeng, kahit na ang kalaban ay maaaring hindi magkaroon ng kamalayan sa panloob na paggana ng modelo ng pag-aaral ng makina na ginamit ng detector.”

Sa malalim na mga huwad, ang mukha ng paksa ay binago upang lumikha ng mapilit na makatotohanang mga pag-shot ng mga kaganapan na hindi talaga nangyari. Bilang isang resulta, ang mga tipikal na malalim na pekeng detector ay nakatuon sa mukha ng video: sinusubaybayan muna nila ito, at pagkatapos ay ipinapadala ang pinutol na data ng mukha sa isang neural network na tumutukoy kung ito ay totoo o huwad. Halimbawa, ang blinking ay hindi maganda kopyahin sa pekeng mga peke, kaya’t ang mga detektor ay nakatuon sa paggalaw ng mata bilang isang paraan upang matukoy. Ang mga modernong tagahanap ng Deepfake ay umaasa sa mga modelo ng pag-aaral ng makina upang makilala ang pekeng mga video.


Ang XceptionNet, isang malalim na pekeng detektor, ay nagmamarka ng karibal na video na nilikha ng mga mananaliksik bilang totoo. May-akda: Unibersidad ng California sa San Diego

Ang laganap na paggamit ng pekeng mga video sa pamamagitan ng mga platform sa social networking ay nagdulot ng seryosong pag-aalala sa buong mundo, lalo na ang pagpahina ng kredibilidad ng digital media, sinabi ng mga mananaliksik. “Kung ang mga nag-atake ay may kaunting kaalaman sa sistema ng pagtuklas, maaari silang bumuo ng input na naglalayong” blind spot “ng detector at i-bypass ito,” sabi ni Paart Neehara, ang pangalawang kapwa may-akda ng pahayagan at mag-aaral sa agham ng computer sa UC San Diego.

Ang mga mananaliksik ay lumikha ng isang karibal na halimbawa para sa bawat mukha sa frame ng video. Ngunit habang ang mga karaniwang pagpapatakbo, tulad ng pag-compress at pagbabago ng laki ng video, ay karaniwang nag-aalis ng mga magkakumpitensyang halimbawa mula sa isang imahe, nilikha ang mga halimbawang ito upang mapigilan ang prosesong ito. Ginagawa ito ng algorithm ng pag-atake sa pamamagitan ng pagtatantya ng isang hanay ng mga pagbabago sa pag-input kung paano inuri ng modelo ang mga imahe bilang totoo o pekeng. Mula doon, ginagamit nito ang pagtantya na ito upang mai-convert ang mga imahe sa isang paraan na ang nakikipagkumpitensyang imahe ay mananatiling epektibo kahit na pagkatapos ng compression at decompression.

Ang binagong bersyon ng mukha pagkatapos ay ipinasok sa lahat ng mga frame ng video. Pagkatapos ay paulit-ulit ang proseso para sa lahat ng mga frame sa video upang lumikha ng isang malalim na video. Ang pag-atake ay maaari ring mailapat sa mga detektor na tumatakbo sa buong mga frame ng video, taliwas sa mga by-crop.

Tumanggi ang koponan na palabasin ang code nito upang hindi ito magamit ng mga salungat na partido.

Mataas na antas ng tagumpay

Sinubukan ng mga mananaliksik ang kanilang pag-atake sa dalawang mga sitwasyon: isa kapag ang mga umaatake ay may ganap na pag-access sa modelo ng detector, kabilang ang isang pipeline ng pagtanggal ng mukha at ang arkitektura at mga parameter ng modelo ng pag-uuri; at isa kung saan ang mga umaatake ay maaari lamang humiling ng isang modelo ng pag-aaral ng makina upang malaman ang posibilidad na ang isang frame ay inuri bilang tunay o huwad.

Sa unang senaryo, ang rate ng tagumpay sa pag-atake ay higit sa 99 porsyento para sa mga hindi naka-compress na video. Para sa mga naka-compress na video, ito ay 84.96 porsyento. Sa pangalawang senaryo, ang rate ng tagumpay ay 86.43 porsyento para sa hindi nai-compress at 78.33 porsyento para sa naka-compress na video. Ito ang unang gawa upang maipakita ang matagumpay na pag-atake sa mga state-of-the-art na Deepfake detector.

“Upang magamit ang mga pekeng detektor na ito sa pagsasagawa, nagtatalo kami na napakahalaga na suriin ang mga ito laban sa isang umaangkop na kalaban na nakakaalam tungkol sa mga panlaban na ito at sadyang sinusubukang sirain ang mga panlaban na ito,” ?? nagsusulat ang mga mananaliksik. “Ipinapakita namin na ang mga modernong advanced na pamamaraan ng pagtuklas ng malalim na pamemeke ay madaling maiiwasan kung ang kalaban ay kumpleto o kahit bahagyang kaalaman sa detektor.”

Upang mapabuti ang mga detector, inirerekumenda ng mga mananaliksik ang isang diskarte na katulad sa kilala bilang kumpetisyon: sa panahon ng pagsasanay, isang adaptive na kalaban ay patuloy na lumikha ng mga bagong pekeng pekeng maaaring i-bypass ang kasalukuyang estado ng detector; at ang detektor ay patuloy na nagpapabuti upang makita ang mga bagong malalim na huwad.

Kontrobersyal na Malalim na Mga Counterfeit: Sinusuri ang Kahinaan ng Malalim na Imbestigador sa Mga Nalalapat na Halimbawa

* Shezin Hussein, Malhar Jere, Farinaz Kovshanfar, Department of Electrical and Computer Engineering, California, San Diego

Paart Neejara, Julian Macaulay, Kagawaran ng Agham at Teknolohiya ng Computer, California, San Diego

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Pagkuha ng Impormasyon sa Kasaysayan ng Neanderthal na Populasyon Gamit ang Sinaunang Nuclear DNA Mula sa Mga Ciment Sediment

Gallery sa lugar ng yungib ng mga estatwa sa hilagang Espanya. Kredito: Javier Trueba - Madrid Scientific Films Ang Mitochondrial DNA ng mga archaic...

Kung Paano Maaaring Lumaki ang Iba Pang Mga Karamdaman na Fungi Sa Maliit na Puwang

Ang isang pangkat na pinangunahan ng Tsukuba University ay natagpuan ang isang makabuluhang pagkakaiba na nagpapaliwanag kung bakit ang ilang mga species ng fungi...

Para sa Mga Tatanggap ng Transplant, Isang Pangatlong Dosis ng Bakuna sa COVID Maaaring Mag-alok ng Mas mahusay na Proteksyon

Ipinakita ng mga mananaliksik sa Johns Hopkins Medicine na tatlong dosis ng bakuna laban sa SARS-CoV-2-ang virus na sanhi ng pagtaas ng antas ng...

Ang mga sigla ng usok na nasa daang siglo na napanatili sa niyebe ay nagbubunyag ng isang maalab na nakaraan – at ang hinaharap...

Inisyu ni Harvard John a. Paulson School of Engineering at Applied Science Hunyo 18, 2021 Ang usok mula sa mga wildfires na gawa ng tao...

Inihanda ng NASA ang “Moonikin” na kumander para sa Artemis 1 lunar na misyon

Sa larawang ito, sinusubukan ng mga inhinyero ang isang pagsubok na panginginig ng boses sa upuan ng Orion at ang Chemini Space Center -...

Newsletter

Subscribe to stay updated.