Gumagana ang bagong artipisyal na neuron sa mga kalkulasyon ng neural network gamit ang 100-1000 beses na mas kaunting enerhiya

SEM-imahe ng aparato na may isang artipisyal na neuron. May-akda: Sangheon Oh / Kalikasan Nanotechnology

Ang pagsasanay sa mga neural network upang magsagawa ng mga gawain tulad ng pagkilala sa imahe o pag-navigate sa mga self-drive machine ay maaaring isang araw ay nangangailangan ng mas kaunting lakas sa computing at hardware salamat sa isang bagong artipisyal na neuron na binuo ng mga mananaliksik sa University of California, San Diego. Ang aparato ay maaaring magsagawa ng mga kalkulasyon ng neural network gamit ang 100-1000 beses na mas mababa ang lakas at puwang kaysa sa umiiral na kagamitan na nakabatay sa CMOS.

Iniulat ng mga mananaliksik ang kanilang gawa sa isang artikulong nai-publish kamakailan sa Nanotechnology ng kalikasan.

Ang mga neural network ay isang serye ng mga konektadong layer ng mga artipisyal na neuron, kung saan ang output ng isang layer ay nagbibigay ng pasukan sa susunod. Ang paglikha ng input na ito ay ginagawa gamit ang isang pagkalkula sa matematika na tinatawag na isang nonlinear activation function. Ito ang pinakamahalagang bahagi ng isang neural network. Ngunit ang aplikasyon ng pagpapaandar na ito ay nangangailangan ng maraming kapangyarihan sa pag-compute at mga circuit, dahil nagsasangkot ito ng paglipat ng data pabalik-balik sa pagitan ng dalawang magkakahiwalay na mga yunit – memorya at panlabas na processor.

Hardware neural network naka-print circuit board

Isang espesyal na circuit board na itinayo na may isang hanay ng mga activation (o neural) na aparato at isang hanay ng mga synaptic device. May-akda: Sangheon Oh / Kalikasan Nanotechnology

Ngayon ang mga mananaliksik sa UC San Diego ay nakabuo ng isang aparato na laki ng nanometer na maaaring mabisang maisagawa ang pagpapaandar ng pag-aktibo.

“Ang mga kalkulasyon sa neural network sa hardware ay nagiging mas mabisa dahil ang mga modelo ng neural network ay nagiging mas kumplikado,” sabi ni Duigu Kuzum, propesor ng electrical engineering at computing sa UC San Diego Jacobs School of Engineering. “Bumuo kami ng isang solong nanoscale artipisyal na neural aparato na nagpapatupad ng mga computations na ito sa hardware nang napakahusay at mabisa.”

Isang bagong pag-aaral na isinagawa ni Kuzum at ng kanyang PhD. Ang mag-aaral na si Sangheon Oh, ay isinasagawa sa pakikipagtulungan sa DOE Energy Frontier Research Research Center sa ilalim ng patnubay ni UC San Diego Physics Professor Ivan Schuler, na nagkakaroon ng pagpapatupad ng hardware ng mga artipisyal na neural network na mahusay sa enerhiya.

Ang aparato ay nagpapatupad ng isa sa mga pinaka-karaniwang ginagamit na pag-andar ng pag-aktibo sa pagsasanay sa neural network, na tinatawag na isang naitama na linear unit. Ang kakaibang katangian ng pagpapaandar na ito ay nangangailangan ng hardware upang gumana, na maaaring unti-unting mababago ang paglaban. At iyon ang dahilan kung bakit nabuo ng mga mananaliksik ng UC San Diego ang kanilang aparato – maaari itong unti-unting ilipat mula sa isang insulate hanggang sa isang kondaktibong estado, at ginagawa ito sa isang maliit na halaga ng init.

Array ng activation

Isang hanay ng mga aparatong activation (o neural). May-akda: Sangheon Oh / Kalikasan Nanotechnology

Ang switch na ito ay tinatawag na paglipat ng Moto. Nagaganap ito sa isang manipis na layer ng vanadium dioxide. Sa itaas ng layer na ito ay isang pampainit na gawa sa nanowire na gawa sa titan at ginto. Kapag ang kasalukuyang dumadaloy sa pamamagitan ng nanowire, ang layer ng vanadium dioxide ay dahan-dahang uminit, na sanhi ng isang mabagal, kontroladong paglipat mula sa pagkakabukod patungo sa kondaktibo.

“Ang arkitektura ng aparatong ito ay napaka-interesante at makabago,” sabi ni Oh, na siyang unang may-akda ng pag-aaral. Kadalasan, ang mga materyales sa paglipat ng Moto ay biglang lumipat mula sa pagkakabukod patungo sa kondaktibo dahil ang kasalukuyang dumadaloy nang direkta sa materyal, ipinaliwanag niya. “Sa kasong ito, dumadaan kami sa isang kasalukuyang sa pamamagitan ng nanowire sa ibabaw ng materyal upang maiinit ito at maging sanhi ng isang napaka-dahan-dahang pagbabago sa paglaban.”

Upang maipatupad ang aparato, unang gumawa ang mga mananaliksik ng isang hanay ng mga tinatawag na aparatong ito ng activation (o neural), pati na rin ang isang array ng mga synaptic device. Pagkatapos ay isinama nila ang dalawang mga pag-array sa kanilang sariling PCB at ikinonekta sila upang lumikha ng isang bersyon ng hardware ng neural network.

Gumamit ang mga mananaliksik ng isang grid upang maproseso ang imahe – sa kasong ito isang imahe ng Geisel Library sa University of California, San Diego. Nagsagawa ang grid ng isang uri ng pagpoproseso ng imahe na tinatawag na edge detection, na kinikilala ang mga balangkas o gilid ng mga bagay sa isang imahe. Ipinakita ng eksperimentong ito na ang isang pinagsamang sistema ng hardware ay maaaring maisagawa ang mga pagpapatakbo ng convolution na kinakailangan para sa maraming uri ng malalim na mga neural network.

Nagtalo ang mga mananaliksik na ang teknolohiyang ito ay maaaring karagdagang mapalawak upang maisagawa ang mas kumplikadong mga gawain tulad ng pagkilala sa mukha at object sa mga kotse na nagmamaneho ng sarili. Sa interes at kooperasyon ng industriya, maaaring mangyari ito, sinabi ni Kuzum.

“Ngayon ito ay patunay ng konsepto,” sabi ni Kuzum. “Ito ay isang maliit na sistema kung saan gumawa kami ng isang layer lamang ng mga synapses na may isang layer ng pag-activate. Sa pamamagitan ng pagdaragdag ng higit sa mga ito, makakagawa ka ng isang mas sopistikadong sistema para sa iba’t ibang mga application. “

Sanggunian: “Ang enerhiya-mahusay na Moto activation neuron para sa kumpletong pagpapatupad ng hardware ng mga neural network” nina Sangeon O, Johan Shi, Javier del Valle, Pavel Salev, Ichen Lou, Gishen Huang, Joel Kalsheim, Ivan K. Schuler at Duig Kuzum, Marso 18 , 2021 Nanotechnology ng kalikasan.
DOI: 10.1038 / s41565-021-00874-8

Ang gawaing ito ay suportado ng Tanggapan ng Pananaliksik sa Dagat, Samsung Electronics, National Science Foundation, National Institutes of Health, isang Qualcomm Fellowship, at ang Kagawaran ng Agham ng Agham ng Enerhiya ng Estados Unidos sa pamamagitan ng Energy Frontier Research Center.

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

82% ng Mga Tao na Na-ospital Sa COVID-19 Bumuo ng Mga Neurological Problems

Isinasaalang-alang ang tomography ng utak. Ang mga pasyente na may mga karamdaman na nagpapahiwatig ng neurological ay kasangkot COVID-19 anim na beses na mas malamang...

“Gobsmacked” – Ang Melanie Wood ng Harvard ay Naging Unang Babae na Nanalo ng $ 1M Waterman Award sa Math

Si Melanie Wood ang unang babaeng nanalo ng isang Waterman Award sa matematika. Kredito: Stephanie Mitchell / Harvard Staff Photographer Kinikilala para sa mga...

Bagong Pagong na Natagpuan sa Huling Cretaceous ng Madagascar

Ang pagbabagong-tatag ng buhay ng Sahonachelys mailakavava, umaatake sa Madagascan na palaka tadpoles na si Belzebufo ay nagprotesta gamit ang isang espesyal na diyeta...

Natuklasan ng mga siyentista na ang loob ng Saturn – ang makapal na layer ng helium – ay nakakaapekto sa magnetic field ng mga...

Ang magnetikong patlang ni Saturn na nakikita sa itaas. Credit-Ancate Barrick / Jones Hopkins University Ginagaya ng mga mananaliksik ang mga kondisyong kinakailangan para...

Lumilikha ang mga mananaliksik ng cybersecurity ng mas mahusay na kanaryo – gamit ang AI upang lumikha ng pekeng mga dokumento

Ang bagong artipisyal na sistema ng katalinuhan ay lumilikha ng mga pekeng dokumento upang linlangin ang mga kalaban. Sa panahon ng World War II, ang...

Newsletter

Subscribe to stay updated.