https://bodybydarwin.com
Slider Image

Facebooki avatud lähtekoodiga arvutid selle tehisintellekti taga

2020

Võimas tehisintellekti tarkvara võtmine ja selle muutmine avatud lähtekoodiga, nii et seda saaks kasutada igaüks maailmas, näib olevat midagi ulmefilmist, kuid nii Google kui ka Microsoft on teinud seda just viimastel kuudel. Nüüd läheb Facebook sammu edasi ja avab maailmale oma võimsa AI- riistvara kujunduse.

See on suur samm, sest kuigi tarkvaraplatvormid võivad muuta AI-uuringud hõlpsamaks, korratavamaks ja jagatavamaks, on kogu protsess võimsate arvutiteta peaaegu võimatu.

Täna teatas Facebook, et on avatud oma serverite disainilahenduste hankimisega - mida ta väidetavalt töötab kaks korda kiiremini kui varem. Uus kujundus, nimega Big Sur, nõuab arvuti teiste traditsiooniliste osade, näiteks keskseadme või keskseadme, kõvaketta ja emaplaadi hulgas kaheksat suure võimsusega graafikatöötlusseadet ehk GPU-d. Kuid Facebook ütleb, et eriti uued GPU-d võimaldavad selle teadlastel töötada masinaõppe mudelite topeltsuuruses ja kiiruses.

Regulaarne piltide või helifilmidega töötamine võib maksta tarbijatele mõeldud seadmeid ja mõned tehisintellekti liigid peavad nendelt õppimiseks lagunema ja õppima 10 miljonilt pildilt. Treeninguks nimetatav protsess nõuab tõsist arvutusvõimsust.

Et arvuti õpiks, mis kass on, peate näitama talle potentsiaalselt miljoneid pilte kassidest.

Esiteks lubage meil luua mõned põhitõed - AI aluspõhi võib olla hirmutav ja keeruline. Tehisintellekt on katustermin mitme lähenemisviisi jaoks kunstliku süsteemi loomiseks, mis jäljendab inimese mõtteid ja mõttekäike. Sellele on olnud palju lähenemisviise; praegu on kõige populaarsemad meetodid eri tüüpi kunstlikud närvivõrgud süvaõppe jaoks. Need võrgud tuleb enne teabe väljastamist koolitada või näiteid tuua. Et arvuti õpiks, mis kass on, peate näitama talle potentsiaalselt miljoneid pilte kassidest (kuigi Facebooki meetodid on seda arvu dramaatiliselt vähendanud). Neuraalvõrgud on matemaatiliste ühikute virtuaalsed klastrid, mis saavad individuaalselt töödelda väikseid teabeüksusi, näiteks piksleid, ning kokku koondatuna ja kihina lahendada lõpmata keerukamaid ülesandeid.

See tähendab, et miljonid fotod või fraasid või heli bitid tuleb purustada ja vaadata miljonite tehisneuronite poolt, abstraktsiooni erinevatel tasemetel. Kui vaatame traditsioonilise arvuti osi, mis sellele tööle kandideerivad, pakume kahte võimalust: protsessorit (CPU) või graafikaprotsessoriüksust (GPU).

Protsessor, moodsa arvuti peamine "aju", sobib suurepäraselt mõne üldise andmetöötluse jaoks. Sellel on suhteliselt vähe südamikke (tavaarvutites ja telefonides 4–8), kuid igal südamikul on sügavam vahemälu, et ühe asjaga töötada mitu korda. See koputab arvuti muutmälu (RAM) selle protsessides vajalike andmete saamiseks.

GPU on vastupidine. Ühel serverile orienteeritud GPU-l võib olla tuhandeid vähese mäluga südamikke, mis on optimeeritud pisikeste korduvate toimingute (nt graafika renderdamine) täitmiseks. Naastes tehisintellekti juurde, võimaldab GPU-s olev tuum palju arvuteid korraga sisse viia, kiirendades kogu ettevõtmist. Protsessorid olid varem sedalaadi raskete töötluste liikumisharjumused, kuid suuremahuliste projektide jaoks oli vaja tohutut võrkude kiipide laevastikku, rohkem kui GPU-dega arvutamisel, väitis Facebooki AI Researchi direktori direktor Serkan Piantino.

"Praegu on GPU-d parimad paljudele meie jaoks olulistele võrkudele."

"Piantino sõnul on GPU-de eeliseks arvutamise tihedus ühes kohas." Praegu on GPU-d parimad paljudele meie hooldatavatele võrkudele. "

Facebooki sõnul töötab Big Sur paljude erinevate tootjate GPU-dega, kuid nad kasutavad spetsiaalselt Nvidia hiljuti välja antud mudelit, mis on oma tooteid tugevalt tehisintellekti uuringutele suunanud. Piltide treenimiseks mõeldud CPU vs GPU jõudluse testides töötlevad kahekordsed 10-tuumalised Ivy Bridge CPU-d (loe: väga kiiresti) 256 pilti 2 minutiga 17 sekundiga. Üks nende serverile orienteeritud K40 GPU-sid töötleb samu pilte vaid 28, 5 sekundiga. Ja uuem mudel, mida Facebook Big Suris kasutab, Nvidia M40, on tegelikult kiirem.

Paljude Nvidia seadmetega on kaasas ka CUDA (Compute Unified Device Architecture) platvorm, mis võimaldab arendajatel kirjutada natiivkoodid nagu C või C ++ otse GPU-sse, et tuumasid paralleelselt suurema täpsusega korraldada. CUDA on klambrid paljudes AI uurimiskeskustes, nagu Facebook, Microsoft ja Baidu.

GPU on tänapäevase AI tööhobune, kuid väheste teadlaste arvates ei ole andmetöötluse praegune olukord vastus. Föderaalselt rahastatud DARPA (Defense Advanced Research Projects Agency) tegi 2013. aastal partnerluseks IBM-iga SyNapse programmis, eesmärgiga luua uut sorti arvutikiip, mis õpib loomulikult - sisendite vastuvõtmise õpetaks riistvara juba sisendite vastuvõtmine. Tulemuseks oli TrueNorth: 2014. aastal välja kuulutatud "neuromorfne" kiip.

TrueNorth on valmistatud 5, 4 miljardist transistorist, mis on struktureeritud 1 miljoniks tehisneuroniks. Kunstlikud neuronid ehitavad 256 miljonit kunstlikku sünapsi, mis edastavad andmeid neuronilt andmete saamisel. Andmed liiguvad neuronite kaudu, luues mustreid, mida saab tõlkida võrgu jaoks kasutatavaks infoks.

Euroopas töötab teadlaste meeskond projekti nimega FACETS ehk kiire analoogarvutus koos tekkivate mööduvate riikidega. Nende kiibil on 200 000 neuroni, kuid 50 miljonit sünaptilist ühendust. IBM ja FACETSi meeskond on loonud oma kiibid skaleeritavaks, mis tähendab, et nad saavad töötada paralleelselt arvutusvõimsuse märkimisväärseks suurendamiseks. Sel aastal rühmitas IBM 48 miljoniNN-võrgu ülesehitamiseks 48 TrueNorthi kiipi ning MIT Technology Review teatas, et FACETS loodab saavutada miljard tronilaarse sünapsiga miljardit neuroni.

Isegi selle numbri juures ei ole me veel kaugel inimese aju taasloomisest, mis koosneb 86 miljardist neuronist ja võiks sisaldada 100 triljonit sünapsit. (IBM on seda 100 triljonit numbrit tabanud eelmistes TrueNorthi katsetes, kuid kiip jooksis reaalajas 1542 korda aeglasemalt ja võttis 96-rackise superarvuti.)

"See, mille otsa sa lõpuks jõuad, on arukas tehnoloogia."

Knowmi ja DARPA SyNapse alumiiniumi asutaja Alex Nugent üritab andmetöötluse tulevikku tuua spetsiaalse mäluseadmete tõuga, mis tema sõnul asendaks transistoridel töötavat protsessorit, GPU-d ja RAM-i.

Memristor on olnud tehnikavaldkonna ükssarvik alates 1971. aastast, kui arvutiteadlane Leon Chua pakkus teooria esmakordselt välja kui "Kadunud vooluahela element". Teoreetiliselt on memristor traditsioonilise transistori, kaasaegse arvuti ehitusploki, asendaja.

Transistor võib eksisteerida kahes olekus (sisse või välja). Lihtsustatult on arvuti vaid midagi suurt transistoride hulgast, mille kõikumine on sisse ja välja lülitatud. Memristor kasutab metalli takistuse muutmiseks elektrivoolu, mis annab nendele väärtustele suurema paindlikkuse. Kahe oleku, näiteks transistori asemel, võib memristoril teoreetiliselt olla neli või kuus, korrutades teabe keerukust, mida hulgaliselt memriste võiks hoida.

Nugent tegi koostööd Boise'i Riikliku Ülikooli riistvararendaja Kris Campbelliga, et tegelikult luua konkreetne kiip, mis töötab koos sellega, mida ta nimetab AHaH (Anti-Hebbian ja Hebbian) õppimiseks. Selle meetodi abil aju neuronite ahelate jäljendamiseks kasutatakse memristoreid. Memmeritel on võime kahesuunalistel etappidel muuta rakendatud pinge põhjal oma takistust väga sarnaselt sellega, kuidas neuronid edastavad oma minuskulaarse elektrilaengu, ütles Nugent. See võimaldab neil kohaneda, nagu nad kasutavad. Kuna nende vastupanuvõim toimib loomuliku mäluna, lõhuksid mälustajad seda, mida mõned teadlased nimetavad von Neumanni kitsaskohaks - andmetöötluskorki, mis loodi andmete edastamisel protsessori ja RAM-i vahel.

Ahah computing ütleb Võtame selle ehituskivi ja ehitada üles see, Nugent ütles intervjuus Popular Science. Kui neid neuroneid põhimõtteliselt ära kasutada, ühendades neid erineval viisil ja sidudes nende väljundite erineval viisil, saate teha õppetoiminguid.

Nii näeb Nugent, et see töö pole rakendatav mitte ainult üldise andmetöötluse jaoks, vaid on suunatud konkreetselt masinõppele.

Niipea, kui võtate tiheduse, mille me juba täna saavutame, ühendate te selle memristidega, siis paarite teooriaga, mis võimaldab meil seda kasutada, kuhjate kiibid kolme mõõtmesse, saavutate bioloogilise tõhususe, Nugent ütles. Asi, mille otsa sa jõuad, on arukas tehnoloogia.

Kuidas teisaldada esitusloendeid muusika voogesituse teenuste vahel

Kuidas teisaldada esitusloendeid muusika voogesituse teenuste vahel

Võimalik, et lapse mikrobiome on võimalik ümber kujundada

Võimalik, et lapse mikrobiome on võimalik ümber kujundada

Siin on meie Apollo 11 esialgne kajastus

Siin on meie Apollo 11 esialgne kajastus