AI-psykose

Vores sindes og deres sårbarhed

Nå, med en sådan titel, hvilket andet billede kunne jeg muligvis bruge? Kredit: Pixabay

Vi har skrøbelige sind. Tankeforstyrrelser påvirker en stor del af befolkningen i rige lande på et hvilket som helst tidspunkt; hver person i disse lande har en ubehageligt stor sandsynlighed for at have mindst en af ​​disse tankeforstyrrelser i deres levetid, når toppen i det tidlige voksenliv.

Disse lidelser findes i mange varianter med mange mærker. Depression er almindelig, ligesom angst. Afhængighed og tvang også. Mere ekstreme er mørket ved tvangslidelser og fragmenteringen af ​​skizofreni. De er unikt menneskelige.

Ukendt er, om de forbliver unikt menneskelige. Forskning inden for kunstig intelligens gør spektakulære fremskridt; for mange forskere er denne udvikling langs vejen til udvikling af menneskelignende generel AI. Dette fører til en urolig tanke: vil en menneskelignende AI arve menneskelignende tankeforstyrrelser?

For bevægelsesforstyrrelser, der har oprindelse i hjernen, har vi en vis forståelse af, hvad der sker: specifikke neuroner bliver beskadiget, og specifikke bevægelsesproblemer resulterer. Ved Parkinsons sygdom synes det at være åg at miste en lille samling af dopaminneuroner i mellemhovedet når rysten eller vanskelighederne med at bevæge sig vises. I Huntingtons sygdom er tab af neuroner i striatum direkte knyttet til sygdommens fortællende ufrivillige bevægelser og spasmer.

Tankeforstyrrelser har endnu ikke givet sig til enkle mekanistiske forklaringer. De synes snarere en forstyrrelse i meget store netværk af neuroner. Nogle kan indvende, at de fleste tankeregler har en mekanistisk forklaring, da de er sygdomme hos neuromodulatorer - fordi de fleste af deres behandlinger ændrer mængden af ​​en eller flere neuromodulatorer i hjernen. Men alt dette fortæller os, er, at de skal være et netværksdækkende problem, for neuromodulatorer frigives over hele hjernen. Og som deres navn antyder, ændrer neuromodulatorer, men forårsager ikke, transmission af information mellem neuroner. Selv hvis ændringer i neuromodulation er roden til tankeforstyrrelser, afspilles deres virkning i, hvordan de ændrer måden, neuroner taler med hinanden på.

Det er uklart, hvorfor tankeforstyrrelser endda eksisterer. Er de uundgåelige i nogen tilstrækkelig kompleks hjerne? I bekræftende fald, er denne uundgåelighed begrænset til biologi?

Hvordan vi besvarer det spørgsmål afhænger af, om tankeforstyrrelser skyldes

(1) iboende mangler i biologi,

(2) virkningerne af kultur, eller

(3) de iboende bivirkninger af storskala komplekse netværk af neuroner.

Disse er ikke gensidigt eksklusive, som vi vil se.

Inhærente fejl i biologien er den medicinske forklaring. Hjerner er poser med celler, som hver er en pose med kemikalier, og sidder i en suppe med andre kemikalier. En fejl i disse kemikalier eller poserne, som de sidder i, er et naturligt første mål for, hvordan tankeforstyrrelser opstår. Men medfødt mangelfuld biologi alene er usandsynligt forklaringen. Sådanne mangler ville blive valgt mod evolutionen. Fisk, der ikke kan møde en anden svømmedag, overlever ikke. Genetisk arvelige former for tankeforstyrrelser er sjældne. I stedet kan små forskelle i mange gener øge eller mindske sandsynligheden for at opleve en tankeforstyrrelse i livet. Noget tip derefter balancen fra en sandsynlighed til en realitet.

Tankeforstyrrelser kan således være en iboende konsekvens af vores kulturer. En sådan konsekvens kan være de fysiske produkter, vi fremstiller: et pesticid, et opløsningsmiddel, et stof. Tilstedeværelsen af ​​bestemte fremstillede kemikalier i vores miljøer har været forbundet med den øgede sandsynlighed for nogle få hjerneforstyrrelser; men tankeforstyrrelser har tilsyneladende gammel oprindelse, der foregik meget af vores industrielle spildevand.

En mere sandsynlig konsekvens af vores kultur er dens rene kompleksitet. Et godt indøvet argument er, at vi bruger vores hjerner uden for den niche, hvor de udviklede sig. Vores hjerner udsættes for konstante stressfaktorer i et samfund, der er langt større end de udviklede sig inden for. Af hundreder af ting at gøre, hundreder af ting, vi er opmærksomme på, men har ingen individuel kontrol over: krige, hungersnød, sygdom, klimaændringer. Kronisk stress påvirker kabelføring af neuroner og ændrer, hvordan de reagerer på input. I dette scenarie udspilles de genetiske forskelle, der øger eller mindsker chancerne for en tankeforstyrrelse i den modstandsdygtighed, de giver vores neuronale netværk til disse kulturelt drevne ændringer.

Men en fælles faktor for alle tankeforstyrrelser er, at de opstår i det mest komplekse netværk af neuroner på Jorden. Vi har 17 milliarder neuroner i vores cortex; intet andet dyr kommer tæt på. Vi vil gerne give vores cortex æren for vores tilsyneladende unikke kombination af talenter, for sprog og skrivning og matematik; til kreativitet og madlavning. Faktisk ser teorier for, hvordan vores cortex nåede ud i denne udvidere størrelse, det som enten årsag eller konsekvens af kultur: enten at så store, tilpasningsdygtige netværk giver os mulighed for at danne store sociale grupper og udvikle sprog; eller at dannelse af store sociale grupper og udvikling af sprog drev udviklingen af ​​den største cortex på Jorden.

Vi har en lille del af cortex dedikeret til forståelse og produktion af talesprog. En anden del af skriftsproget. Tab af at vide, hvordan man skal tale sætninger, betyder ikke, at man mister, hvordan man skriver de samme sætninger. Skriftligt sprog er en usædvanlig ny begivenhed, der er for ny til at have udviklet en dedikeret hjerne-region til at behandle det; at vi har et hjerneområde, der beskæftiger sig med at skrive, viser, hvordan vores cortex er en tilpasningsdygtig, alsidig maskine.

Og deri ligger problemet. Cortex kobles uendeligt sammen, når der læres nye færdigheder; når nye erindringer dannes; når ny viden erhverves; og når det fortsætter med at udvikle sig til tidligt voksenliv. I alt det her ledninger er der chancer for, at der dannes foreninger mellem ting, der ikke kan eksistere, hvilket giver hallucinationer; eller foreninger, der kunne eksistere, men er usædvanligt usandsynlige, der giver obsessive tanker; eller foreninger med dårlige resultater med uskyldige ting, der giver depression eller angst. At omkoblingen vil føre til aktivering af et sæt neuroner, der ved et uheld aktiverer et andet sæt, der ikke er relevant lige nu.

Tilpasningsevne er ikke kun kabelføring. Cortex forudsiger, hvad der er ved at ske. Det forudsiger det næste ord i en sætning. Den forudsiger, når en lyd følger en lys flash på himlen. Og disse forudsigelser kan vokse for stærke. De kan skrive informationen fra vores sanser. De kan skabe begivenheder, der ikke sker, så hallucinerende; kan forudsige begivenheder, der aldrig vil ske, deprimerende os.

Vi ser ud til at være den eneste art med en udbredt og mangesidet række af ting, der kan gå galt med vores sind. Vi er også den eneste art med en 17 milliarder neuronbarker, der indeholder billioner af forbindelser. De to er plausibelt forbundet.

Kontrast dette med den aktuelle tilstand af AI. Vi har været vidunderlige fremskridt. Men ved rod er vi stadig på det stadie, hvor en AI-agent lærer kun én ting. Et netværk lærer at oversætte et sprog til et andet; eller at klassificere et specifikt sæt billeder; eller for at spille Go eller skak eller kladder. Mens vi nu er nået til det punkt, hvor den samme arkitektur, det samme sæt algoritmer, kan bruges til at løse forskellige problemer, lærer den enkelte AI-agent stadig stadig kun én ting.

Mennesker lærer skak og gå og udkast; og lære flere sprog; og lær at male. Og lær sekvenser af begivenheder, forudsige resultater, gode eller dårlige. Og gør alt dette med en cortex. Som omhandler mange forskellige typer indlært information og mange forskellige anvendelser af denne information. I et tæt komplekst netværk, moden for funktionsfejl.

Denne argumentationslinje antyder, at en "generel" AI ikke er mulig eller i bedste fald utilrådelig. Det antyder, at et tilstrækkeligt komplekst netværk, der er i stand til at udvise menneskelignende evner - til at tilpasse sig hver nye opgave, foretage forudsigelser, lære og danne minder - også vil udvise menneskelignende skrøbeligheder. At en sådan AI ville udvise en række tankeforstyrrelser, ville have psykoser.

Retorturen ville være, at når vi konstruerer sådan AI selv, så kan vi konstruere de netværk, vi bygger, for ikke at blive bytte for disse skrøbeligheder. Denne retort antager, at vi vil have tilstrækkelig forståelse af, hvordan disse lidelser opstår for at konstruere sig omkring dem. Patentligt har vi det ikke i øjeblikket, eller noget tegn på, at forståelsen snart kommer.

En mere raffineret retort kan være, at vi ikke behøver at følge den udviklede hjerne slavisk, at vi kan finde måder at have et komplekst netværk, der kan lære og udføre mange forskellige opgaver uden at arve biologiens designfejl. Især synes menneskelige tankeforstyrrelser at være afhængige af neuromodulatorer, og AI'er har dem ikke. Et problem med denne opfattelse er, at den i sagens natur mener, at neuromodulatorer ikke foretager beregning. Men det er alt sammen beregning. En neuromodulator som serotonin ændrer hjernens tilstand ved at ændre styrkerne i forbindelserne mellem neuroner. Neuromodulatorer har denne rolle i både de mindste nervesystemer på Jorden og i vores cortex. Vi burde antage, at de er nødvendige for at være intelligente. Det ser ud til, at AI har brug for noget, der efterligner neuromodulation, hvis det skal nå ud til generel intelligens. For det er, hvordan reelle netværk af neuroner kan tilpasses til at ændre det aktuelle problem ved at ændre, hvordan de interagerer, både kort og permanent.

Et andet problem med denne opfattelse er, at mange AI-systemer allerede bruger neuromodulation. Dopamin-neuroner ændrer deres fyring for at signalere forskellen mellem det resultat, du forventede, og det resultat, du fik. Dette er "forudsigelsesfejl" i hjertet af mange af de mest spektakulære nyeste AI-demonstrationer. Det kan drive forkerte sammenhænge mellem handlinger og resultater i AI-netværk lige så let som i neuronale netværk.

Men sig, at vi forstod, hvordan disse lidelser opstår. Så hvis de stammer fra andet end rene iboende mangler i biologien, hvis de stammer fra vores kultur eller er iboende bivirkninger af store tæt forbundne netværk eller begge dele, kan de ikke manipuleres rundt. En sådan avanceret AI ville eksistere inden for vores kultur - en, der er adskilt fra den, ville per definition ikke være den opmuntrede generelle intelligens. En sådan avanceret AI ville uden tvivl brug for store, komplekse netværk, hvor man kan lære og gemme mange overlappende og forskellige funktioner. Sagt på denne måde ser en sådan avanceret AI lige så sårbar over for tankeforstyrrelser som os.

Dette essay er ikke et svar, men et spørgsmål. Fordi jeg vil vide: vil et netværk, der er tilstrækkeligt komplekst til at udvise menneskelignende intelligens, uundgåeligt også udvise menneskelignende tanker?

Der er svar på spørgsmålene her. For eksempel, hvis celledød og funktionsfejl ligger bag enhver tankeforstyrrelse, og disse altid skyldes miljømæssige stressfaktorer, vil AI være immun. Når vi finder svarene på disse spørgsmål, vil vi uundgåeligt bedre forstå hjernen og måske forstå, hvordan vi bygger en elastisk, generel AI. En ikke-psykotisk. Jeg tror, ​​vi alle har set nok sci-fi til at blive enige: det ville være en god ting.

Læs mere om neurovidenskab på The Spike

@markdhumphries