AIs største udfordring er menneskelig og ikke teknologisk.

Folk spørger mig ofte, om AI virkelig fungerer endnu - er det så smart, som AI-virksomheder maler det skal være, hvor meget er automatisering versus AI? Spørgsmålene peger på, at de teknologiske hindringer, der giver port AI, er effektive.

Imidlertid overser vi ofte en langt hårdere udfordring med at give liv til AI: forståelse af menneskelig adfærd.

AIs største udfordring er at være menneske, ikke teknologisk.

Software optimerer de menneskelige værdier, vi giver det

I min tid som VP for produkt hos Mezi gjorde vi konstant vores AI smartere, mindre brudbare og i stand til at genkende flere input. Men kernen i brugerens AI-oplevelse var et sæt menneskelige værdier, vi definerede manuelt på forhånd. Først da vidste AI, hvad de skulle optimere til i sine interaktioner.

Det er en rejseassistent, men hvad med når AI overtager rollen som læge, terapeut, ven, lærer, kunstner eller soldat? Ønsker det, at du skal følge dine drømme eller gøre en stabil indkomst? Ønsker det, at du hører glad eller trist musik efter din sammenbrud? Lader det dig nyde ferien, inden du går tilbage på din diæt?

Vi har ikke et fast greb om vores menneskehed

Teknologi er kommet langt hurtigere end den menneskelige selvbevidsthed har gjort.

Et par historiske milepæle inden for teknologi:

  • I 1879 fandt elektricitet sin første praktiske anvendelse i pæren.
  • I 1903 tog det første fly flyvning med en elektrisk motor.
  • I 1957 blev den første satellit lanceret i rummet.
  • I 2016 blev de første billige præfabriksboliger lanceret i rummet for at skabe naturtyper uden for Jorden.

Lad os sammenligne dette med udviklingen af ​​den menneskelige natur i USA:

  • I 1865 håndhævede Jim Crow-lovgivningen race-adskillelse ved afskaffelse af slaveri.
  • I 1942 angreb japansk amerikansk internering efter Pearl Harbor.
  • I 2017 indvandringsforbud for borgere i 6 muslimske flertal lande.

I modsætning til den eksponentielle vækst af teknologi følger den menneskelige natur et Groundhog Day-mønster. I de tre eksempler ovenfor gentager det samme behov for kontrol, dominans og "andet" sig. Og det minder om den menneskelige natur, der vises på skolens legeplads, hvor det ene barn mobber det andet eller ved et baseball-spil, hvor den ene side boos den anden. Vi forstår intellektuelt lighed, kærlighed og medfølelse, men alligevel styres af underliggende og konkurrerende ønsker. Dette afspejler sig i forsøg på at reformere vores omstændigheder, mens vi ikke reformerer vores dybere tankeproces - indtil dette sker, er vi nødt til at genopleve vores fejl på forskellige målgrupper under forskellige omstændigheder. Jeg argumenterer for, at den menneskelige natur i sig selv er moden for forstyrrelser.

Vi kender os ikke godt nok til at give værdier til uendeligt kraftige maskiner.

Et nyt fokus på refleksion og selvbevidsthed

Selvbevidsthed: Bevidst viden om ens egen karakter, følelser, motiver og ønsker.

Vores bedste intentioner støtter ofte op imod et konkurrerende og ikke-erklæret sæt af intentioner. Vi agter at være sammen med vores forældre - men når de gør det, gør de altid, mister vi humøret. Vi overvindes af endnu stærkere intentioner om at hævde vores uafhængighed, vise dem, at de er forkerte eller skjule vores sårbarhed. Vi agter at finde et job, som vi brænder for - men bliver konfronteret med stærkere intentioner om at slappe af og unne os Game of Thrones, tilbringe tid med venner og familie eller undgå fiasko.

De fleste mennesker kan ikke navngive, langt mindre prioritere, de intentioner, der virkelig leder deres liv. AI-verdenen står over for det samme problem, når man forsøger at frø kunstig bevidsthed.

Der findes en overflod af selvudviklingserfaringer og -metoder, og det er på tide, at vi kommer forbi apati og udforsker dem. Fra min egen rejse har følgende været den mest dybe og transformerende:

  • Mindfulness meditation. Fantastisk til at udvikle evnen til at være rolig, selvbevidst og forsætlig på efterspørgsel.
  • Landmark Forum. 3 og 1/2 dages intens selvundersøgelse i et rum på 150 mennesker, der kaster årtiers begrænsende overbevisning og går ud forbundet med og bevæget mig, andre og hvad der er muligt i mit liv.
  • Eckhart Tolle. Bogen "En ny jord" vendte min verden på hovedet og hjalp mig med at opdage spiritualitet på en moderne og intellektuelt funderet måde.

En ny slags ledelse er nødvendig

Vi har gjort store fremskridt med at mestre elementerne - fra at sende objekter til Jupiter til redigering af DNA til høst af solenergi. Men de færdigheder, der kræves for at gøre teknologiske mirakler, er ikke de samme færdigheder, der kræves for at frø karakteren og værdierne af et selvstyrende, ekstremt smart kunstigt væsen.

Steve Jobs forvandlede verdenen af ​​mobilforbindelse ved at give folk en grund til at købe en smartphone - han gjorde teknologi uimodståelig. Den anden side af mønten var et spil om forbrugernes behov for at føle sig eksklusiv, elite og prestigefyldt. Hans produkter evigvarede i sidste ende sine egne ønsker om at føle sig speciel, ønsket og bedre end dig. Hvordan ville en Siri-robot reagere, hvis nogen var nedladende over for hende? Vil designerne af Siri optimere sig til friskhed, gensidig forståelse eller gengældelse?

En bevidsthedsskabers kvalifikationer er ikke inden for teknik, design eller forretning, men snarere dyb viden om og lidenskab for menneskeheden. En ny lederrolle som Chief Consciousness Officer med baggrund inden for psykologi, mindfulness eller coaching vil blive nødvendig.

Der har aldrig været et større ansvar fra tech-virksomheder for at udvikle en dyb forståelse af, hvad menneskelig forbedring og lykke virkelig betyder. Taktik, der har hjulpet virksomheder i fortiden - at udvikle vanedannende adfærd, virussløjfer, skifte omkostninger - kan ikke eksistere i hjertet af ufattelig kraftig teknologi.

AI vil blive lavet efter mands image. Menneskets billede vil enten reflekteres uhøfligt tilbage til os i utilsigtet adfærd og resultater, eller omhyggeligt skabt til at opfylde de værdier, der virkelig kommer os til gode. Nu er det tid til at se, hvem vi er, og hvad vi står for.

Inden vi bygger uendeligt kraftige maskiner, skal vi først forstyrre menneskets natur.

Hvis du nød denne historie, skal du klikke på -knappen og dele for at hjælpe andre med at finde den! Efterlad en kommentar nedenfor.

Missionen udgiver historier, videoer og podcasts, der gør smarte mennesker smartere. Du kan abonnere for at få dem her.