Waarom Blijven Mensen Fantaseren Over AI Die De Apocalyps Veroorzaakt?

Hallo iedereen, Michael Reilly hier.

\ Het is nog vroeg in 2024, maar is iemand anders ook uitgeput door het niveau van drama en hyperventilatie rondom AI? Wat mij bijzonder opvalt, is de bereidheid van sommige mensen om catastrofes op te roepen - werkelijke apocalyptische visies van onze toekomst - om hun kekke chatbots en beeldgeneratoren te beschrijven.

\ Ik denk in het bijzonder aan de recente ruzie op Twitter tussen Vinod Khosla en Marc Andreessen, twee van de meest prominente durfkapitalisten uit Silicon Valley, die beiden ook investeerders zijn in OpenAI. Wat begon als een discussie over of het een goed idee was om de propriëtaire code van OpenAI open source te maken, vond op de een of andere manier zijn weg naar het vergelijken van de producten van het bedrijf met het Manhattan Project.

\ Khosla's punt leek te draaien om nationale veiligheidszorgen over het open source maken van zeer geavanceerde AI-code voor iedereen die zou kunnen besluiten deze te misbruiken. Maar dit soort apocalyptisch taalgebruik zit in het oprichtings-DNA van OpenAI, een bedrijf dat begon als een doelbewuste poging om een computergebaseerde superintelligentie te creëren die het menselijk intellect zou overtreffen. Eind 2022 lanceerde OpenAI ChatGPT en de fanfare nam echt een vlucht. Net als het catastroferen, dat zich verspreidde vanuit mensen zoals Sam Altman, die als hoofd van het bedrijf een gevestigd belang heeft bij het laten klinken van zijn technologie als Echt Krachtig.

\ Waarom praten techpersonen graag over dingen in apocalyptische termen? Laten we eerlijk zijn: *iedereen* houdt ervan om over het einde der tijden te praten. Oude beschavingen, religieuze teksten, Hollywood-filmproducenten, mainstream media, internetcomplotdenkers - techbestuurders staan niet alleen. Er is iets inherent menselijks aan het geloven dat de wereld op de rand van een catastrofe staat.

\ Maar specifiek voor techpersonen vraag ik me af: Zegt Sam Altman dat hij slechts $7 biljoen nodig heeft om de wereld te transformeren in een door AI aangedreven utopie omdat hij oprecht gelooft dat dat een goed gebruik van het geld is (heeft hij gehoord van klimaatverandering)? Is het gewoon marketing? Hoe gevaarlijker hun technologie klinkt, hoe meer aandacht het krijgt en dus hoe meer geld, zowel in termen van investeringen als bedrijfswaardering. Die strategie... lijkt echt goed te werken! OpenAI is gewaardeerd op $80 miljard.

\ Het echte probleem is echter dat dit glimmende-object-verhaal afleidt van de werkelijke, reële gevolgen van AI. Software die grote hoeveelheden gegevens gebruikt om voorspellingen te doen over de wereld is er, druk bezig met zijn ding. In sommige gevallen - zoals in het scoresysteem van Los Angeles voor gesubsidieerde huisvesting, Wisconsin's Dropout Early Warning System, plagiaatdetectietools, en een reeks andere goed gedocumenteerde gevallen variërend van aanwerving tot strafrecht - schaadt het mensen.

\ Als ze de moeite zouden nemen om aandacht te besteden, denk ik dat de Grote Tech Machthebbers het grotendeels eens zouden zijn met het idee dat we systemen zoals die The Markup onderzocht in LA of Wisconsin moeten repareren zodat ze eerlijker en rechtvaardiger werken. Maar door deze toegegeven veel minder sexy onderwerpen te negeren en in plaats daarvan te focussen op discussies over hoe AI het einde der tijden zal inluiden - of dat we alleen door het wijze rentmeesterschap van de hogepriesters van durfkapitaal gered kunnen worden van vernietiging - worden we gevraagd onze aandacht te richten op fantasie.

\ En hé, wie houdt er niet van een goede fantasie. Zorg er alleen voor dat je ruimte overhoudt voor de realiteit.

\ Bedankt voor het lezen,

Michael Reilly

Hoofdredacteur

The Markup

\ PS - als je tot nu toe bij me bent gebleven of gewoon naar de onderkant bent gesprongen, verdien je wat coole dingen. Hier zijn een paar (meestal AI-achtige) dingen van het internet die ik onlangs echt interessant vond. Hopelijk geven ze je wat stof tot nadenken voor dit weekend:

• Dit verhaal van Karen Hao in The Atlantic is een van de beste stukken die ik heb gelezen over de natuurlijke hulpbronnen die worden verbruikt door de Grote AI-Hype van de jaren 2020.
• Onze eigen Ross Teixeira sprak met verschillende leraren over de hele wereld over hoe ze AI in de klas gebruiken. Ik vond hun antwoorden fascinerend.
• De nieuwkomers van 404 Media scoren geweldig met primeurs bijna dagelijks sinds hun lancering zes maanden geleden. Als AI de wereld gaat vernietigen, is het omdat het zal worden gebruikt om ons allemaal te verdrinken in TikTok-spam.
• Onze voormalige collega, Leon Yin, en zijn cohorten bij Bloomberg deden een geweldig onderzoek naar hoe OpenAI's GPT-wervingstool een ingebouwde raciale vooringenomenheid heeft. Visueel verbluffend en ook een geweldig stuk journalistiek.
• Dit kleine bedrijf denkt dat Amerika moet beginnen met het gebruik van stemmachines die volledig op open source code draaien.

Credits

• Michael Reilly, Hoofdredacteur

Redactie

• Sisi Wei

Ontwerp en Grafische vormgeving

• Gabriel Hongsdusit

Betrokkenheid

• Maria Puertas

\ Ook hier gepubliceerd

\ Foto door Mylène Haudebourg op Unsplash

\