È tempo di sfatare i miti sull'intelligenza artificiale

German Bender sostiene che l’ansia prevalente riguardo agli effetti negativi dell’intelligenza artificiale è radicata in una visione ingenua e senza storia della tecnologia, dell’economia e della politica.

L’ultima ondata di intelligenza artificiale lascia un po’ a desiderare Intelligenza Ormai è familiare ai più. Non sorprende che non sia così industriale Come molti credono.

I grandi modelli linguistici sviluppati da OpenAI, Anthropic e Google, tra gli altri, richiedono un ampio lavoro umano per classificare e valutare sia i dati di input che quelli di output su cui i sistemi vengono addestrati e messi a punto.

Ciò è necessario soprattutto affinché i sistemi possano comunicare meglio con il linguaggio naturale e farlo anche in modo che ci sentiamo più umani.

Il termine collettivo per questo è Apprendimento migliorato dal feedback umanoOppure RHLF. Pertanto, è il lavoro umano ad essere stato e continua ad essere cruciale nello sviluppo dei cosiddetti “grandi modelli linguistici” (Grandi modelli linguisticio LLM) che hanno preso d'assalto il mondo dal lancio di ChatGPT il 30 novembre 2022.

I lati oscuri della nuova brillante tecnologia digitale

L'editoriale attira l'attenzione Timone DN Max Questo lavoro è spesso svolto da persone che vivono in paesi poveri, con condizioni di lavoro pessime e salari molto bassi. Inoltre, il lavoro è spesso estremamente fastidioso e stressante, e ricorda il lavoro svolto dai moderatori di contenuti di Facebook e di altri social media nei paesi poveri.

I sistemi che molti credono siano completamente automatizzati spesso fanno affidamento sul lavoro umano che è nascosto a noi utenti. Questo lavoro è spesso (ma non sempre) svolto dai poveri in Africa e in Asia.

Un altro esempio è il sistema di pagamento “automatizzato” recentemente cancellato da Amazon Esci e bastaPiace Conta infatti più di 1000 dipendenti in India Per monitorare e classificare continuamente i video dei clienti nel negozio.

La Tech Policy sottolinea che in molti casi ciò che consideriamo intelligenza artificiale In poche parole, si tratta di outsourcing.

È bene ed importante che tutto questo venga notato.

Ma non è sorprendente, nuovo o esclusivo dell’intelligenza artificiale.

Molti hanno valutato i lati oscuri delle nuove brillanti tecnologie digitali – che fanno affidamento e sfruttano il lavoro umano –.

Esempi recenti includono gli antropologi Mary Gray e Siddharth Suri in Ghost Work, la psicologa Shoshana Zuboff nel classico moderno Surveillance Capitalism, Mikael Nyberg in Kapitalets Automatik e Anders Teeglund in Cyclelbudet e Slavdrevaren. e le riviste. Phronesis nell'argomento “Algoritmi” E Jacobin sul tema “Intelligenza Artificiale”.

Qualche anno fa è stato lanciato anche questo concetto Covarianza Scritto dai ricercatori informatici Hamid Ikbia e Bonnie Nardi. IL Covarianza definita In contrapposizione all’automazione, sosteneva che l’automazione allontana l’uomo dalla tecnologia, mentre l’eterogeneità, al contrario, lo attrae.

Gli esseri umani sono sempre stati necessari affinché la tecnologia funzionasse

Secondo Ikpea e Nardi, l’eterogeneità differisce dai precedenti meccanismi delle economie capitaliste in tre modi: collega milioni di persone, crea un forte impegno e cattura la nostra attenzione quasi costantemente, e rende invisibile il lavoro umano necessario affinché la tecnologia funzioni.

Secondo i ricercatori, quindi, l’eterogeneità significa nuove sfide se vogliamo essere in grado di affrontare lo sfruttamento e la sorveglianza delle persone, nonché lo sfruttamento del loro lavoro senza che loro stesse ricevano una congrua parte del valore.

Tutto ciò è ragionevole e saggio.

Ma non molto nuovo.

Già nel 1983, la psicologa Lisanne Bainbridge notò in un influente articolo di ricerca “Paradossi dell'automazione” L’automazione in larga misura non elimina completamente gli esseri umani dalla tecnologia. Vengono invece creati nuovi compiti e problemi che devono essere risolti dalle persone.

Le automazioni quindi non sono opposte tra loro, ma piuttosto sono prerequisiti l’una dell’altra.

Anche l’eterogeneità è un fenomeno fondamentalmente antico. Gli esseri umani sono sempre stati necessari affinché la tecnologia funzionasse. Se si considera la tecnologia da una prospettiva sociotecnica – cosa che penso si dovrebbe sempre fare – questo non è particolarmente sorprendente.

In effetti, quasi tutta la tecnologia – e questo forse è più vero oggi che mai – è profondamente radicata in sistemi sociali ed economici complessi. Nei sistemi socio-tecnici, le persone sono, in breve, inalienabili.

Questa consapevolezza sembra essere assente, o almeno troppo tardi, tra i dibattiti che si preoccupano incessantemente degli effetti devastanti che avranno l’intelligenza artificiale e il suo sfruttamento del lavoro umano.

Ciò testimonia una chiara mancanza di storia e di ignoranza dei sistemi socio-tecnici. Ma anche della visione sorprendentemente ingenua del capitalismo come sistema politico-economico.

Un esempio lampante di questa ingenuità è la recente versione Brucia il libro: una storia d'amore per la tecnologia, un resoconto agrodolce degli inizi dell'azienda tecnologica scritto dalla leggendaria (e per molti versi brillante) giornalista tecnologica Kara Swisher. Il libro inizia con le paroleCome si è scoperto, dopo tutto questo era il capitalismo(“Alla fine si è scoperto che era il capitalismo”).

Per me, la cosa più sorprendente è che qualcuno saggio e critico come lo stesso Swisher la pensi diversamente.

Ma perché la “nuova economia digitale” funziona in modo radicalmente diverso da quanto ha sempre fatto l’economia di mercato? Indipendentemente dall’innovazione tecnologica – indipendentemente dal sistema economico e dall’ideologia – grandi gruppi di persone sono sempre stati sfruttati per generare valore per il quale poi non ricevono la dovuta quota.

Grazie alla digitalizzazione, a Internet e alle decisioni politiche, oggi questo accumulo può avvenire su scala più ampia e concentrarsi tra un minor numero di persone.

La novità è che alcune persone potrebbero essere sorprese dal fatto che ciò accada e la superficie lucida della tecnologia non è tanto tecnica quanto dà l'impressione di essere reale.

Si pensava che la tecnologia fosse disumana in senso stretto Inumanoquando in realtà ha un significato disumano Inumano.

L’unico modo per liberarsi da questa illusione è adottare un approccio completamente diverso alla tecnologia, basato su un’idea molto semplice ma apparentemente difficile da comprendere: nessuna tecnologia è completamente “tecnica”, ma è sempre più o meno sociale e tecnica. .

La tecnologia opera sempre in un contesto sociale, cioè in relazione alle persone. La novità non è che la tecnologia dipenda dagli esseri umani, ma che siamo arrivati ​​a credere che sia così NO In realtà.

Poiché la dimensione sociale è integrata in tutta la tecnologia, è anche economica. E quindi politico.

Mentre lo shock di tutto ciò si diffonde nel comitato editoriale di DN, suggerisco che adottino una prospettiva sociale, tecnica, economica e politica nei loro prossimi editoriali sul tema dell’intelligenza artificiale. Un buon punto di partenza è la frase significativa dell’autore principale Max Helm: “Le rivoluzioni tecniche cambiano tutto, ma anche niente”.

Bandar tedesco È direttore delle indagini presso l'Arena Eddy e ricercatore affiliato alla Harvard University School of Economics