Dat komt omdat technologie tot nu toe iets is dat we bouwen. We bepalen wat het is en wat het zal doen, en ontwerpen het om die doeleinden te bereiken. We kunnen niet al zijn aanvragen voorzagen en kunnen niet voorkomen dat mensen het voor snode doeleinden toewijzen. Maar hoe het ook wordt gebruikt, het is een uitbreiding van onze verschillende doelen. We begrijpen hoe het werkt, en we stellen het om dienovereenkomstig te gebruiken. Maar AI is niet iets dat we bouwen. Het is in plaats daarvan iets dat we trainen. Dat wil zeggen, we geven het de tools om zichzelf te regisseren.
CHATGPT -topman Sam Altman. Credit: Bloomberg
Als om dit sterk te illustreren, trainen de bedrijven die AI ontwikkelen het momenteel om te coderen. Dat wil zeggen, ze trainen AI om zichzelf te programmeren. En omdat AI het punt van sneller en beter dan elke mens kan denken, volgt hieruit dat AI snel de snelste, meest geavanceerde computerprogrammeurs op de planeet zal produceren. Op dat moment zal het geen zin hebben om over AI te praten in de manier waarop we het over andere technologie hebben. Het zal niet langer een hulpmiddel zijn; Het wordt een agent.
Zodra het dit heeft bereikt, kan het zich ontwikkelen. Wat menselijke codeerders jaren had kunnen nemen, kan AI weken duren. Deze ontwikkeling maakt het beter en sneller, wat het op zijn beurt beter en sneller maakt, wat allemaal neerkomt op exponentiële versnelling.
Op dit moment hebben we het niet langer eens over kunstmatige intelligentie zoals we het begrijpen. We hebben het over wat Daniel Kokotajlo “Superintelligences” noemt, waar AI in alles bovenmenselijk zal worden en mensen grotendeels overbodig zullen zijn geworden. Op dit moment zullen massale banenverliezen het minste van onze zorgen zijn.
Kokotajlo moet weten wat hij spreekt. Hij is een voormalige medewerker van Open AI – die Chatgpt ontwikkelde – die het bedrijf verliet omdat hij niet langer dacht dat het in staat was om de risico’s aan te pakken die het ontketend was. Hij denkt dat we in 2027 of 2028 Superintelligences gaan zien. Wat de tijdlijn ook is, het fundamentele probleem hier is er een van meesterschap. In tegenstelling tot eerdere technologie, zelfs in deze ruwe, vroege fase, gedraagt AI zich al op manieren die de uitvinders niet begrijpen.
Laden
Een voorbeeld dat Kokotajlo biedt, is dat AI is begonnen te liegen. Geen fout maken of op basis van slechte gegevens. Maar antwoorden geven die niet waar zijn en waarvan het weet dat het niet waar is. Niemand weet waarom dit gebeurt en de eigenaren proberen dat te stoppen. Maar als we AI beschouwen als een digitaal brein dat zijn eigen gedachten kan genereren, moeten we niet verwonderlijk zijn dat het zijn eigen doelen begint na te streven, die weinig te maken hebben met de onze en die we misschien niet eens weten. Zodra dat versnelt, zal elke pretentie die we zijn AI’s meesters zijn verdampt.
Natuurlijk biedt Kokotajlo maar één voorspelling aan. Het is er een gebaseerd op een intieme kennis van de technologie en van de bedrijven die deze produceren; Bedrijven die volgens hem zich terdege bewust zijn van de scenario’s die hij beschrijft en omarmen zelfs aspecten ervan. Maar toch is voorspelling beladen en komt misschien niet voorbij.
Allerlei dingen kunnen in dit proces ingrijpen. Zoiets als bijvoorbeeld regelgeving. Kokotajlo denkt dat dit onwaarschijnlijk is omdat mensen de neiging hebben om verschrikkelijk te zijn in het omgaan met risico’s die we niet hebben meegemaakt en zich niet gemakkelijk kunnen voorstellen. Je zou zelfs kunnen zeggen dat hij aanneemt dat de geschiedenis gewoon zal herhalen. Misschien moeten we dan het weerstaan om hetzelfde te doen.
Waleed Aly is een omroep, auteur, academische en gewone columnist.
De opinie nieuwsbrief is een wekelijkse uitzichtpak die je eigen uitdagen, verdedigen en informeren. Meld u hier aan.
