Generatieve dieven
Stel, ik vertel een ondernemende junk over mijn wensen. Een fiets, matgrijs met een mandje. De junk knutselt ‘mijn fiets’ in elkaar uit onderdelen van eerder gestolen fietsen. De volgende dag haal ik mijn bestelde fiets op. Ben ik dan strafbaar? Moreel verwerpelijk?
Of een prompt-engineer?
Immers ChatGPT is ook een dief, toch? Een hele grote! Gebouwd op gigantische bergen data, die zonder toestemming zijn verzameld. Gestolen, dus. Mijn columns zitten ook in ChatGPT. Daar heb ik geen toestemming voor gegeven, ik word er niet voor betaald en als ChatGPT mijn teksten gebruikt, wordt dat niet vermeld.
Dus, vraag ik me af, zijn mensen die op LinkedIn tips geven over hoe je het best ChatGPT kunt gebruiken, eigenlijk niet gewoon helers? En, onderwijsinstellingen, die richtlijnen opstellen om verantwoord om te gaan met ChatGPT, zijn die helemaal de weg kwijt? Is niet de enige juiste keuze om ChatGPT (en al die andere generatieve dieven) niet te gebruiken, zolang het auteursrecht niet geregeld is?
Nu denk je misschien: doe niet zo naïef. Vooruitgang kun je niet tegenhouden. Maar, lieve mensen, dat is onzin. Kunstmatige intelligentie is kunstmatig. Het is geen natuurkracht. Je kunt het ook niet gebruiken. Nieuwe technologie staat niet gelijk aan vooruitgang. Je kunt best kritisch zijn op technologie en toch voor vooruitgang zijn. Zeker als de technologie een ordinaire dief is.
OpenAI, het bedrijf achter ChatGPT, gebruikt andere woorden. Ze praten over ‘trainingsdata’, ‘unsupervised leren’ en ‘data-uitputting’. Maar u en ik weten best wat ze eigenlijk bedoelen: van de vrachtwagen gevallen.
Rens van der Vorst is technofilosoof, werkt bij Fontys hogescholen ICT en Engineering en is auteur van diverse boeken, waaronder Digitale Gremlins. Lees hier de eerdere columns die hij voor Bron schreef.
Hartelijke groet,
Gwenn
AI modellen bevatten, in principe, niet de bronmaterialen. Ze bevatten een samenvatting van kenmerken die ze geleerd hebben door naar de bronmaterialen te kijken (leren, trainen van datasets). In essentie is dit niet veel anders dan hoe mensen leren. Kijken naar bestaande werken, patronen herkennen, lering trekken eruit en dan zelf iets maken. Stel je koopt een boek met alle werken van Van Gogh. Dit boek heeft copyright, mag ik niet verspreiden. Ik mag wel het boek bestuderen, leren wat er achter de schilderstijl zit en vervolgens mijn eigen schilderijen gaan maken gebasseerd op wat ik geleerd heb, in de stijl van Van Gogh. Mag ik zelfs geld aan verdienen. Wat ik niet mag doen is schilderijen maken in de stijl van Van Gogh en dan vervolgens zeggen dat ze gemaakt zijn door Van Gogh. Wat ik ook niet mag is materiaal verspreiden die dichtbij de stijl blijven, of verward kunnen worden met, het werk van bedrijven die een handelsmerk hebben. Disney heeft bijvoorbeeld image generation van Disney achtige karakters bij Bing uit laten zetten. Wat het vervelender maakt is dat een AI oneindig veel sneller en meer kan leren dan een mens. Samengevat, het heeft niets met diefstal te maken en alles met een supercomplex copyright systeem dat niet klaar is voor de opkomst van AI. Hierbij is het belangrijk dat er ruimte is om de auteur en artiest te beschermen voor misbruik door AI en toch AI te kunnen gebruiken. Copyright schending is geen diefstal ./rant .(disclaimer: Ik ben geen jurist, Copyright en vooral internationaal copyright is extreem complex)
Het doel van de column is uiteraard vermaak ende de discussie oproepen, dus dank daarvoor. Ik ken jouw 'verdediging', het inspiratie-argument, maar ik kan me daar niet in vinden, simpelweg omdat onze hersenen compleet anders werken. Quentin Tarantino laat zich ook inspireren, net als ik bij mijn boeken. Het verschil is dat Quentin en ik (rijtje intended) er een hoop van onszelf inleggen. En we geven credits aan de originele makers.
Jouw vergelijking suggereert ergens dat de machine een soort van mens is, en dan zou een mens een soort van machine zijn, en dat vind ik een onder engineers populaire, maar uiterst trieste gedachte.
Blijft de olifant in de kamer. Als ChatGPT het vaak mis heeft, geen credits geeft, geen auteursrechten betaald en gerund wordt door 'bepaalde' personen met extreme denkbeelden, zouden onderwijsinstellingen dan verantwoord gebruik moeten promoten, zoals vele nu doen?
Ik twijfel steeds harder.
Fijne dagen!
Dank aan Rens voor het niet onder stoelen en banken schuiven van je mening, ook al wijkt die af van het narratief.
Bedankt voor al je columns dit jaar, het waren weer juweeltjes.
Fijne dagen en tot volgend jaar.