zaterdag, 24 februari 2024
Vraag Rijk
Online Schrijfhulp

Blog

opinion noam chomsky the false promise of chatgpt

Sinds 2019, 15 februari 2019 om precies te zijn, opereert de app ChatGPT, die ik destijds een ‘levensgevaarlijke tekstrobot’ noemde, vanwege de vervuiling van online informatie die hij veroorzaakt.

Inmiddels zijn, dat weten we allemaal, de volgende stappen gezet en de verwachtingen zijn veelvuldig, maar de zorgen eveneens.

Noam Chomsky (1928), maakt zich in de New York Times van 8 maart 2023 zorgen om ChatGPT en vergelijkbare robots. Hij gaat daarbij in op twee aspecten die van fundamenteel belang zijn: het ontbreken van echt begripsmatig denken en de afwezigheid van enige ethiek.

Geen begrip, geen ethiek

Noam Chomsky (1928) is een van de grondleggers van de Transformationeel Generatieve Grammatica, de theorie dat alle mensen een aangeboren taalmodel hebben waarmee ze op grond van wat zij als kind leren betekenisvolle zinnen kunnen produceren en begrijpen. Ik had het voorrecht te mogen bijdragen aan de automatisering van een deel van dit taalmodel in samenwerking met professor Jan van Bakel en in het Esprit-project Polyglot.

Chomsky noemt ChatGPT, Google's Bard en Microsoft’s Sydney dan wel ‘wonderen van machine learning’. Ze genereren ogenschijnlijk menselijke taal en gedachten, toch verschillen ze fundamenteel van wat taalwetenschappers en kennisfilosofen weten over menselijk redeneren en menselijk taalgebruik.

Grote misvatting

De grote misvatting is het uitgangspunt dat je met statistiek, patroonherkenning en honderden terabytes aan gegevens kunt komen tot een echt betekenisvol en ethisch verantwoord model van de menselijke geest. Nee, zegt Chomsky, de menselijke geest is juist verrassend efficiënt en elegant in het verwerken van kleine hoeveelheden informatie om tot verklaringen te komen.

Denk daarbij aan de taalverwerving van een kind. Dat gebeurt onbewust, automatisch en snel, op grond van heel beperkte gegevens. En dat kan alleen, aldus Chomsky, dankzij een aangeboren taalgevoel, een grammatica waarmee mensen ingewikkelde zinnen en gedachten kunnen maken en begrijpen. En dat is iets totaal anders dan wat er in de machine learning van taal gebeurt.

Geen kritisch vermogen, geen intelligentie

De grootste tekortkoming van de chatbots is de afwezigheid van kritisch vermogen en intelligentie. Ze kunnen bijvoorbeeld geen wetenschappelijke voorspellingen doen en deze voorspellingen vervolgens verifiëren, zoals in wetenschappelijke experimenten. Ze lijken zaken af te wegen, maar doen dat alleen door opgeslagen informatie te reproduceren.

Ware intelligentie, zegt Chomsky, kan ook moreel denken. ChatGPT zou moreel verwerpelijke inhoud moeten kunnen vermijden. Maar aangezien de chatbot geen geweten heeft, zal deze daar niet over kunnen oordelen.

Ondertussen blijft ChatGPT geplagieerde, vaak ondermijnende inhoud uitspugen, zonder daarover een standpunt in te nemen, ook niet als je hem daar om vraagt. Chomsky stelt de makers daarvoor verantwoordelijk. En gelijk heeft hij.

Lees ook: https://www.rijkwillemse.nl/805-wil-je-denken-denk-dan-mee