artikel
Met de recente hype rond ChatGPT als tekstgenerator is AI begonnen aan haar volgende oogstseizoen. Het lijkt allemaal nieuw, maar AI is eigenlijk al lang ingeburgerd in de laboratoriumgeneeskunde (D7578). Bruikbaar, maar zonder torenhoge verwachtingen.
Die verwachtingen zijn er nu wel. Net zoals scholieren geen opstellen meer hopen te schrijven, dromen veel onderzoekers ervan geen artikelen en onderzoekaanvragen meer te schrijven. AI kan toch veel beter en sneller die systematische review overnemen?
‘Natuurlijke intelligentie kwam hier toch als overwinnaar uit de bus’
Alex Schuurman c.s. probeerden het. Ze dienden een tekst in die ik bij eerste screening niet direct identificeerde als AI-tekst: 1-0! Goede lezing legde echter de gebrekkige onderbouwing bloot: 1-1. De reviewers prikten er pas echt doorheen: 1-2. Revisie met AI lukte (2-2), maar overtuigde noch redactie, noch reviewers: 2-4. Schuurman en collega’s hebben er uiteindelijk met hun eigen natuurlijke intelligentie (NI) en goede reviews een veel nuttiger artikel van gemaakt.
Eindstand van deze eerste intellectuele krachtmeting in het NTvG: AI-NI: 2-5. Lees het uitgebreide verslag van deze spannende en amusante wedstrijd en de zeer nuttige tips voor effectief gebruik van tekst-AI (D7496). Aansluitend nemen AI-experts Saskia Haitjema c.s. nog een aantal hardnekkige rookgordijnen weg rond AI in de zorg (D7578).
We moeten dus snel weg uit de AI-hype, anders dreigt teleurstelling zoals na de eerste AI-lente. Die begon toen Alan Turing de AI-Bombe bouwde waarmee hij de Enigma-code van de Duitsers opblies. De Britten kenden de rest van de oorlog de locaties van de Duitse onderzeeërs... Dat scheelde zo’n twee tot vier jaar oorlog! Toen dit succes bekend werd, wilde iedereen in AI investeren. Maar tot twee keer toe volgde een barre AI-winter doordat de hooggespannen ambities niet werden waargemaakt.
Dus, om auteursverwachtingen te managen: het NTvG zal conform internationale afspraken geen chatbot als auteur toestaan. Je moet als schrijver nu eenmaal verantwoording afleggen voor je tekst (A7602). Maar gebruik een chatbot gerust ter ondersteuning, en noem deze dan in verantwoordingsnoot of methoden. Je mag het ook best nog eens proberen met een pure AI-tekst. Wij zullen onze NI inzetten als NTvG-turingtest. Maar we zijn gewaarschuwd door de resultaten uit het verleden...
Artikelinformatie
Citeer dit artikel als
‘Matige anticipatie’
Geachte prof. Olde Rikkert,
Graag reageer ik op uw redactionele commentaar ‘Matige Intelligentie’, onlangs verschenen in het NTVG. Gefeliciteerd, u heeft 5-2 gewonnen van chatbot GTP 3.0. U stond op het veld tegen het pupillenteam, de F’jes. Begin maart werd GTP 4.0 gelanceerd; een factor 10 keer zo geavanceerd. Echter nog niet vrij toegankelijk voor het publiek. De bal gaat vandaag dus al 10 keer sneller over het veld en dat maakt de door u opgetekende score al weer irrelevant. ‘Ball-watching’ is niet voldoende. Een opportunistische spits scoort omdat hij of zij op het goede moment op de goede plek staat; pure anticipatie. Precies wat Alan Turing deed door al in 1950 (!) over de ‘Turing-test’ te schrijven.
Dat een AI taalmodel geen nieuwe opinie kan vormen over een noviteit op basis van 30% van reeds geschreven tekst op internet is natuurlijk niet verassend. Gelukkig hebben wij daar early adopting wetenschappers voor, die deze nieuwe technologie kunnen gebruiken om innovatief hun efficiëntie en daarmee hun output te verhogen.
Het zou natuurlijk kunnen dat ‘deze hype’ ons gaat teleurstellen, maar wij moeten ons vooral niet laten verassen. Aldus ook vooraanstaande AI-wetenschappers die recentelijk ‘Pause Giant AI experiments: an open letter’ (1) publiceerde, waarin zorgen worden geuit over de snelheid van de ontwikkeling van AI. En waarin een oproep wordt gedaan in evenredig tempo vooruit te plannen op de mogelijk diepgaande verandering die AI teweeg zal brengen. Zoals AI dit ook zal doen in de gezondheidszorg. Het is dus aan ons medici om te anticiperen wat AI in de toekomst wel kan brengen en kritisch te kijken naar de ‘alignment’ van AI; er voor te zorgen dat deze intelligente systemen handelen naar onze waarden en onze doelen. “We can only see a short distance ahead, but we can see plenty there that needs to be done”, aldus Turing (2).
Ik kaats de bal dus even terug en vraag u als hoofdredacteur van het NTVG in de toekomst ruimte te maken in uw ‘opstelling’ voor de early adopters. Op die manier voorkomen wij samen dat wij wezenloos worden ‘zoek getikt’ en met 10-0 van het veld afdruipen.
Met vriendelijke groet,
Florian van Beurden
(1) https://futureoflife.org/open-letter/pause-giant-ai-experiments/
(2)Turing, A. M. (2012). Computing machinery and intelligence (1950). The Essential Turing: the Ideas That Gave Birth to the Computer Age, 433-464.
reactie auteur
Geachte collega, beste Florian,
Dank voor je terechte pro-activiteit vragende reactie. Wij geven inderdaad graag ruimte aan early adopters van generatieve AI, zoals Alex Schuurman c.s. (D7496) en van in de zorg toegepaste AI, zoals Karin Jongsma c.s. (D7578). We prikkelen ze ook graag met reviews van andere early adopters en van ons als hoofdredactie om tot een zo goed mogelijk, kritisch en vooruitziend artikel te komen. We willen daarbij inderdaad graag praktisch toepasbare kennis toevoegen voor de zorg van morgen.
Kunnen we wel immers wel zo vol vertrouwen in de waarde van AI zijn als onze volksfilosoof Bas Haring voorstelt. Hij denkt dat wanneer AI slimmer wordt dan wij, het ook goed verdedigbaar is dat AI de leiding over ons neemt. Historicus Yuval Harari voorspelt dat dat al deze eeuw gaat gebeuren… Maar willen we dat wel in de zorg? AI omarmen als hoofdbehandelaar? Wat zijn de risico’s en de ethische en juridische grenzen van AI-gestuurde diagnostiek en behandeling? Meer vragen dan we nu kunnen beantwoorden, maar ze zullen ons de komende jaren bezig houden en we willen er graag ruimte voor bieden in het NTvG.
Vandaar ook de uitnodiging aan het einde van het redactioneel om vooral over AI te schrijven en AI te gebruiken bij het maken van nieuwe artikelen en bij innovatie in de zorg. Maar wel op een kritische manier met de arts, onderzoeker en schrijver verantwoordelijk voor de betrouwbaarheid en onafhankelijkheid van het eindproduct. Voor die kernwaarden staat het NTvG. Zo blijven we inderdaad in de lead en zullen in tegenstelling tot allerlei dystopische voorspellingen niet van het veld hoeven afdruipen.
Alleen snelheid verzekert immers geen kwaliteit: heel snelle AI op basis van onbetrouwbare data geeft vooral heel snel onbetrouwbare resultaten. Zoals ook heel snelle spelers met een lekke bal niet snel tot scoren komen.
We zien je volgende prikkelende bijdragen daarom graag tegemoet!
Hartelijke groet
Marcel Olde Rikkert
PS De International Committee of Medical Journal Editors zal dit jaar ook met pro-actieve afspraken komen over de toepassing van generatieve AI bij het schrijven van wetenschappelijke artikelen. Het NTvG zal deze afspraken ook volgen, zoals we dat ook deden bij de huidige criteria voor auteurschap (A7602).