Vorige week zat ik in de Italiaanse Alpen, in een internationaal gezelschap van technologie, media en cultuur experts. Een onderzoekswetenschapper, die bij Microsoft, Meta en Google heeft gewerkt, gaf er een lezing over ergonomie en AI. Het aardige was: ze begon niet bij AI, maar bij een toetsenbord.
In de vroege jaren van Microsoft Surface werkte ze aan ergonomisch toetsenbordonderzoek. Dat onderzoek vertrekt bij het lichaam zelf, want de pols heeft in de ene richting meer botten dan in de andere en de grote spieren lopen overwegend één kant op, waardoor toetsen niet vierkant zijn maar een fractie rechthoekig, ongeveer een millimeter verschil. Om dezelfde reden is de tussenruimte zo gekozen dat je minder precies hoeft te zijn. Iemand heeft daar een proefschrift aan gewijd, jaren van een leven, en je merkt er niets van, wat precies de bedoeling was.
De uitkomst van haar onderzoek was drieledig, en die drieslag vormt de kern van haar betoog: over de levensduur van het product werden duizenden gevallen van peesontsteking en carpaletunnelsyndroom voorkomen, typten gebruikers per minuut een paar woorden meer, en verdiende Microsoft er geld aan. Minder schade, hogere productiviteit en economische waarde, alle drie tegelijk, want met alleen goede bedoelingen verandert u geen enkele organisatie en dus ook de wereld niet.
Interessant werd het toen ze de stap zette van de pols naar het brein, want terwijl je dit leest komt er geen licht je schedel binnen, maar komen er elektrische patronen aan die op zichzelf onvolledig en dubbelzinnig zijn, en je brein reconstrueert daar geen beeld uit omdat dat rekenkundig onbetaalbaar zou zijn. Het voorspelt continu en gebruikt de zintuigen slechts om die voorspelling bij te stellen, zodat je geen waarnemer bent die de wereld interpreteert maar een voorspeller die af en toe wordt gecorrigeerd. Optische illusies zijn de zeldzame momenten waarop je dat mechanisme betrapt, en de wetenschappelijke term ervoor is actieve ‘inferentie’.
Wat dat voor media betekent is ongemakkelijk, omdat je voorspellingsmodel getraind is op wat je tegenkomt. Wie zijn dagen doorbrengt in systemen die zijn geoptimaliseerd op betrokkenheid in plaats van op juistheid, traint zijn brein om aan bepaalde signalen meer gewicht te geven dan ze verdienen, niet omdat de gebruiker dom is maar omdat een model doet wat modellen doen. De onderzoekster zei dat opvallend nuchter, want ze blijft zelf grotendeels van sociale media af omdat die haar vermogen om te voorspellen aantasten, en laat in plaats daarvan elke ochtend een script draaien dat samenvat wat ze moet weten.
Dat is een persoonlijke oplossing, maar ze legt wel de ontwerpvraag bloot waar de mediasector omheen blijft lopen. Nieuws is geen neutrale trainingsdata, want elke keuze in aanbod, volgorde en toon verschuift de gewichten in het model van de lezer, terwijl vrijwel alles wat de media meten iets anders meet. Bereik, verblijftijd, doorklik en conversie zijn stuk voor stuk indicatoren of de aandacht is gevangen, en geen ervan zegt of de lezer met een beter beeld van de werkelijkheid wegloopt dan waarmee hij of zij binnenkwam. Redacties weten dat ook wel, ze hebben er alleen geen instrument voor.
Gevraagd naar een concreet voorbeeld van AI-ergonomie kwam ze bij media en democratie uit, en ze noemde twee dingen: breng informatie niet zo samen dat ze ten onrechte tot één antwoord wordt teruggebracht, maar houd de onzekerheid vast en toon die op een manier die voor mensen te behappen is, en personaliseer vervolgens de vorm waarin iets wordt verteld in plaats van de inhoud ervan, zodat verschillende lezers dezelfde perspectieven in andere ‘taal’ krijgen. Dat is precies omgekeerd aan hoe het meestal gaat, want wij personaliseren doorgaans het wat en uniformeren het hoe.
Het ergonomische toetsenbord is er niet gekomen omdat het prettig voelde maar omdat je alle drie de effecten kon aantonen, en dat lijkt me een bruikbare toets voor elk redactioneel AI-instrument dat nu wordt gebouwd: vermindert het schade (of liever nog verbetert het), maakt het de lezer effectiever in zijn begrip, en levert het waarde op. Wie alleen op het derde scoort heeft geen ergonomie gebouwd maar een aandachtsmachine met een beter vocabulaire en vorm.
