Het zal waarschijnlijk niet de laatste keer zijn maar ik kom er net achter dat ik de afgelopen jaren met tunnelvisie leefde. Ik was zo overtuigd van de mogelijkheden voor het verbeteren van de gebruikerservaring met kunstmatige intelligentie (UX heeft AI nodig) dat ik er nooit aan gedacht had om het eens om te draaien. Heeft AI UX eigenlijk nodig?

Tot vandaag. Door een praatje van Gavin Lew, vriendelijk georganiseerd door de UX Alliance. Gavin heeft een boek geschreven over het onderwerp met de bondige titel AI and UX. En met de iets minder bondige ondertitel: Why Artificial Intelligence Needs User Experience. Het had ook kunnen zijn, zo ontdekte ik: Why Artificial Intelligence Needs User Experience more than vice versa.

Gavin stelde dat voor de adoptie van AI UX erg belangrijk is. Same ol’, same ol’ hoor ik je al denken. En dat begrijp ik. UX is heel vaak, zo niet altijd, belangrijk voor de adoptie. Wat dit wel interessant maakt is dat de “creepy factor” die Gavin beschreef. Voor een nieuw intranet moet er natuurlijk ook goed naar de gebruikers geluisterd worden. Alleen bij iets als AI komt er een extra dimensie bij. Stel je eens voor. Je auto weet al waar je heen wilt voor je instapt. Dat zal vaak best handig zijn. Maar stel dat je auto je elke vrijdag avond standaard naar de slijterij stuurt. Hoe wordt dat dan ervaren? Is dat handig of creepy? Een terechte vraag natuurlijk.

Een zorg die Gavin uitte ging over het opnieuw trainen van algoritmes. Algorithmic bias is al een zorg, letterlijk sinds de eerste persoon bedacht dat er wat te programmeren was. Dit was zo rond 1840. Er is zelfs een instituut in het leven geroepen om dit tegen te gaan. En het draagt de naam van de vrouw die zich hier zorgen over maakte: het Ada Lovelace Instituut. Gavin denkt dat als een algoritme redelijk zijn werk doet of lijkt te doen, we dan vaak niet meer teruggaan om deze algoritmes wat bij te leren. Dat zou wel eens nare situaties op kunnen leveren. Geen vreemde gedachte en een terechte zorg. Daar ga ik nog wat over nadenken.

Linkjes

• Gavin op Twitter
• Gavin op LinkedIn
• Gavin op de bedrijfswebsite van Bold Insight
• Je kunt het boek AI and UX kopen
• Check de UX Alliance op LinkedIn
• Bekijk de (vooralsnog) gratis events van de UX Alliance op LinkedIn of EventBrite
• Wil je wat meer weten over algorithmic bias en Ada Lovelace?
  • Dan kan ik van harte de ep A Bug In The System van de Secret History of the Future podcast aanbevelen (35 mins). Deze podcast is om redenen die mij niet duidelijk zijn vernoemd naar Slate Technology. Een geweldige ep die Lovelace’s ideeën ook spiegelen aan vandaag de dag. Het is zeer de tijd van het luisteren waard.
  • Lovelace is ook één van de innovators die Walter Isaacson behandelt in zijn boek Innovators. Mocht je deze willen scoren, zorg dan dat je wel de versie krijgt met Lady Lovelace op de cover. Niet die gare waar ze van afgeknipt is.
  • John Oliver en zijn team van Last Week Tonight behandelen in een aflevering over gezichtsherkenning de risico’s en soms desastreuse gevolgen van algorithmic bias. Bekijk het segment op YouTube of bekijk de hele aflevering op HBO Max als je het daar kunt vinden.
  • Abonneer je op de nieuwsbrief van het Ada Lovelace Institute. Het instituut wat zich onder andere inzet om algorithmic bias tegen te gaan.