Samenwerken met Huawei: wordt het Dreams Lab een nachtmerrie?

Plotsklaps was er die aankondiging: de UvA zou gaan samenwerken met Huawei om kunstmatige intelligentie vooruit te helpen. Maar was Huawei niet dat bedrijf dat hielp bij de onderdrukking van de Oeigoeren in China? En kun je daar dan zomaar mee samenwerken?

De UvA, de VU en Huawei werken sinds dit najaar in het Dreams Lab samen aan nieuwe kunstmatige-intelligentietechnologie. Al sinds de aankondiging is er kritiek, onder meer omdat er aanwijzingen zijn dat Huawei meewerkt aan de etnische profilering van Oeigoeren. Ook andere integriteitsrisico’s liggen op de loer. ‘Bij samenwerkingen met China weet je nooit helemaal zeker met wie je samenwerkt.’

‘Ik heb in een opinieartikel in augustus de vergelijking gemaakt tussen Huawei en IG Farben, het chemische bedrijf dat nauw samenwerkte met nazi-Duitsland voor economisch gewin. Het maakte gebruik van joodse gevangenen voor slavenarbeid, en had aandelen in het bedrijf dat het gas voor de gaskamers maakte. Die vergelijking is me niet in dank afgenomen.’ Aan het woord is Joshua Cohen, promovendus politicologie aan de UvA. ‘Dankzij mijn familiegeschiedenis – de familie van mijn vaderskant is joods – heb ik me misschien meer verdiept in de voorgeschiedenis van de Tweede Wereldoorlog dan anderen.’

Hij wil benadrukken dat hij niet denkt dat iedereen die bij of met Huawei werkt direct uit is op mensenrechtenschendingen. ‘Maar als medemensen vanwege hun etniciteit of geloof worden vervolgd, zijn er door de geschiedenis heen steeds bedrijven die daar goed geld aan kunnen verdienen en daar liever niet te veel vraagtekens bij zetten.’

Bij veel grote bedrijven zit het niet in hun vezels om te reflecteren op morele vraagstukken, vindt hij. ‘Ik wil graag het publieke debat aanzwengelen over de vraag of universiteiten wel in zee moeten gaan met bedrijven die structureel betrokken zijn bij mensenrechtenschendingen.’

Maatschappelijke verantwoordelijkheid
Voor zijn proefschrift doet Cohen onderzoek naar de maatschappelijke verantwoordelijkheid in onderzoek en innovatie. De samenwerking tussen het Chinese telecombedrijf Huawei en de afdelingen kunstmatige intelligentie van de UvA en de Vrije Universiteit volgt hij daarom ‘om meerdere redenen met belangstelling’.

Sinds de bekendmaking van de samenwerking dit najaar is Cohen een van de vocaalste tegenstanders. Hij is echter niet de enige die zich liet horen over het Dreams Lab, waarin Huawei met wetenschappers gaat werken aan het verbeteren van zoekmachines. De studentenraad en de ondernemingsraad waren ontevreden dat ze niet vooraf over de samenwerking waren ingelicht en vroegen het UvA-bestuur om mensenrechtenschendingen door Huawei ‘openlijk te erkennen en te veroordelen’. Het ‘bezorgde onderzoekerscollectief’ Funding Matters, met onder hen zo’n dertig UvA-wetenschappers, vroeg om een ‘herbeoordeling’ van de samenwerking.

Opmerkelijke overeenkomst
Eind augustus, vlak voordat het academische jaar 2020/21 officieel werd geopend, opent het Financieele Dagblad met ‘Amsterdamse universiteiten werken samen met omstreden techgigant Huawei’. De krant rept over een ‘opmerkelijke overeenkomst’ nu ‘steeds meer Europese landen de Chinese telecomgigant Huawei weren’.

‘Steeds meer universiteiten houden zich bezig met gevoelige projecten, maar de kennis en het fingerspitzengefühl voor gevoeligheden is er vaak minder goed ontwikkeld’

Het partnership, waarmee zo’n 3,6 miljoen euro gemoeid is, draait om zoekmachines die in gesprek kunnen gaan met gebruikers. ‘De bedoeling is dat de zoekmachine specifiek kan reageren op mensen uit verschillende landen. Als Duitsers een vraag stellen gaat dat anders dan bij iemand uit Hongarije,’ zegt een woordvoerder van de VU erover. ‘Met behulp van AI en geesteswetenschappen gaan VU- en UvA-onderzoekers helpen om zoekmachines te verbeteren.’

In een vacaturetekst voor promovendi staat bovendien dat zoekmachines ‘beledigende’ en andere ‘ongepaste’ teksten uit zoekresultaten moet kunnen filteren. ‘Het is lastig,’ geeft VU-hoogleraar Frank van Harmelen tegenover Ad Valvas toe. ‘Welke woorden zijn ongepast? Zeker in China is dat een extra probleem. We hebben daarover een gesprek gehad met Huawei. In de omschrijving van het werkpakket stonden in eerste instantie woordcategorieën die wij veel te politiek getint vonden. In de lijst stond bijvoorbeeld “violent intent”: dat soort woorden en zinnen wil je kunnen detecteren en eventueel wegfilteren. Maar in de lijst stond ook “cultural conflicts” als detectiecategorie. Die hebben we eruit laten halen. Het is sowieso raar, maar in de Chinese context helemaal.”’

Onderzoekscentrum

Het artikel in het FD slaat in als een bom: Kamerleden buitelen bijkans over elkaar heen om Kamervragen te stellen. Hoewel het voor velen nieuw is, zijn hoogleraren De Rijke en Van Harmelen al anderhalf jaar eerder benaderd door Huawei voor ‘een strategische samenwerking,’ zeggen ze een week later in die krant. Het onderwerp is ‘next level,’ vindt Van Harmelen. ‘We zijn deze samenwerking aangegaan vanwege de interessante wetenschappelijke vragen die bij dit onderwerp horen,’ voegt De Rijke eraan toe.

Van Harmelen doet navraag bij collega’s van de University of Edinburgh die al langer samenwerken met Huawei, vertelt hij in het Financieele Dagblad. Van Harmelen promoveerde daar, en heeft er nog goede contacten. Daar blijken ze positieve ervaringen te hebben met de telecomgigant. ‘De Schotten adviseerden mij met het bedrijf in gesprek te gaan,’ zegt hij in de krant.

Bezuinigingen op universiteiten
Contracten van miljoenen euro’s liggen voor universiteiten niet voor het oprapen, en kunnen een welkome aanvulling zijn in tijden van bezuinigingen op universiteiten, ziet ook Melanie Peters. Zij is directeur van het Rathenau Instituut, een onafhankelijke organisatie die onderzoek doet naar de impact van wetenschap, innovatie en technologie op de samenleving.

Peters ziet een relatie tussen afnemende overheidsbekostiging en dit soort onderzoeksprojecten. ‘Voorheen hielden vooral organisaties als TNOHet TNO is de Nederlandse Organisatie voor toegepast-natuurwetenschappelijk onderzoek., die onder het ministerie vallen, zich bezig met mogelijk gevoelige projecten. Nu doen steeds meer universiteiten dat, maar daar is de kennis en het fingerspitzengefühl voor dit soort gevoeligheden vaak minder goed ontwikkeld.’

Toch heeft ze goede woorden over voor De Rijke en Van Harmelen. ‘De onderzoeksgroep heeft het universiteitsbestuur ingelicht, het universiteitsbestuur heeft het ministerie ingelicht, en het ministerie van Onderwijs, Cultuur & Wetenschap (OCW) heeft vervolgens het ministerie van Economische Zaken en de inlichtingendiensten gewaarschuwd,’ zegt ze.

Duidelijk kader
De twee Amsterdamse hoogleraren worden in Den Haag uitgenodigd op het ministerie van OCW, waarbij ook de Algemene Inlichtingen- & Veiligheidsdienst (AIVD) en de Nationale Coördinator Terrorismebestrijding aanwezig zijn. In het overleg wordt gesproken over dreigingen rond de onderzoekssamenwerking. ‘Wij gingen weg met het idee: we hebben groen licht,’ zegt De Rijke in het FD-artikel. De ministeries en de inlichtingendiensten ontkennen dat achteraf echter. Ze zeggen alleen een adviesUvA-rector magnificus Karen Maex liet in een vergadering met de Senaat weten dat het ministerie ‘informeel positief’ adviseerde. Bekijk hier het citaat uit de notulen. en geen toestemming te kunnen geven.

‘De inlichtingendiensten hebben gesteld dat de staatsveiligheid niet in het geding is. Maar het is de vraag of het afdoende is om dat als enkel criterium te gebruiken,’ zegt Peters van het Rathenau Instituut. ‘Het ministerie van OCW geeft bovendien toe dat ze zelf verder geen toetsingskader had bij dit soort samenwerkingen. Inmiddels is men bij het ministerie in gesprek over de eerste richtlijnen die men in Den Haag op papier heeft gezet.’

‘De vraag over integriteit kan niet alleen bij de onderzoeksgroep of bij de universiteit liggen, daar moet landelijk een beleid voor komen’

Duidelijkheid is hoog nodig, vindt Peters, omdat universiteiten of onderzoeksgroepen vaak in een underdogpositie zitten. ‘Bedrijven, en ook de Chinese overheid, maken bewuste keuzes voor de lange termijn. Universiteiten en onderzoeksgroepen kunnen dat niet. Door de manier waarop onderzoek in Nederland gefinancierd wordt, kunnen zij vaak maximaal vijf jaar vooruitkijken.’ Daardoor hebben ze volgens Peters altijd een achterstand in de onderhandelingen met dit soort grote bedrijven. ‘De vraag over integriteit kan daarom niet alleen bij de onderzoeksgroep of bij de universiteit liggen, daar moet landelijk een beleid voor komen.’

Een woordvoerder van de UvA laat weten dat ook de universiteit voorstander is van zo’n landelijke richtsnoer. ‘We hebben als Nederlandse universiteiten de rijksoverheid gevraagd te bezien hoe zij helderdere kaders kan verschaffen voor de samenwerking met partijen die gelieerd zijn aan onvrije landen.’

Hete aardappel
Ingrid d’Hooghe, onderzoeker bij het Clingendael Instituut met China als expertise, sluit zich daarbij aan. d’Hooghe is een autoriteit op het gebied van wetenschappelijke samenwerkingen met China. Dit najaar schreef ze met een collega van het Leiden Asia Center het onderzoeksrapport Towards Sustainable Europe-China Collaboration in Higher Education in Research, een paar maanden eerder verscheen van haar hand een Clingendael-onderzoek naar Chinese beïnvloeding in het Nederlandse onderwijs.

Net als Peters pleit d’Hooghe voor een duidelijke richtlijn van het ministerie. ‘Universiteiten moeten weten wat wel en wat niet kan, zodat ze zien wat problematisch is en wat niet. Nu wijst iedereen naar elkaar. Bij deze samenwerking zag je dat de hete aardappel werd doorgeschoven. De onderzoekers gingen naar het bestuur, naar Economische Zaken, naar OCW. Ze hadden het idee groen licht te hebben, maar achteraf zei niemand het plan goedgekeurd te hebben.’

‘Je moet de keuze in ieder geval niet aan onderzoekers overlaten, zeker niet als het over brede geopolitieke aspecten gaat,’ vindt ze. ‘Vaak willen onderzoekers heel graag zo’n project uitvoeren. Daarmee zijn zij en hun onderzoeksgroep toch weer een paar jaar onder de pannen. Daardoor zijn ze in de praktijk vaak minder geneigd naar andere risico’s dan de reguliere risico’s bij onderzoek te kijken.’

Surveillance
Juist daarin schuilen volgens politicologiepromovendus Joshua Cohen bij deze samenwerking de gevaren. Hij vindt niet zozeer dit onderzoeksonderwerp problematisch, maar wel het feit dat er geen aandacht is geweest ‘voor het feit dat Huawei nauw betrokken is bij mensenrechtenschendingen’.

‘Toen ik me erin ging verdiepen, kwam ik er al vrij snel via openbare bronnen achter dat Huawei zich veel bezighoudt met smart city-technologie op het gebied van surveillance. Bij dat soort veiligheidstechnologieën zijn an sich best wel vraagtekens te zetten. Maar toen ik verder ging kijken bleek dat ze bij de ontwikkeling en implementatie van sommige van de meest dystopische veiligheidstechnologieën ter wereld betrokken zijn.’

Huawei zou werken aan een ‘Oeigoer-alarm’, dat de autoriteiten geautomatiseerd een seintje geeft als een camera een Oeigoer zou herkennen

Ecuador en Oeganda
Onder meer de New York Times pakte in 2019 groots uit met een artikel over Huawei als ‘de grootste leverancier van surveillancetechnologie ter wereld’. Zo zou de voormalige socialistische president van Ecuador, Rafael Correa, de technologie van Huawei vanaf 2011 hebben gebruikt om een ‘nationaal surveillancesysteem’ te bouwen. Daarmee zou Correa, die na een verloren verkiezing naar België is gevlucht, naar eigen zeggen vooral de drugscriminaliteit en moordcijfers willen terugbrengen. In de praktijk werden dissidenten gemonitord en vervolgens geïntimideerd. De regering heeft het systeem, dat Huawei ontwierp, vooral gebruikt om meer controle op de bevolking uit te oefenen.

En niet enkel in Ecuador werd de technologie van Huawei gebruikt voor doeleinden die het daglicht niet kunnen verdragen. Ook in Oeganda gebruikt de zittende president Museveni Huawei-technologie om zijn volk te onderdrukken. Tijdens de verkiezingscampagne in november 2020 wist het regime dankzij gezichtsherkenningssoftware van Huawei ruim 800 aanhangers van oppositieleider Bobi Wine te identificeren en te arresteren.

Oeigoer-alarm
Ook binnen China wordt Huawei-technologie volop gebruikt om de bevolking onder de duim te houden. ‘De West-Chinese provincie Xinjiang, lijkt daarbij een testcase,’ zegt Cohen. ‘Hoe meer ik ging lezen, hoe meer ik dacht: dit is absurd. Er is zoveel kennis beschikbaar over de betrokkenheid van Huawei bij mensenrechtenschendingen tegen de Oeigoeren.’

De laatste tijd zijn er steeds meer signalen dat Huawei betrokken is bij het systematisch etnisch profileren van Oeigoeren. Eind vorig jaar signaleerde het Amerikaanse onderzoeksbureau IPVM, dat gespecialiseerd is in videobewaking, dat het bedrijf patenten aanvroeg met verwijzingen naar Oeigoeren, meldde de Washington Post. De technologie zou specifiek mensen met Oeigoerse gezichten kunnen volgen.

In documenten op de site van Huawei zou worden gesproken over een gezichtsherkenningssysteem dat een ‘Oeigoer-alarm’ zou geven aan de autoriteiten als een camera een Oeigoer zou herkennen. Volgens Huawei, dat het document direct na publicatie van haar site verwijderde, was het simpelweg ‘een test’ en werd het nog niet in het echt gebruikt. Berichtgeving van de BBC legde echter bloot dat het bedrijf al eerder dit soort ‘tests’ uitvoerde.

Volgens Cohen zou het reden moeten zijn om veel grondiger na te denken over samenwerkingen ‘met een bedrijf als Huawei. Het gaat om structurele betrokkenheid bij mensenrechtenschendingen, met nu zelfs de verdenking van genocide,’ zegt hij. ‘Ik denk dat onze universiteiten wel meer publiek debat mogen voeren over of we überhaupt in zee moeten gaan met bedrijven die daaraan meewerken. Zeker nu er volgens mij geen universitaire due diligence lijkt te zijn op het gebied van mensenrechten.’

Etnisch profileren ontoelaatbaar
Een woordvoerder van de UvA zegt te begrijpen dat ‘samenwerking met een bedrijf waarvan het moederbedrijf in een onvrij land opereert veel vragen oproept’. ‘We zullen in de toekomst nog meer overwegingen delen wanneer samenwerking wordt aangegaan, en soms ervoor kiezen om een samenwerking niet aan te gaan.’

‘We zullen in de toekomst nog meer overwegingen delen wanneer samenwerking wordt aangegaan, en soms ervoor kiezen om een samenwerking niet aan te gaan’

De universiteit is ‘uiteraard verontwaardigd over de berichten over etnisch profileren door Huawei,’ vertelt de woordvoerder. ‘Het moet duidelijk zijn dat alle vormen en toepassingen van etnisch profileren volstrekt ontoelaatbaar zijn.’

De technologie die de UvA en de VU met Huawei ontwikkelen is volgens de universiteit gefocust op Europese talen. ‘De op Europese talen gerichte zoektechnologie waar onze wetenschappers in het Dreams Lab aan werken kan niet voor dit soort doeleinden worden gebruikt,’ aldus de woordvoerder.

Hoewel de UvA in het ‘Oeigoer-alarm’ geen reden zag de samenwerking met Huawei te verbreken, was het dat voor de Franse sterspeler Antoine Griezmann wel. De voetballer van FC Barcelona beëindigde zijn sponsorcontract met het Chinese telecombedrijf. ‘Wat kunnen universiteiten leren van Antoine Griezmann, schaduwspits van Barcelona’ werd de onderkop van het artikel dat Joshua Cohen in februari met student Assamaual Saidi schreef voor Het Parool.

‘Als een Chinese onderzoeker een bevel van hogerhand krijgt, kan hij dat niet negeren. Je moet daar zakelijk naar kijken: universiteiten en bedrijven in China zijn gewoon niet onafhankelijk’

Dual use

In een eerder opinieartikel waarschuwt Cohen ook voor dual useDual use-technologie is technologie die zowel goedaardig als kwaadaardig ingezet kan worden. van kunstmatige intelligentie. Het is een gevaar dat ook Ingrid d’Hooghe van Clingendael ziet. ‘Bij kunstmatige intelligentie moet je extra voorzichtig zijn,’ zegt ze. ‘Wil je het risico lopen dat achteraf blijkt dat je hebt bijgedragen aan zaken die je niet wil? Ik zie wel dat er een groeiend bewustzijn is, maar ik zie ook mensen die dat niet hebben, of veel risico’s voor lief nemen.’

Volgens d’Hooghe zijn veel Nederlandse wetenschappers onvoldoende bewust van het feit dat zaken in China simpelweg anders geregeld zijn dan hier. ‘Onderzoekers in het Westen denken dat iedereen voor de wetenschap en voor de waarheid gaat. En als je het aan Chinese wetenschappers afzonderlijk vraagt, is dat misschien ook wel zo,’ zegt ze. ‘Maar de overheid in China heeft andere doelen. En als een Chinese onderzoeker een bevel van hogerhand krijgt, kan hij dat niet negeren. Je moet daar zakelijk naar kijken: universiteiten en bedrijven in China zijn gewoon niet onafhankelijk.’

De vooruitzichten zijn volgens d’Hooghe ook niet gunstig. ‘Er was deze maand een partijcongres in Beijing en daar heeft de partij aangekondigd een nog grotere stempel te willen drukken op onderwijs en op onderzoek en innovatie. Vijftien jaar geleden was de grip van de partij op wetenschap veel minder groot. Dat het klimaat zo is verslechterd is nog niet bij iedereen doorgedrongen.’

‘Voor een van de rapporten die ik vorig jaar schreef, sprak ik met een Nederlandse hoogleraar die een tijdlang met een Chinese universiteit samenwerkte,’ vertelt ze. ‘Dat ging allemaal prima. Na een aantal jaar kwam die hoogleraar voor een bezoek in China, en had de Chinese hoogleraar ineens een legeruniform aan. Hij had nooit gezegd dat hij naast wetenschapper ook militair met een hoge rang was. In dit geval was het onderzoek niet erg risicovol, maar dit soort voorvallen zijn wijdverbreid. Het is misschien een mooie metafoor voor samenwerken met China: je weet nooit helemaal zeker met wie je samenwerkt.’