In een afgeladen Schouwburg Rotterdam deed Meredith Whittaker, topvrouw van berichtendienst Signal, begin juli uit de doeken hoe zij denkt dat big tech bevochten kan worden. Bijgestaan door Evelyn Austin (directeur Bits of Freedom) leidde dat tot negen adviezen, variërend van ontmaskering van de hypes rondom AI en digitale soevereiniteit tot het belang van apps die gewoon werken.
Door Inge Janse
1: Het moet wel werken
Het grote probleem met veel alternatieven voor big tech is dat ze gewoon minder goed functioneren. Er is vooral oog voor wat het technisch kan, maar niet voor de gebruiker en zijn wensen. Dan kun je ook niet verwachten dat mensen overstappen. Mensen willen gewoon een goed en leuk leven leiden, niet elke dag strijden met hun software.
Dat is volgens Whittaker ook de oorzaak voor het succes van Signal: het werkt gewoon. Je kunt het veilig installeren bij je vader en oma, zonder dat hun telefoons onbruikbaar worden of de app onbegrijpelijk blijkt. Wie big tech wil beconcurreren, moet dus niet alleen met het moreel en technisch juiste alternatief komen, maar ook met een alternatief dat minimaal even goed werkt.
2: Stap van het systeem af
Het belang van Signal, stelt Whittaker, is dat het laat zien dat je ook buiten de bestaande systemen om een succesvolle dienst kunt laten draaien. Ten eerste werkt Signal met nog geen honderd werknemers. Dat maakt duidelijk, stelt zij, dat je niet per se à la big tech met duizenden hoeft te zijn om iets succesvols te maken.
Ten tweede vecht Signal de reguliere opvattingen aan over hoe een dienst technologisch werkt. Signal bouwde bijvoorbeeld een compleet eigen infrastructuur om animated gifs in te laden, in plaats van simpelweg gebruik te maken van een API die de privacy aantast.
Ten derde bestrijdt Signal reguliere verdienmodellen: niet de persoonlijke data van gebruikers en het geld van durfinvesteerders vormen de goudmijn, maar de donaties van mensen en bedrijven.
3: Digitale soevereiniteit is geen oplossing
Denk niet, waarschuwt Whittaker, dat je met digitale soevereiniteit alle problemen met technologie oplost. Je kopieert enkel een systeem dat elders ontwikkeld is, inclusief alle structurele problemen en onderliggende denkbeelden, naar je eigen gebied. Maar daar kan het nog steeds even hard misbruikt worden en dezelfde problemen geven.
Whittaker adviseert daarom om als Europa je eigen technologie te ontwikkelen die past bij de Europese normen, waarden, regels en wetten. Ga dus niet voor digitale soevereiniteit, maar voor digitale compatibiliteit.
4: Overheden, besteed slim aan
Willen overheden de ontwikkeling van goede technologie stimuleren, dan moeten ze bij hun aanbesteding op meer letten dan functionaliteit en kosten alleen. Er zou veel meer nadruk moeten liggen op het bredere waardekader. Denk aan gegarandeerde privacy, uitsluiting van discriminatie, en gezonde financiële prikkels.
Bovendien moeten zijn garanderen de dienst voor tien jaar of meer af te nemen. Pas dan kunnen organisaties aan de slag met de ontwikkeling hiervan. Momenteel moeten goed bedoelde diensten van nieuwe initiatieven concurreren met hypereffectieve en compleet uitontwikkelde diensten van de big tech. In die concurrentie verliezen zij op alle terreinen
5: De financiering moet anders
Sowieso werkt de financiering van alternatieven voor big tech momenteel niet. Wie een nieuw idee ontwikkelt dat niet past in de huidige (financiële en technische) systemen, heeft veel tijd nodig om op eigen benen te staan. Het heeft daarom geen zin om startups enkel te financieren tot de lancering van hun product, want pas daarna wordt het lastig.
Er is absoluut geen gebrek aan goede ideeën. Er is wél een gebrek aan langdurige ondersteuning daarvan totdat het nieuwe idee zijn plek gevonden heeft in het oude systeem.
6: Bevecht epistemische autoriteit
Wie voor zijn apps en services betaalt met data over zichzelf, stemt ermee in dat bedrijven en overheden een verhaal over je maken waar jij geen invloed meer op hebt. En dat verhaal kan ook tegen je gebruikt worden door bijvoorbeeld de politie of de overheid, terwijl je de controle over dat verhaal compleet kwijt bent.
Whittaker omschrijft die ontwikkeling van dataprofielen als epistemische autoriteit: niet wie jij denkt te zijn, maar wat je data over je zegt, is de échte waarheid.
7: Technologie is niet onvermijdelijk
Technologie is niet iets dat ons overkomt, als de logische resultante van een natuurwet. Technologie, legt Whittaker uit, is het logische gevolg van bewuste politieke en ideologische keuzes.
Denk aan hoe de Clinton-administratie in de jaren ‘90 er actief voor koos om van het internet een commerciële, ongereguleerde omgeving te maken. Surveillance van zijn gebruikers werd daardoor een verdienmodel voor techbedrijven. Want wie weet wie de ander is, kan als beste advertenties verkopen. Toegang over data betekent daardoor winst, en zo werd surveillance capitalism de kern van kern big techs economische logica.
Het goede nieuws? Als de richting van technologie niet onvermijdelijk is, dan kan deze ook de juiste kant opgestuurd worden. Makkelijk is anders, benadrukt de Signal-topvrouw, maar het kan echt.
8: Eerst praten, dan doen
Doe je iets met technologie, maar weet je niet zo goed wat je ermee moet doen? Misschien kun je het dan beter überhaupt niet doen.
Zo vertelde een medewerker van een grote gemeente dat zij betrokken was bij een net opgezet AI-lab. Wat moet ik daarmee, vroeg zij aan de sprekers. Austin was er kritisch op. “Gemeenten hebben hun basis AVG-huishouding niet op orde, én willen volop experimenteren met AI. Dat is een recipe for disaster.”
Zij raadde aan om in ieder geval contact op te nemen met de functionaris gegevensbescherming, om te checken of alle door AI gebruikte data wel in orde waren. “Deze interne toezichthouder is voor de burger diens eerste beschermingslinie.”
Maar bovenal raadde ze de ambtenaar aan om zich heel goed af te vragen waarom er überhaupt een AI-lab is. “Waar komt die wens vandaan? Wie bepaalt welke problemen in dat lab worden besproken? En met frame krijgen zij mee? De antwoorden bepalen de toon voor de uitkomsten.” Ga daarom eerst praten met burgers wat zij willen, was haar advies, en ga dan pas verzinnen of en hoe ai daarbij kan helpen.
9: Kies mensen boven data
Overheden kiezen bij vraagstukken liever voor stralende, frictieloze technologie, dan voor meer abstracte oplossingen. En wie problemen technisch wil oplossen, gaat altijd met data aan de slag – en vergeet daarbij de échte wereld.
Ter illustratie vertelde Austin over hoe de overheid kindermisbruik wil aanpakken. “We zien dat op organisaties wordt bezuinigd die werken aan preventie, of directe hulp bieden aan slachtoffers en daders. Tegelijkertijd is er super veel geld beschikbaar om uit te geven aan door durfkapitaal gefinancierde techbedrijven die online kindermisbruikmateriaal zeggen te kunnen detecteren. Dat is super krom. We kijken niet meer naar het probleem zelf, maar naar de technologische weerslag ervan.”
Preventie is nu eenmaal minder hard meetbaar en minder concreet tastbaar, terwijl werken met data leidt tot schijnbare efficiëntie en effectiviteit. Maar wie begint met technische oplossingen, eindigt altijd met data om mee te werken, en dus niet met de mensen waar het echt om gaat.
Bekijk en beluister de avond terug op de website van organisator De Dépendance