Trouw – Algoritmen tonen het menselijk tekort en dat is een zegen (December 2019)
Gepubliceerd @ https://www.trouw.nl/opinie/algoritmen-tonen-het-menselijk-tekort~b3238ee7
Als algoritmen discrimineren, dan is dat omdat ze zo door mensen geprogrammeerd zijn. Daar kunnen en moeten we ons voordeel mee doen, schrijven Thijs Pepping en Sander Duivestein, van het verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti.
De virtuele assistente van Apple kon in eerste instantie wel prostituees en viagrawinkels vinden, maar geen abortusklinieken. Dankzij een ingebouwde raciale voorkeur concludeerde een veelgebruikt algoritme in de Amerikaanse zorgsector dat blanke patiënten een hoger risico lopen op diabetes en hoge bloeddruk dan zwarte patiënten. Zo zijn er tal van voorbeelden, waaruit blijkt dat kunstmatige intelligenties (AI) vooroordelen hebben. Dat wordt bias genoemd. Het is een shockerende ontdekking dat niet alle AI-systemen inclusief zijn, en zonder aanziens des persoons hun rekenwerk doen.
Maar het is te makkelijk om te concluderen dat technologie tekortschiet. Want dit falen legt tegelijkertijd de ziel van mensen bloot. Onderhuidse vooroordelen worden inzichtelijk en zelfs uitvergroot. Zoals dat vaker met technologie gaat, wordt op een presenteerblaadje aangeleverd wat het betekent om mens te zijn. Zowel met de goede kanten, maar ook met de rafelrandjes van voorkeuren. Alle reden om ermee aan de slag te gaan.
Bias in algoritmen bevechten
Het Amerikaanse wetenschapsmagazine Science publiceerde onlangs dat de raciale voorkeur van het veelgebruikte zorgalgoritme is ontstaan, omdat gebruikte gegevens om het algoritme te trainen niet objectief waren. De samenleving in de VS geeft minder geld uit aan zwarte patiënten dan aan even zieke blanke patiënten. Daarom onderschatte het algoritme de werkelijke behoeften van de hulpbehoevende zwarte burger. Zo kwam een onbewuste onrechtvaardigheid in de samenleving in het algoritme terecht.
Het staat buiten kijf dat we de bias in algoritmen moeten bevechten. Technologie heeft de mogelijkheid tot schaalvergroting. Daarmee heeft een ongelijkheid in een algoritme al snel grote gevolgen voor grote groepen mensen.
Ethische implicaties van technologie
Het besef van ethische implicaties van technologie groeit gestaag. Zo ontstaan er nu initiatieven om de bias uit algoritmen te halen. Onderzoekers aan de TU-Delft werken aan software die ‘ethische afwegingen’ maakt. Wetenschappers van de Amerikaanse universiteiten Stanford en Massachusetts pleiten voor het vooraf filteren van ‘ongewenst gedrag’ van algoritmen.
Het is echter veel eenvoudiger om algoritmen te veranderen dan om mensen zich te laten aanpassen. Software op computers kan worden bijgewerkt, maar de zogeheten wetware in de hersenen van de mens is tot nu toe veel minder soepel gebleken. Onder andere het werk van psycholoog Daniel Kahneman en de dagelijkse realiteit laten de feilbaarheid van onze rationaliteit zien en ook hoe moeilijk het is om vooroordelen te overwinnen.
Neus op de feiten
Hulp van algoritmen biedt uitkomst. Kunstmatige intelligentie met bijbehorende schaalvergroting is een effectieve manier om mensen met de neus op de feiten te drukken. Falende algoritmen laten de gevolgen zien van een gebrek aan diversiteit in ontwikkelteams, genderbias in organisaties of van onrechtvaardigheden in de samenleving. Wat vroeger ingewikkelde wetenschap voor sociologen, psychologen en filosofen was, is nu de praktijk geworden dankzij de inzet van kunstmatige intelligentie. Daarmee is internet ’s werelds grootste sociale experiment, waarmee de mens zijn voordeel moet doen.
Slimme technologie houdt ons een spiegel voor die een uiterst intieme blik geeft in de psyche van de mens, het zelfbeeld en op de samenleving. Het sleutelen aan algoritmen en het verbeteren en verrijken van gegevens is nodig. Tegelijkertijd moet de samenleving zelf aan de slag met het huiswerk dat algoritmen opleveren. Nooit eerder werd de samenleving zo openlijk geconfronteerd met eigen tekortkomingen. Als we de confrontatie durven aangaan, is dat een zegen.
ICT Magazine – Met cobots van slimmigheid naar digitale creativiteit (December 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/met-cobots-van-slimmigheid-naar-digitale-creativiteit/
Het is de tijd van aftellen en voorspellen. Gartner, Forrester en vele anderen struikelen over elkaar heen met lijstjes die vertellen wat de technologie ons komend jaar gaat brengen. Mijn stelling is: nieuwe technologie wordt een belangrijke sparringpartner in creativiteit.
Waar IT afgelopen decennia vooral is ingezet om processen te versnellen en eenvoudiger te maken, profiteren we de komende jaren van de opkomst van creatieve cobots. Inmiddels raken we steeds meer gewend aan industriële robotarmen, slimme pakketjesverplaatsers en andere technologie waarin kunstmatige intelligentie ons werk makkelijker maakt. Creatief denkvermogen komt nu vooral nog bij onszelf vandaan. Straks gaan de katalysators van creativiteit ons ook helpen compleet nieuwe ideeën te bedenken. Erg? Nee, dat kunnen we best gebruiken in een wereld die steeds complexer en uitdagender wordt.
Van analyseren naar genereren
Kunstmatige Intelligentie (KI) is op vele vlakken doorgebroken afgelopen jaren. Zo kan deze zelflerende technologie niet alleen patronen herkennen en analyseren, maar mede dankzij Generative Adversarial Networks (GANs) kan KI nu ook dingen creëren. Synthetische teksten, plaatjes en kunstmatige videobeelden worden komende jaren gemeengoed. In zijn boek The Creativity Code: How AI is learning to write, paint and think voorspelt wiskundig expert Marcus du Sautoy de invloed van slimme machines op onze creativiteit. Eén van de spraakmakendste voorbeelden van dit moment is het door een KI gemaakt schilderij ‘Portrait of Edmond Bellamy’, dat is verkocht voor 432,500 dollar. Waar veel mensen zich nu nog buigen over de vraag of machines zelf creatief kunnen zijn, is het veel relevanter je af te vragen wat de impact van deze systemen op de menselijke creativiteit wordt.
Katalysator van creativiteit
Nu deze systemen steeds beter kunnen creëren, gaan ze acteren als katalysators van creativiteit. Neem het neurale netwerk GPT-2, ontwikkeld door OpenAI, de organisatie die tot doel heeft AI-modellen voor iedereen toegankelijk te maken. Dit model, dat onlangs is vrijgegeven, is getraind om het volgende woord in een tekst te raden (zie het kader ‘Neurale netwerk’). Hoewel de gesynthetiseerde tekst een betrouwbaarheidsscore toegedicht krijgt van 6,91 op een schaal van 10, is het neurale netwerk dus nog niet zo perfect dat alle opgeleverde antwoorden direct bruikbaar zijn. Echter, als katalysator in een ideeënproces is dat ook niet nodig. De computer genereert iets nieuws en afhankelijk van de parameters wijkt dit veel of weinig af van de menselijke gedachtegang. In de toekomst geeft de digitale assistent wellicht input op elk moment als dat nodig is. Gebaseerd op eerdere gesprekken en gegenereerde ideeën of gelezen boeken. Of bijvoorbeeld gerelateerd aan inspiratie van vakgenoten uit andere sectoren.
Neurale netwerk
Vul de woorden “This column for ICT/Magazine is about…” in GPT-2 van OpenAI in en het neurale netwerk komt zelf met de volgende suggestie: “This column for ICT/Magazine is about cyber security, not about hacking and surveillance. First, one very important but little-mentioned fact: Keyes’ claim that NSA agents “obsess over suspicious people’s email activity” is very far from the truth. The Office of the Director of National Intelligence, which handles and maintains the nation’s signals intelligence […]”[1]
Innovatie versnellen
Als nieuwe technologie gaat helpen op het vlak van creativiteit, dan ligt versnelling van innovatie voor de hand. Onlangs was de farmaceutische industrie in rep en roer over de bekendmaking van het Amerikaanse biotechnologisch bedrijf Insillico Medicine, dat een molecuul had ontworpen dat de ziekte fibrose bestrijdt. Dit deed het bedrijf dankzij GANs. In 46 dagen wist de breintechnologie 30.000 verschillende ontwerpen voor moleculen te verzinnen, waar er uiteindelijk eentje werd getest op een muis. Volgens wetenschappers vertoonde het gesynthetiseerde molecuul de kenmerken van een medicijn. Dit betekent een doorbraak voor de ontwikkeling van dure medicijnen. De ontwikkeling en het op de markt brengen van een nieuw medicijn kost gemiddeld 10 jaar en 2,6 miljard dollar. Met de inzet van GANs werd het aantal ontworpen moleculen opgeschaald en de doorlooptijd van de zogeheten in vitro testfase drastisch verlaagd. De kosten van Insillico Medicine voor het eerste ontwikkeltraject kwamen naar eigen zeggen uit op zo’n 150.000 dollar. In dit samenspel werkt KI als katalysator van creativiteit en het innovatieproces.
Democratiseren van creativiteit
Creatieve machines versnellen niet alleen innovatie, ze democratiseren ook digitale creativiteit. Of anders gezegd, creativiteit wordt toegankelijker voor iedereen. Met de GauGAN van Nvidia wordt een simpele tekening bijvoorbeeld fotorealistisch gemaakt. Zo kan de gebruiker zijn idee veel krachtiger verbeelden in een brainstormsessie. Met de OpenSource software van pix2code wordt een visualisatie direct naar HTML-code omgezet. Zo wordt een idee plotseling gedigitaliseerd en hoe meer dergelijke systemen gekoppeld worden hoe sneller een idee werkelijkheid wordt.
Narrow Creativity
Deze ontwikkeling sluit naadloos aan bij de uitspraak van Chris Wanstrath, CEO van GitHub. “The future of coding is no coding at all.” Zo gaan we een tijdperk tegemoet waarin het concept, een gedachte of kwinkslag steeds belangrijker wordt. De mens wordt daarin bijgestaan door technologie. En natuurlijk, er moet nog veel gebeuren voordat creatieve cobots een soepel onderdeel zijn van ons denk- en werkproces. De huidige voorbeelden tonen aan dat zij een goede katalysator zijn voor creativiteit in één specifieke situatie. Noem het narrow creativity in lijn met narrow artificial intelligence. Het is het begin van wat straks onze creatieve cobots kunnen worden. Creatieve assistenten die ons zullen uitdagen het beste in onszelf naar boven te halen. Ongeacht of we de nieuwe Picasso, Einstein of Steve Jobs willen worden.
Thijs Pepping is trendanalist van het Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti.
[1] “Deze column voor ICT/Magazine gaat over cyberveiligheid, niet over hacking en surveillance. Ten eerste een zeer belangrijk, maar weinig genoemd feit: de bewering van Keyes dat NSA-agenten “geobsedeerd zijn door e-mailactiviteiten van verdachte personen” is verre van waar. Het kantoor van de directeur van de nationale inlichtingendienst, die de signalen van de natie behandelt en onderhoudt, is […] ”
Het Financieele Dagblad – Overtroef ‘OK Boomer’ en doorbreek de generatiekloof (November 2019)
Gepubliceerd @ https://fd.nl/opinie/1326305/overtroef-ok-boomer-en-doorbreek-de-generatiekloof-ofl1cazj0ZKU
Met de opkomst van de zogeheten internetmeme (internetgrap) ‘OK Boomer’ geven jongeren massaal aan dat ze nog maar weinig vertrouwen hebben in een dialoog met oudere generaties. OK Boomer staat synoniem voor ‘klets maar lekker een eind weg, jouw tijd is voorbij, babyboomer.’ De sociale mediahit moet een waarschuwing zijn voor bestuurders uit de babyboomgeneratie: maak plaats voor anderen, of luister naar de jongeren en pas je aan de nieuwe tijd aan. Ceo’s moeten nu persoonlijk en oprecht in actie komen om de groeiende kloof tussen jong en oud te doorbreken.
‘OK Boomer’ komt uit de Verenigde Staten en ontstond op het sociale mediaplatform TikTok nadat een bejaarde man in een video verkondigde dat millennials en generatie Z maar niet volwassen willen worden. De video ging viraal en de meme ‘OK Boomer’ markeerde een massale tegenreactie van de jeugd. Het staat inmiddels symbool voor de verstoorde relatie tussen de generaties.
Want de nieuwe generatie voelt zich opgezadeld met een lange lijst van problemen die zijn veroorzaakt door de oudere generaties. Denk aan de opwarming van de aarde, een toenemende ongelijkheid in de wereld of de slepende brexit. Deze problemen raken juist de belangrijkste waarden van de nieuwe generatie, zo blijkt ook het World Value Survey. Veel jongeren pikken het niet langer dat bedrijven en overheden geen verantwoordelijkheid nemen voor deze problemen.
Een groeiend aantal bedrijven ziet die opstelling bij jongeren ook en ervaart inmiddels de druk om te veranderen. Niet zo vreemd, want nu al bestaat 63% van de wereldbevolking uit (toekomstige) professionals die na 1980 geboren zijn. Zo verklaarden deze zomer 181 grote Amerikaanse bedrijven, waaronder Apple, Salesforce en JPMorgan Chase, in een brief dat hun organisaties voorrang gaan geven aan verbetering van de samenleving, voor het primaire winstoogmerk.
Ook de rest van het bedrijfsleven zou moeten volgen en aansluiting moeten zoeken bij de waarden van de nieuwe generaties. Haal daarom maatschappelijk verantwoord ondernemen weg uit de periferie en breng het naar het centrum van de organisatie. Laat bestuurders actief stelling nemen over wereldwijde problemen en met concrete oplossingen komen. Activisme moet bovendien in het werk zelf plaatsvinden, met banen die bijdragen aan zelfontplooiing én de bouw van een betere wereld.
Een betere toekomst kan morgen beginnen als zowel babyboomers als jongeren hun dedain aan de kant schuiven en samen concreet aan de slag gaan.
Menno van Doorn, Sander Duivestein en Thijs Pepping zijn trendanalisten bij IT-dienstverlener Sogeti.
ICT Magazine – Voorbereid op Deepfakes? (Oktober 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/voorbereid-op-deepfakes/
De CEO van een gerenommeerd energiebedrijf in het Verenigd Koninkrijk dacht dat hij zijn baas aan de lijn had vanuit het Duitse moederbedrijf. In het voor hem herkenbare Engels met typisch Duitse melodische accent kreeg hij de opdracht € 220.000 over te maken naar een Hongaarse leverancier. In goed vertrouwen maakte de bestuurder het geld direct over, waarna bleek dat het de bankrekening was van cybercriminelen.
Voor zover nu bekend, is dit een van de eerste cyberaanvallen waarbij deepfake voice technologie het verschil heeft gemaakt. Inmiddels heeft de verzekeraar Euler Hermes Group het bedrag vergoed. De stem werd via kunstmatige intelligentie ontwikkeld en was nauwelijks van echt te onderscheiden. Vraag blijft wat te doen tegen dergelijke digitale praktijken, waarbij de inzet van AI het nieuwe normaal wordt. Deepfakes komen eraan en hebben impact op de architectuur, security, identity management, marketing en ongetwijfeld nog veel meer binnen de it-huishouding van een organisatie.
Digitale mensen
Deepfake technologie is de laatste tijd veel in het nieuws. Niet voor niks. Generative Adversarial Networks (GANs[1]) zorgen voor een doorbraak in het synthetiseren van gezichten, producten en eigenlijk elke willekeurige vorm van data en materiaal. Zo wordt de technologie ook gebruikt om mensen met ALS hun eigen stem terug te geven. Het eerste bedrijf dat met AI gerealiseerde stockfoto’s aanbiedt, is ook al een feit. Op de website generated.photos worden 100.000 portretten aangeboden. Gezichten van digitale mensen zonder geschiedenis, gedachten of privacy-gerelateerde wensen. Bovendien wordt de technologie steeds toegankelijker en handzamer. Via de applicatie Ebsynth kan elke consument in een handomdraai een eigen film deepfaken. De Chinese app ‘Zao’ zet met een paar foto’s ieder willekeurig persoon in grote tv-shows of bekende filmklassiekers.
Voor hackers
Net als andere technologie is de impact van deepfakes heel veelzijdig. Het stemincident van de bestuurder van het energiebedrijf staat niet op zichzelf. Afgelopen zomer rapporteerde securitysoftwarebedrijf Symantec drie gevallen waarbij deepfake audiotechnologie was ingezet waarbij de stem van bestuurders aan hun financiële collega’s verzocht geld over te maken. De technologie is nog niet perfect, maar de praktijk leert dat imperfecties gecamoufleerd worden door achtergrondgeluiden of het nabootsen van slechte verbindingen. Deepfake technologie wordt ook gebruikt om phishing-aanvallen te verbeteren. Zo zijn berichten van banken, zorgverleners, een veilingsite of elk andere willekeurige e-mailaanbieder niet of nauwelijks meer van echt te onderscheiden.
Kat-en-muisspel
De race in dit nieuwe kat-en-muisspel is inmiddels in volle gang. Het lijkt erop dat betrouwbare, snelle en schaalbare detectie van deepfakes nu nog ontbreekt. Digitaal forensische wetenschappers werken hard aan nieuwe tools om deepfakes beter op te sporen. Tegelijkertijd waarschuwen experts dat deze slimme technologie alleen maar beter wordt. Zo voorziet Hao Li, deepfake pionier en onderzoeker, dat het niet langer dan drie jaar duurt voordat geavanceerde deepfakes echt helemaal niet meer te onderscheiden zijn van de werkelijkheid. Blockchaintechnologie kan voor oplossingen zorgen. Data, bijvoorbeeld in de vorm van video, kan eenmaal in blockchain niet meer gemanipuleerd worden. Echter, blockchain beloftes zitten nog in een experimentele fase. Ook Google deelde onlangs een opensource database met 3.000 originele, gemanipuleerde deepfake video’s als onderdeel van haar inspanningen om de ontwikkeling van detectietools voor deepfake technologie te versnellen. Facebook komt eind dit jaar met een vergelijkbare database. Met de Amerikaanse verkiezingen van 2020 in het vooruitzicht, zullen zij schandalen zoals eerder met Cambridge Analytica ongetwijfeld willen voorkomen.
Anticiperen
Ontwikkeling van deepfakes vraagt om nieuwe bedrijfsmaatregelen. Iedere organisatie moet zich voorbereiden op maatregelen ter bescherming van de identiteit. Mogelijk moeten onboarding-processen worden herzien op het gebruik van biometrische gegevens van (toekomstige) werknemers. Gegevens moeten op betrouwbaarheid getoetst worden. Tegelijkertijd vereist identiteitsbescherming ook dat gegevens zò beveiligd worden dat ze niet gebruikt kunnen worden voor deepfakes.
Volgens het recente Nationale Cybersecurity-bewustzijnsonderzoek is het bewustzijn over phishingmails, cyberaanvallen, datalekken, spyware, keyloggers en poortscans toegenomen. Maar het woord ‘deepfake’ komt nog niet in het Nederlandse rapport voor. Burgers moeten beseffen dat beeld en geluid ook te synthetiseren is, zodanig dat het nauwelijks meer te onderscheiden is of iets echt is of nep. Wie weet volgen binnenkort cursussen ‘Hoe om te gaan met deepfakes’ en zetten ingehuurde zogeheten red-teams deepfakes in om de security van organisaties op de proef te stellen. Want wie bewijst dat het om een deepfake video gaat die marketeers bijvoorbeeld op sociale media gepubliceerd hebben? Hoe zal de waarde van gezichtherkenningssoftware zich verder gaan ontwikkelen komende jaren? En wat moet de it-manager doen met deze ontwikkelingen?
Echte ontmoetingen
In deze nieuwe fase van synthetische media lijkt menselijk fysiek contact waardevoller dan ooit. Hoe ironisch is dat in een tijdperk waarin alles gedigitaliseerd wordt en digitale innovaties elkaar in een rap tempo opvolgen? De verificatie van de waarheid vereist straks misschien dat je iemand in de ogen kijkt en woorden rechtstreeks aanhoort. Niets is zekerder dan een persoon die voor je staat met een tastbaar paspoort in zijn of haar handen. Of is dit slechts een van de vele iteraties van onze zoektocht naar optimale synergie tussen ons digitale en analoge leven? Linksom of rechtsom, we moeten ons it-landschap hierop voorbereiden.
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti.
[1] Zie het artikel ‘GANs: tooling van morgen’ in de aprileditie van ICT/Magazine.
ICT Magazine – Het CRM-systeem heeft zijn langste tijd gehad (September 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/het-crm-systeem-heeft-zijn-langste-tijd-gehad/
De tragiek achter menig systeemontwikkeling is dat het begint met goede intenties en veelal eindigt als een gedrocht. Zo buitelen deskundigen nu alweer over elkaar heen om het veelbelovende agile werken dood te verklaren om terug te gaan naar de roots voor nieuw elan. Van golden-oldy CRM weten we eigenlijk al veel langer dat we met een gedrocht te maken hebben. Ouderwetse machtsverhoudingen tussen klant en leverancier leiden tot een eenzijdige relatie die niet meer van deze tijd is.
De kafkaiaanse situaties die soms ontstaan, weerhouden bedrijven er echter niet van om ermee door te gaan. Toch blijven vooraanstaande experts grote twijfels houden bij de toekomst van CRM-systemen die vaak een centrale rol spelen in de interactie met de consument en de brug slaan tussen IT en business. Ook hier geldt dat terug naar de roots gaan uitweg biedt. Bouwen aan relaties, daar ging het toch om? Daarbij is altijd sprake van wederkerigheid. Dat betekent dat niet langer de leverancier aan het roer moet staan van het beheer van de klant, maar de consument zelf.
Goede relaties
Klanten moeten tools in handen krijgen om hun relaties met organisaties te managen. Daar is een flinke wereld mee te winnen. Doc Searls, Amerikaanse auteur van ‘The Intention Economy: When Customers Take Charge’, vecht al jaren voor een CRM-revolutie. Hij is van mening dat CRM het acroniem is voor het eenzijdig opslaan van klantgegevens gevoed door data-spionagepraktijken. Daarmee is het ver afgedreven van de oorspronkelijke bedoeling om goede relaties op te bouwen met klanten. Afgelopen jaren zijn er wel pogingen gedaan om hierin verandering aan te brengen. Zo werd social CRM toegevoegd, is er sprake van meer zogeheten customer experience en zijn de Frequently Asked Questions verplaatst naar een chatbot. Desondanks blijft de essentie van CRM overeind; het eenzijdig opslaan van klantgegevens. CRM blijft de consument reduceren tot zijn data.
Infantiel en onwenselijk
Zolang we maar zoveel mogelijk gegevens verzamelen om de perfecte ‘digitale tweeling’ te maken van de klant, kunnen we hem op zijn wenken bedienen. Zo is veelal de huidige gedachte. Ondertussen vergeten we wat het echt betekent om een gelijkwaardige relatie te onderhouden. Inmiddels zaagt privacywetgeving stevig aan de poten die de basis vormen voor dergelijke technologische uitbuiting. Ook dankzij de roemruchte Cambridge Analytica praktijken en onze groeiende behoefte aan verantwoorde omgang met persoonlijke gegevens maken we stappen voorwaarts. De consument is zich steeds meer bewust van de waarde van de digitale uitstoot die hij achterlaat op het web. Mensen willen geen dataspeelbal zijn in de handen van overheidsinstanties en commercie. Wij willen controle over ons eigen leven en zelf bepalen met wie en hoe we relaties aangaan, los van de vraag wat al die datapunten zeggen over ons menszijn en de diepste verlangens van consumenten. De allerbelangrijkste reden om het roer om te gooien naar regie bij de consument is dat de datakwaliteit op die manier ook verbetert. Customer Relation Management wordt dan een Vendor Relationship Management (VRM) systeem. Daarbij bepaalt de klant zelf welke rechten toebedeeld worden aan welke organisaties. Zo worden zijn intenties via zijn eigen datakluis kenbaar gemaakt.
Klant aan het roer
Daarom pleit Doc Searls voor een zelf-soevereine identiteit. Consumenten moeten zelf eigenaar zijn van hun digitale identiteit. De klant heeft de regie en organisaties bewegen daaromheen. Zo heeft de klant controle over de eigen persoonlijke gegevens. Diezelfde consument bepaalt bijvoorbeeld wanneer het tijd is voor een adreswijziging en waar en hoe dat aangepast moet worden in welke systemen. Dat betekent een radicale omwenteling van het systeem. Eigenlijk is deze gedachte niet nieuw, maar bestaat al langer dan een decennium. De vraag is waarom we daar toen nog niet klaar voor waren. Nog belangrijker is de vraag: waarom zijn we er nu wel klaar voor? Volgens Searls is het antwoord helder. Privacy-schendingen hebben internet tot een slechte plek gemaakt en er zijn genoeg spreekwoordelijke kalveren verdronken. Searls ziet hoop in de blockchain. Deze technologie kan zo’n omwenteling naar regie bij de consument mogelijk kan maken.
Wegdromen uit de relatiecrisis
Alle moeite die nu gestoken wordt in het zoveel mogelijk opslaan van klantgegevens kan eigenlijk overboord. Het is niet langer nodig om met dataspionage tussen de mazen van de wet door te glippen. De tijd en ruimte die daarmee ontstaan, kunnen gestoken worden in de vraag hoe we klantrelaties op een zinnige wederkerige manier kunnen verbeteren. Hoewel consumenten niet gemanipuleerd willen worden, blijven ze natuurlijk wel op zoek naar meer en betere producten en diensten die zo goed mogelijk aansluiten bij individuele wensen. De ultieme relatie tussen bedrijven en klanten zou niet langer gebaseerd moeten zijn op primaire winst- en omzetdoelstellingen, maar op hogere doelen als zelfontplooiing, ontwikkeling en zingeving. Dat klinkt misschien als een naïeve droom, maar toch zal een ander uitgangspunt helpen. Er is immers al veel pijn gevoeld. Zowel bij de consument door privacy-schandalen en ‘computer-says-no-praktijken’ als bij bedrijven die steeds meer moeite hebben om klanten te binden. Kortom, het is hoog tijd voor een ommekeer van CRM-systemen.
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti
de Volkskrant – Laat de grip op uw identiteit niet aan techbedrijf over (September 2019)
Gepubliceerd @ https://www.volkskrant.nl/columns-opinie/laat-de-grip-op-uw-identiteit-niet-aan-techbedrijf-over~bb68f7aa/
Gezichts- en stemherkenning en deepfaketechnologie vergen wetten die onze identiteit beschermen, stellen Sander Duivestein, Thijs Pepping en Menno van Doorn, trendanalisten bij IT-dienstverlener Sogeti.
NOS-presentator Dione Stax werd onlangs opgeschrikt door het nieuws dat ze de hoofdrol speelt in een seksvideo. Met behulp van deepfaketechnologie is haar hoofd geplakt op het lichaam van een pornoster. In China is de ZAO-app, waarmee je in een handomdraai jezelf hoofdrolspeler maakt in een film, een hit. Met het gebruik van de niet van de echte te onderscheiden stem van een Britse ceo, konden criminelen onlangs 220 duizend euro buitmaken.
Iedereen kan intussen met slimme technologie de bizarste wisseltrucs toepassen. Grappig, maar tegelijkertijd enorm riskant. Als er niet snel maatregelen worden genomen, lijdt de samenleving massaal gezichtsverlies, in tal van opzichten. Het is de hoogste tijd dat burgers de controle terugkrijgen.
Trucage is fluitje van een cent
Technieken als beeldherkenning en software die stemmen herkent, bestaan al langer, maar stelden tot voor kort niet veel voor. Nu kunstmatige intelligentie in een razend tempo beter en slimmer wordt, is trucage met andermans gezicht of stem een fluitje van een cent. En juist de combinatie van technische doorbraken en het grootschalige gebruik van beeld- en spraaktechnologie is zo giftig.
Politiekorpsen, vliegtuigmaatschappijen, smartphoneleveranciers, voetbalstadions en fastfoodrestaurants, tal van organisaties zijn bezig met de aanleg van een slimme infrastructuur waarmee burgers niet langer fysiek of digitaal anoniem door het leven kunnen. Al die gezichts- en beeldherkenningstechnologie wordt met of zonder toestemming gebruikt en vaak zonder dat de burger er ook maar enig benul van heeft.
De burger heeft ook nauwelijks invloed op al deze ontwikkelingen. Een vliegreis maken zonder dat je gezicht bij de douane wordt gefotografeerd, kan niet meer. Je gegevens op je eigen computer beschermen lukt bijna niemand. Laat staan dat je als burger-klant bij machte bent je gezicht of stem te beschermen tegen, bijvoorbeeld, de grote technologiebedrijven van deze wereld.
Ons gezicht is niet van onszelf
Albert Heijn presenteerde afgelopen week trots hun nieuwe winkelconcept waarbij slimme technologie het mogelijk maakt boodschappen te doen zonder producten te scannen. Camera’s registreren hoe een klant zich door de winkel verplaatst en zien welke producten het mandje ingaan. Sensoren in de schappen voelen dat een klant iets pakt of terugzet. De camera’s bepalen de positie van klanten zonder gezichtsherkenning, zo verklaarde de grootgrutter. Maar welke wet of regel houdt Albert Heijn tegen om betaling met het gezicht mogelijk te maken? Ons gezicht is niet langer van onszelf. Met kijken in camera’s of praten tegen digitale assistenten geven we voortdurend een stukje van ons zelf weg.
Als gezichten en stemmen massaal worden ge- of misbruikt voor welk doel dan ook, dan ligt een identiteitscrisis op de loer. Het valt straks nauwelijks nog te bewijzen wie je bent als je gezicht en je stem niet langer van jou zijn. Mensen die geen privacy kennen en weten dat ze overal worden herkend of gevolgd, zijn geneigd bepaalde gedragingen te onderdrukken of zichzelf te corrigeren tot, zoals dat heet, geoorloofd gedrag. Deze vorm van afschrikking heet juridisch het ‘chilling effect’: het is vrijheid onder voorbehoud.
Straf op stelen stem
De Canadese psycholoog en cultuurcriticus Joran Peterson pleit voor straf op het stelen van de menselijke stem. Ongeacht of dat grappig bedoeld is of niet. Dat is zijn wrange conclusie nadat anderen buiten zijn medeweten met zijn stem aan de haal waren gegaan. Peterson roept op tot bescherming van de stem als integraal onderdeel van de persoonlijke identiteit.
Facebook schakelde deze week de functie uit waarmee gezichten op foto’s worden geïdentificeerd. Zo’n actie laat zien dat we nu nog zijn aangewezen op zelfregulering. Maar de grip op onze identiteit mogen we niet overlaten aan grote techbedrijven. Zij verdienen miljarden aan consumentgegevens.
De persoonlijke vrijheid moet het uitgangspunt zijn voor nieuwe maatregelen, zoals betere wetgeving voor het vastleggen, opslaan, beveiligen en gebruiken van gezichts- en stemtechnologie. In welke surveillancemaatschappij willen we leven? Daarover moet het publieke debat gaan. Veel fouten kunnen we ons niet meer permitteren, want een wachtwoord kunnen we eenvoudig aanpassen, ons eigen gezicht niet. Kortom: de politiek is aan zet om onze persoonlijke identiteit te beschermen.
Sander Duivestein, Thijs Pepping en Menno van Doorn zijn trendanalisten bij IT-dienstverlener Sogeti.
NRC Handelsblad – Blinde vlek voor radicaliseringsmachine (Augustus 2019)
Gepubliceerd @ https://www.nrc.nl/nieuws/2019/08/16/blinde-vlek-voor-radicaliseringsmachine-a3970296
Radicalisering | De invloed van internetfora wordt onderschat, schrijven Sander Duivestein, Menno van Doorn en Thijs Pepping.
Een dag voor de aanslag in de Amerikaanse grensstad El Paso, waarbij 22 mensen het leven verloren, lekte een intern document van de FBI uit. De dienst stelde dat „door samenzweringstheorie gedreven binnenlandse extremisten” een groeiende binnenlandse terroristische bedreiging zijn. De FBI verwacht dat in de aanloop naar de presidentsverkiezingen van 2020 de „intensiteit” van complottheorieën zal toenemen en vreest dat meer mensen gemotiveerd worden om geweld te gebruiken. De FBI onderkent dat complottheorieën zich sneller verspreiden door internet en sociale media, maar de dienst heeft duidelijk een blinde vlek voor de polariserende krachten van het internet als radicaliseringsmachine. Zolang de FBI het internet als neutrale katalysator van communicatie blijft beschouwen, zullen radicalisering en geweld niet stoppen.
Volgens de FBI kunnen de complottheorieën in drie categorieën worden onderverdeeld. Allereerst is er een categorie die ‘anti-overheid’ is. Samenzweerders geloven dat er een internationale elite is, een Nieuwe Wereld Orde (NWO), die achter de schermen aan de touwtjes trekt. Zo zouden de Verenigde Naties een internationaal complot zijn om de Amerikaanse soevereiniteit aan te tasten. De tweede categorie bestaat uit „op identiteit gebaseerde” complottheorieën. Joodse agenten zouden in het geheim Westerse landen controleren, en er zou een gemeenschap van radicale moslims zijn die wachten op een teken om in actie te komen. Tot slot is er nog de categorie „buitengewone politiek”. Hieronder valt bijvoorbeeld de ‘Pizzagate complottheorie’ – het idee dat Hillary Clinton aan het hoofd staat van een pedofielennetwerk dat in de kelder van een pizzarestaurant in Washington opereert. Ook de ‘Qanon samenzweringstheorie’ valt onder deze categorie. De Qanon stelt dat de president een trekpop is van de deep state, een geheim verbond van machtige mannen die het land achter de schermen in een bestuurlijke greep houden.
Politiek incorrecte internetplatforms als 8chan en Gab, maar ook ‘neutrale’ platformen als Facebook, Twitter, WhatsApp en YouTube dragen sterk bij aan de virale verspreiding van allerlei complottheorieën. Middels een eigen beeld- en taalcultuur wordt een realiteit gecreëerd waar anoniem keiharde grappen gemaakt worden over Joden, moslims, mensen van kleur of vrouwen. Aanhangers van een complottheorie kunnen door informatie op deze platforms toe te voegen de complotten sterker maken of wendingen geven. Zo ontstaat een mengelmoes van grappig bedoelde memes, extreem-rechtse en nationaal-populistische ideeën, en doelbewust verspreidde desinformatie. Dat heeft serieuze gevolgen. Online manifesten veranderen van verklaringen in handleidingen voor gerichte acties. Geweld gaat viraal en wordt een meme.
Hoe ver de gitzwarte humor gaat, werd pijnlijk duidelijk na de aanslag in El Paso. Gebruikers van 8chan deelden onderling een Google-spreadsheet waarin aanslagen met scores in ranglijsten werden bijgehouden: datum, locatie en het aantal doden. Anders Breivik en Brenton Tarrant, die op 8chan worden aangeduid als ‘martelaren’, voeren de lijst aan. Onderzoekscollectief Bellingcat noemt het de ‘gamificatie’ van massaal geweld en terrorisme, onder meer omdat aanslagen ‘high scores’ krijgen op basis van het aantal doden. Bovendien heeft de manier waarop de aanslagen gepromoot worden, iets weg van een online game. De dader van de aanslag in Christchurch had bijvoorbeeld een camera op zijn helm gemonteerd en zond de beelden van zijn schietpartij live uit via Facebook. Voor de kijker leek het alsof hij deelnam aan een First Person Shooter videospel. Het was een uiterst bewuste keuze om een zo groot mogelijk publiek te bereiken. De dader slaagde erin een groot publiek te bereiken: in de eerste 24 uur na de aanslag verwijderde Facebook wereldwijd 1,5 miljoen video’s van de aanval.
Sociale media zijn zeer effectieve radicaliseringsmachines. De aanbevelingsmechanismen op de fora zijn niet geïnteresseerd in wat waar is, of in wat gezond is voor de democratie. Ze willen louter zo lang mogelijk de aandacht van de gebruiker vasthouden, daar wordt immers mee ‘betaald’. Sociale media zijn geoptimaliseerd om emoties als woede, angst en opwinding te stimuleren. Door in te spelen op dit type emoties wordt er meer gedeeld en geliked dan door in te haken op weinig opzienbarende, rustige berichten. Er wordt dus ingespeeld op emotie, met polarisatie tot gevolg. Spijtoptanten zijn er in de technologiesector genoeg.
Guillaume Chaslot, een van de bedenkers van YouTube’s aanbevelingsalgoritme, voert nu actie tegen zijn eigen creatie omdat hij zich zorgen maakt dat de aanbevelingen mensen tot extremen aanzet. Chris Wetherell, een van de oprichters van Twitter, heeft openlijk spijt van de mogelijkheid om tweets te retweeten: „We hebben daarmee een 4-jarige een geladen wapen in handen geven”, zei hij in een interview met Buzzfeed.. Ook Mark Zuckerberg, CEO van Facebook, gaf eerder aan dat de „dictatuur van de likes” moet veranderen. De FBI waarschuwt dus voor meer geweld in aanloop naar de verkiezingen. De focus ligt bij hen op het verspreiden van complottheorieën en niet op het radicaliserende mechanisme dat ten grondslag ligt aan het geweld. Juist nu hier een groeiende consensus over is, van de oprichters van het internet tot academici, moeten er concrete maatregelen volgen. Dit vereist meer inmenging van overheden en een accuratere analyse van veiligheidsdiensten. Bovendien is harder ingrijpen vanuit de FBI broodnodig. De vervolgstap ligt dan voor de hand. Terwijl de FBI nu enkel content reguleert, waardoor je bijvoorbeeld geen naaktfoto’s kunt delen, moet het ook ingrijpen op de architectuur van de platforms. De polariserende trucs moeten ontmanteld om doorgeslagen discussies te deradicaliseren.
Sander Duivestein, Menno van Doorn en Thijs Pepping zijn trendanalisten bij het Verkenningsinstituut Nieuwe Technologie van Sogeti
Het Financieele Dagblad – Deepfakes zijn een groeiend gevaar voor onze democratie (Juli 2019)
Gepubliceerd @ https://fd.nl/opinie/1305951/deepfakes-zijn-een-groeiend-gevaar-voor-onze-democratie-ofl1cazj0ZKU
Terwijl Nederlandse politici zich zorgen maken over het gebruik van slimme algoritmes, denderen technologische ontwikkelingen in een rap tempo voort. Zo maakt het Amerikaanse Congres zich druk over de opmars van zogeheten deepfakes. Deze slimme technologie maakt het mogelijk om online snel en goedkoop echte mensen te veranderen in niet van echt te onderscheiden digitale poppen, die je de meest vreemde dingen in de mond kunt leggen. Het maken van een nepvideo wordt met deepfakes net zo makkelijk als het vertellen van een leugen.
Nu de campagnemachines voor de Amerikaanse presidentsverkiezingen van 2020 al warmdraaien, is de vraag of spindokters de verleiding kunnen weerstaan deepfake-technologie buiten de deur te houden. Deepfakes kunnen een grote bedreiging zijn voor onze democratie. Dat vraagt om herwaardering van objectieve journalistiek.
Facebook publiceerde afgelopen maand een video van een interview met Nancy Pelosi, de Democratische voorzitter in het Amerikaanse Huis van Afgevaardigden, in een ogenschijnlijk benevelde toestand. In deze nepvariant van het originele interview is het beeld een fractie van een seconde vertraagd. Pelosi’s stemgeluid was ook aangepast. Zo leek het alsof ze te diep in het glaasje had gekeken. De video werd massaal gedeeld via sociale media. Zo´n nep-interview verspreidt zich razendsnel waarbij de waarheid een leugen nauwelijks nog in kan halen. En dat heeft verstrekkende gevolgen. Zo leidden eenvoudig vervalste beelden van de vermeende ontvoering van een kind tot publieke lynchings in India. Een deepfake video van president Ali Bongo van Gabon stond aan de basis van een militaire coupe en een daarmee gepaard gaande politieke crisis.
Dankzij deepfake-technologie ontstaat een wereld waarin we onze ogen en oren niet langer kunnen vertrouwen. Het grote gevaar is niet zozeer dat de leugen tot waarheid wordt verheven, maar dat de geloofwaardigheid van de waarheid wordt aangetast. Er is niets meer echt in een toekomst waarin alles en iedereen kan worden nagemaakt. Alles kan nu eenmaal worden afgedaan met een leugen of nepnieuws. Nu al hoor je president Trump regelmatig spreken van nepnieuws. Is dat zo of niet? Het valt nauwelijks nog te controleren. Wie of wat kunnden we dan nog vertrouwen?
In haar boek ‘The Origins of Totalitarianism’ (1951) schreef politiek-wetenschapper Hannah Arendt: ‘Het ideale onderwerp van totalitaire heerschappij is niet de overtuigde nazi of de toegewijde communist, maar mensen voor wie het onderscheid tussen feit en fictie, waar en onwaar, niet langer bestaat’. Wantrouwen is een voorwaarde voor autoritaire regimes. Nu al zegt 30% van de Amerikanen dat grote hoeveelheden nepnieuws voor hen aanleiding zijn om aanzienlijk minder nieuws te consumeren. Zo ontstaat een apathie voor de realiteit. Met de inzet van deepfake-technologie wordt flink geϊnvesteerd in het wantrouwen van burgers. Op die manier komen de fundamenten van onze democratie zwaar onder druk te staan.
Er moet dus snel wat gebeuren. Aloude kernwaarden als objectiviteit, onafhankelijkheid en betrouwbaarheid zijn belangrijker dan ooit in dit tijdperk van post-realiteit. Dat vereist herwaardering van objectieve journalistiek. Journalisten moeten flink gaan investeren in fact checkers.
De recente rol van burgerjournalistiek netwerk Bellingcat in het onderzoek naar het neerhalen van de MH17-vlucht laat zien hoe digitaal bewijsmateriaal kan bijdragen aan het boven tafel krijgen van de waarheid. 3DUniversum, een start-up ontstaan uit de Universiteit van Amsterdam, en de Universiteit van Californië in Berkely werken aan een antivirus voor deepfakes. Nepvideo’s kunnen straks herkend worden op basis van het knipperen van je ogen. Een app als TruPic valideert beelden op waarheidskenmerken voordat het definitief in de blockchain geregistreerd wordt.
Technologie moet bestreden worden met technologie. Dat kan op initiatief van objectieve journalistenplatformen binnen heldere kaders opgesteld door de overheid. Daarnaast is een gezonde opvoeding in mediawijsheid van belang. Eind vorige week vergaderde de Europese Raad over de invloed van deepfakes en nepnieuws op de afgelopen Europese verkiezingen. In de Verenigde Staten is inmiddels een wetsvoorstel ingediend om de impact van deepfake-technologie in te perken.
In een tijdperk waarin de nieuwe generatie met het internet is geboren, heeft het weinig zin technologie in te perken. Technologie is niet goed of fout. Het gaat erom, hoe je ermee omgaat. En dat moeten we alleen op een goede manier doen, zodat onze zwaarbevochten democratie overeind blijft.
Sander Duivestein en Thijs Pepping zijn trendanalisten bij Verkenningsinstituut Nieuwe Technologie van Sogeti.
ICT Magazine – De IT-manager als vroedvrouw (Juni 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/de-it-manager-als-vroedvrouw/
Beslissingen nemen over it-systemen, directie adviseren en ervoor zorgen dat de kennis van je collega’s op peil blijft in de wereld van snelle digitale ontwikkelingen. Het zijn zomaar een paar werkzaamheden uit de dagelijkse praktijk van de it-manager die diverser is dan ooit. Waar dertig jaar geleden technologie allesbehalve in de schijnwerpers stond, is de impact daarvan inmiddels dagelijks nieuws. En daar komen elke dag weer nieuwe dimensies bij. Zo heeft marktanalist Gartner ‘digitale ethiek’ bestempeld tot de strategische trend van dit jaar. De it-manager kan er niet meer omheen: zijn of haar werk heeft een belangrijke ethische dimensie die alleen maar lijkt toe te nemen. Moeilijk? Niet per definitie. Gebruik de vroedvrouw als inspiratiebron en leer vragen stellen zoals Socrates.
Filosofie
De Grieks filosoof Socrates vergeleek zijn filosofische methode vaak met het werk van zijn moeder. Zij was vroedvrouw. Hij zag zichzelf als een vroedvrouw van kennis die anderen hielp om ware ideeën, stellingen en meningen te baren. We leren van Socrates dat scherpe vragen al snel laten zien waar ‘ware kennis’ ophoudt en aannames, idealen, meningen en geloof beginnen. Volgens Socrates lag hier ‘het kwaad’. Mensen doen veelal verkeerde dingen omdat ze hun acties baseren op geen of verkeerde kennis; uit onwetendheid dus. ‘Het goede’ komt dus voort uit het achterhalen van ware kennis.
Digitale ethiek
Wat hebben wij daar anno 2019 aan? We leven in een tijd waarin digitale ethiek steeds belangrijker wordt. Bijvoorbeeld bij de inzet van slimme algoritmes die in een zelfrijdende auto bepalen of bij een kritische situatie de voetganger of bestuurder gespaard moet worden. Of de intelligente assistente die gaat vertellen hoe ik gezonder moet leven, welke passie, partner- of carrièrekeuze ik moet maken. Bij de ontwikkeling van nieuwe technologie krijgt de it-professional dus steeds meer te maken met ethische vraagstukken. Tegelijkertijd staan genoemde voorbeelden doorgaans nog redelijk ver van zijn of haar bed.
Hoe breng je deze ethische uitdagingen dan naar de dagelijkse praktijk? Nu komt de rol van vroedvrouw goed van pas. Via het stellen van kritische vragen komen aannames, impliciete voorkeuren en de mening van it-managers, andere medewerkers en het bedrijf al snel boven tafel. Zo onderscheiden we drie perspectieven waarover vragen gesteld moeten worden.
1. Een duwtje in de goede (?) richting
Het felrode icoontje rechtsboven de app die onbewust je aandacht vraagt, het verdwijnen van een natuurlijk rustpunt door eindeloze newsfeeds, of het automatisch afspelen van het volgende filmpje. Of wat te denken van een optie standaard voorselecteren bij het vragen naar informatie. Het zijn allemaal voorbeelden van zogeheten nudging, neuromarketing en persuasive technologies die grote impact hebben op onze psychische gesteldheid en de keuzes die we in ons leven maken. Je zou het ook het ‘hacken van ons menselijke denken’ kunnen noemen. Het is dat duwtje in de ‘goede richting’ of dat verleidende of zelfs verslavende mechanisme in de software. Wie bepaalt welke bewuste en onbewuste duwtjes ingebouwd worden in uw applicaties en systemen?
2. Vooroordelen in kunstmatige intelligentie
De vruchten van kunstmatige intelligentie (KI) worden inmiddels volop geplukt. Deze intelligente systemen moeten ook onderworpen worden aan de vroedvrouwmethode. We willen tenslotte praktijken voorkomen als het experimentele recruitmentsysteem van Amazon dat mannen prefereerde boven vrouwen. Dit geldt ook voor ‘predictive policing’ situaties, waarbij data niet kritisch bevraagd of opgeschoond wordt. Daardoor komen discriminerende aannames uit de dagelijkse praktijk in het voorspellende systeem terecht.
Datascientist Karen Hao onderscheidt drie belangrijke fases waarin vooroordelen in KI-systemen kunnen sluipen. Allereerst bij het framen van het probleem. Wat is bijvoorbeeld het doel van het slimme kredietverleningssysteem? Is dat maximale winst maken of zoveel mogelijk mensen duurzaam krediet verstrekken? De tweede fase is het verzamelen van gegevens die mogelijk niet representatief zijn of vooroordelen reflecteren. In de laatste fase is bepalend welke data-attributen meetellen en welke wegingswaarde wordt toegedicht aan deze gegevens. Kortom, hoe wordt de data toegepast?
Hoezeer we ook een klinische en objectieve aanpak zoeken bij data science en deep learning, de menselijke subjectiviteit blijft een grote rol spelen. Correlatieve inzichten worden al snel onterecht als causale verbanden geïnterpreteerd. De it-manager moet ervoor zorgen, dat de subjectieve en ethisch geladen keuzes expliciet en bewust gemaakt worden.
3. Dynamische ethiek
Vragen die we nu stellen, zijn heel anders dan de vragen van twee decennia geleden. Zo verandert het begrip privacy met de dag. We praten nu over eigenaarschap van data. En generatie Z leert ons ook hoe dynamisch ethiek is. Waar we twintig jaar geleden zonder na te denken naar het geslacht van de persoon vroegen, willen de jongeren geboren na 1995-2000 niet zo graag meer in een hokje geduwd worden. Inmiddels is de gendervraag een ethisch beladen thema. Dit bevestigt dat ‘goed’ en ‘kwaad’, en het veel interessantere grijze gebied, aan flinke verandering onderhevig zijn. De vroedvrouw moet dus in staat zijn voortdurend nieuwe kennis en inzichten boven tafel te krijgen.
Blijven bevragen
Ethiek voor de it-manager dus. De één noemt het een goede marketingstrategie. De ander vindt het triest dat ethisch handelen pas ter sprake komt na de dertigste verjaardag van het internet. Weer een ander is hoopvol gestemd omdat we aan het begin staan van een tijdperk vol humane technologie. Als we het tenminste goed gaan doen. In april kondigde de Europese Unie een eerste aanzet aan voor ethische richtlijnen. Het staat inmiddels ook op de agenda van Facebook. Het bedrijf onthulde tijdens zijn developers-conferentie dat Instagram experimenteert om het aantal likes van postings te verbergen om sociale druk weg te nemen. En op die manier bij te dragen aan het digitale welzijn van gebruikers.
Er is duidelijk volop beweging rondom digitale ethiek. Dat zal ook moeten gebeuren in het domein van de it-manager. Socrates en zijn vroedvrouwmethode zijn daarbij een goed hulpmiddel. Wat wordt uw volgende vraag?
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie (VINT) van Sogeti
ICT Magazine – GANs: Tooling van morgen (April 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/gans-tooling-van-morgen/
Slechts een van deze mensen bestaat echt. De rest is gemaakt door een GAN van Nvidia. Is de persoon van vlees en bloed te herkennen?
Het portret van een vaag geschilderde man hing al een paar dagen bij Christie’s in New York. Op het eerste gezicht leek het weinig voor te stellen. Toch had het kunstwerk één unieke eigenschap. De maker was geen mens maar een slim algoritme. De opbrengst overtrof alle voorspellingen. Het portret van de fictieve Edmond de Bellamy werd uiteindelijk voor maar liefst $432,500 verkocht.
Een schilderij dat gemaakt is met de volledige inzet van Kunstmatige Intelligentie (KI) is uiteraard voer voor discussie in de kunstwereld. Dat geldt ook voor de impact op ICT. Het portret is tot stand gekomen met de inzet van een revolutionair zogeheten Generative Adversarial Network (GAN). Het produceren van content in allerlei datavormen kan hiermee vele malen sneller en makkelijker gaan. En het resultaat lijkt bovendien ook beter en creatiever. Zo zijn geavanceerde visualisaties bijvoorbeeld nauwelijks meer van echte fotografie te onderscheiden. Yann LeCunn, de KI-directeur van Facebook, noemt GANs de meest ‘coole’ deep learning technologie van de afgelopen twintig jaar. En de Chinees-Engelse computerwetenschapper Andrew Ng, bekend van Baidu en Google Brain, spreekt over een fundamentele vooruitgang dankzij GANs. Deze technologie gaat waarschijnlijk het leven van vele ict-professionals veranderen.
Zo echt mogelijk
KI-autoriteit Ian ‘TheGANfather’ Goodfellow introduceerde deze slimme technologie in 2014. Het zijn twee neurale netwerken die hoor-wederhoor toepassen. Het ene netwerk is een ‘generator’ die zo echt mogelijke output genereert. Het andere netwerk is de ‘discriminator’ dat beoordeelt of de aangeboden data echt of namaak is. De een probeert de ander voor de gek te houden. En de ander wil daar juist niet intrappen. Op die manier geven ze elkaar voortdurend feedback en vormen zo een succesvolle variant van unsupervised learning. GANs zijn uitermate geschikt voor het maken van plaatjes. Met de CycleGan worden schilderstijlen van grootmeesters als Monet en Van Gogh eenvoudig overgedragen op normale foto’s. En met de GauGAN van Nvidia is heel snel en eenvoudig een fotorealistisch landschap te tekenen in een vergelijkbaar programma als Microsoft Paint. Het lijkt allemaal heel simpel te worden. Een kwestie van data en foto’s invoeren, wat training en daarna ontstaat de meest geavanceerde digitale content waar softwareontwikkelaars vandaag de dag nog weken, zo niet maanden aan werken.
Een revolutie in creativiteit
Zo stelt Andrew Price, goeroe op het gebied van 3D, dat een gemiddelde ontwerper zo’n 44 tot 66 uur bezig is met het ontwerp van een virtueel gebouw. Met een gemiddeld uurtarief kost een kant-en-klaar virtueel huisontwerp zo’n $3.900. Het bedrag voor een compleet ingerichte straat in een game loopt dan al snel op naar $200.000. Met behulp van GANs geeft de ontwerper gewenste parameters zoals bouwhoogte en het aantal ramen op, waarna de software zelf verschillende opties genereert. Dankzij de automatisch gegenereerde varianten hoeft de ontwerper niet langer eindeloos te experimenteren. Of het nu een huis of het ontwerp van een auto, app, interface of willekeurige website is, met GANs wordt de ontwikkeling van het digitale product een stuk makkelijker.
En GANs gaan nog verder. Zo hebben onderzoekers van de Michigan Universiteit een GAN gecreëerd die tekst omzet naar realistische foto’s. De zin: ’vogel met gele buik, zwarte rug, bruine keel en zwarte kop’ wordt omgezet naar een zo realistisch mogelijke foto van een vogel. Wie weet ontwikkelen GANs zich zodanig dat de app of het presentatiebeeld straks met een paar woorden gemaakt is.
Synthetische data
Wat voor beeld geldt, is ook van toepassing op tekst of andere typen data. Zo kunnen privacygevoelige gegevens als input dienen van een GAN waarmee synthetische data aangemaakt wordt. Een synthetische dataset heeft twee goede eigenschappen: het is absoluut representatief voor de originele gegevens en privacybescherming is gewaarborgd. Op die manier kan synthetische data het antwoord zijn voor issues rondom eigenaarschap van data en het bieden van betere en/of gratis dienstverlening in ruil voor persoonlijke gegevens. Bijvoorbeeld voor medisch onderzoek kan dan straks door GANs gegenereerde data ingezet worden. Bedrijven kunnen ook geld verdienen met synthetische data waar voorspellingen mee gedaan kunnen worden.
De tooling van morgen?
Kortom, de GAN-beloftes zijn groot. Niet alleen op het vlak van snelheid, creativiteit en gebruikersgemak. De inzet van GANs heeft ook invloed op onze omgang met privacybescherming en het geven van toestemming voor het delen van data. Het grote nadeel is natuurlijk dat genereerde content straks niet of nauwelijks meer van echt te onderscheiden is. Een kat-en-muis-spel van foppen en herkennen dat voorlopig niet zal stoppen.
Veel onderzoekers op het vlak van Kunstmatige Intelligentie zijn ervan overtuigd dat GAN-technologie de komende jaren steeds beter wordt. De grote vraag is uiteraard hoeveel impact deze ontwikkelingen hebben op onze ict-huishouding en de verhouding tussen mens en machine in het ontwikkelproces. De kracht van GANs zijn echter ook hun zwakte. Ze maken nieuwe creaties die in lijn liggen met de input. Een GAN die getraind is in het maken van hondenfoto’s, komt niet in één keer met een hond op een fiets.
‘Zo dom als een GANs’ zal straks uit het woordenboek verdwijnen, maar voorlopig blijft de mens nodig om buiten de lijntjes te kleuren en buiten het spreekwoordelijke hokje te denken.
Thijs Pepping is trendanalist bij het Verkenningsinstituut Nieuwe Technologie van ICT-dienstverlener Sogeti
ICT Magazine – Social influencen is de pubertijd voorbij (Februari 2019)
Gepubliceerd @ https://www.ictmagazine.nl/achter-het-nieuws/social-influencen-is-de-pubertijd-voorbij/
Het social influencen is uitgegroeid van een enigszins lachwekkend digitaal fenomeen naar een gigantische industrie waarin veel geld verdiend wordt. Zo berekende de Economist dat influencers met zo’n 100.000 volgers al gauw een paar duizend dollar opstrijken voor één social media posting.
De jonge generatie weet inmiddels niet beter. Volgen en gevolgd worden is de normaalste zaak van de wereld. Hoog tijd dat u zich verder gaat verdiepen in dit fenomeen. Waarom? Niet alleen omdat deze digitale aandachtstrekkers een grote economische factor zijn. Het worden ook uw nieuwe collega’s. Het is bovendien nu al de doelgroep waar marketeers van uw organisatie mee in dialoog zijn.
Een wereld in beweging brengen
De kracht van de beïnvloedingsindustrie komt duidelijk naar voren in de documentaire Fyre op Netflix. Daar is te zien hoe influencers in staat zijn om in een hele korte tijd een groot publiek te mobiliseren. Een feestje waar niemand nog van gehoord had, was in twee dagen volgeboekt. In ruil voor honderden duizenden dollars maakten topmodellen als Kendall Jenner, Bella Hadid en Elsa Hosk via een paar Instagram postings en een gelikte video een succesvolle promotie voor een nieuw muziekfestival op een idyllisch eiland. De ondertitel van de documentaire ‘The greatest party that never happened’ vat het verhaal mooi samen: via sociale media werd tot op het allerlaatste moment het idee van een utopisch festival geschetst.
De hype en mysterie waren immens. Tegelijkertijd ontbrak elke vorm van organisatie- en communicatietalent. Bezoekers die duizenden dollars voor luxe villa’s hadden betaald, moesten slapen in afgedankte stormtenten op door regen doordrenkte matrassen. De hoogstaande culinaire maaltijden bleken in het echt niet meer dan een broodje kaas te zijn. Het hilarische relaas is een verbijsterend voorbeeld van de kracht van social influencers. Maar ook een les in organisatiekracht. Dankzij slimme beïnvloederstactiek is ieder bedrijf in staat massa’s mensen te mobiliseren. Influencers zijn hun pubertijd ontgroeid. Ze weten alleen nog niet zo goed wat er in de fysieke wereld allemaal bij komt kijken om iets te laten slagen.
Mukbang
Een andere manier om kennis te maken met de wereld van digitale aandachtstrekkers is een eigen zoektocht langs de belangrijkste velden waar influencers zich ophouden. Mocht u op een avond alleen een maaltijd nuttigen, tik dan eens Mukbang in bij YouTube en zet het geluid wat harder. Bij Mukbang video’s wordt zichtbaar en onder luid gesmak genoten van eten. Vele video’s hebben tientallen miljoenen views. De motivatie om te kijken verschilt van het verdrijven van eenzaamheid, het samen eten, tot spelvormen als het genieten van een ongezonde maaltijd. Dat terwijl de kijker zelf iets gezonds moet eten. De influencers verdienen aan het aantal views. Met advertenties of omdat kijkers virtuele cadeautjes kopen.
eSports
Bij Mukbang komen de inkomsten vooral ten goede aan de beïnvloeder en het platform. Dat is anders bij bijvoorbeeld eSports. Een domein waarin veel partijen eromheen geld verdienen. Vergelijkbaar met de fysieke traditionele sportwereld waarin onder andere managers, sponsors, spelers, bestuurders, en merchandisers geld verdienen. Er is zelfs een donkere kant met matchfixing, doping, en gender gerelateerde problemen. Onderzoeksbureau Newzoo voorspelt dat de omzetgroei in eSports doorzet van $1,17 miljard in 2019 naar $1,65 miljard in 2021. Inmiddels bieden in de Verenigde Staten meer dan 200 hogescholen en universiteiten studiebeurzen aan voor eSporters. En waar het totaal aantal kijkers van de afgelopen Super Bowl finale zo’n 101 miljoen mensen betrof, zaten er voor de finale van de eSports finale van League of Legends in 2018 meer dan 200 miljoen fans te kijken hoe hun helden de strijd aangingen.
Micro Influencers
Ook de gewone tiener kan geld verdienen aan zijn volgers. Een 13-jarige Amerikaanse puber vertelt in een interview met The Atlantic over haar onvrede met een ouderwetse baan. Het kost veel training en je moet soms ver van huis om relatief weinig geld te verdienen. Het lijkt een hoop gedoe in vergelijking met haar nieuwe gig: “Je hoeft niet meer dan een simpele posting te maken. Dat is zo gepiept. Die ene posting levert al gauw zo’n $50 op.” In een maand tijd heeft deze jonge Micro Influencer met haar 8000 volgers een paar honderd dollar verdiend. Uit onderzoek blijkt overigens dat 96,5 procent van iedereen die YouTube-ster wil worden, niet genoeg inkomsten genereert om boven de armoedegrens uit te komen. Dus de werkelijkheid lijkt minder rooskleurig dan wordt gedacht.
Bullshit detector
Dit jaar maakt 32 procent van de wereldbevolking deel uit van de generatie Z, de opvolgers van de millennials. De eersten daarvan begeven zich nu op de arbeidsmarkt. Ze hebben koop- en stopkracht en zijn in staat de boel flink op te schudden in uw organisatie. Tenminste als u in staat bent deze talenten te interesseren voor uw bedrijf. Steeds meer organisaties gebruiken influencers in de ‘war for talent’ en ons land telt inmiddels tal van influencerbureaus die u op weg helpen met uw eigen influenceraanpak. Van ‘home brewed’ beïnvloeders uit uw eigen werknemersbestand tot een perfecte match met een YouTube persoonlijkheid. Net als in de documentaire Fyre schuilt het gevaar in de spanning tussen belofte en het leveren van beloofde prestaties. Authenticiteit lijkt het toverwoord te zijn. Deze generatie be- en veroordeelt u met hun ogenschijnlijk vlijmscherpe bullshit detector.
Iedere generatie brengt nieuwe inzichten. De huidige nieuwe generatie heeft het vermogen om te beïnvloeden op een manier die voor u wellicht nog wennen is, maar voor hen de normaalste zaak ter wereld. Dus bereid u daarop voor en ga in uw verdieping verder dan slechts het toepassen van wat influencer-trucjes. Documentaires en YouTube kanalen te over.
Menno van Doorn en Thijs Pepping zijn beide trendanalisten bij VINT, Het VerkenningsInstituut Nieuwe Technologie van Sogeti.
Algemeen Dagblad – Zet virtuele adviseur in bij smartphonegebruik (Januari 2019)
Gepubliceerd @ AD januari 2019