AI is een steeds belangrijkere rol gaan spelen in de samenleving, zo ook in de media-industrie. Onderzoeksproject DRAMA richt zich op hoe mediaorganisaties AI op een ethisch verantwoorde manier kunnen toepassen. Op de Innovation Day van Dutch Media Week op maandag 3 oktober 2022 zijn de eerste onderzoeksresultaten gepresenteerd.
DRAMA
Het onderzoeksproject DRAMA bestaat uit een team van onderzoekers van Hogeschool Rotterdam, Hogeschool Utrecht en Hogeschool van Amsterdam, en mediapartijen zoals RTL, Beeld & Geluid, NPO, VPRO en Media Perspectives. “De mediaorganisaties zagen dat de bestaande ethische instrumenten voor verantwoorde AI onvoldoende houvast bieden voor het ontwerp en de inzet van verantwoorde AI. Daarom zijn we samen aan de slag gegaan”, aldus Oumaima Hajri, onderzoeker bij Hogeschool Rotterdam.
Bekijk de video, of lees hieronder verder het verslag:
Bereidheid is groot
Hajri presenteerde namens het onderzoeksteam de resultaten van de stakeholder journey, waarde-analyse en het literatuuronderzoek. Eerst is de huidige situatie in kaart gebracht. In totaal zijn er 14 interviews gehouden met mensen van verschillende organisaties en rollen.
Hajri: “We zagen dat verschillende organisaties erg bewust zijn van de urgentie van ethische overwegingen, maar dat het soms best lastig is om het uiteindelijk te vertalen naar de praktijk. De barrière lag zowel op strategisch als technisch niveau. De twee komen niet altijd bij elkaar”. Dit komt met name doordat er geen ethische tools of medewerkers zijn die zich specifiek bezighouden met ethische beslissingen. Bovendien is volgens de HR-onderzoeker de rol van de zogenaamde ethical- of privacy officer ook niet altijd duidelijk. Er wordt immers “geen tot weinig gebruikgemaakt van ethische tools”, een praktisch hulpmiddel wat gebruikt kan worden om een toepassing op ethiek te beoordelen, gebaseerd op ethische principes. “De meeste ethische beslissingen worden genomen door de ontwikkelings- of technische teams zelf, en daarmee blijven de beslissingen impliciet in plaats van dat ze geëxpliciteerd worden”. Daarnaast vertelde Hajri dat ook “niet altijd naar de gebruiker gecommuniceerd wordt welke keuzes er in het proces gemaakt worden”. De bereidheid is dus groot, maar er is nog veel werk aan de winkel.
Er is gebleken dat er geen externe verificatie is, de sociale principes zijn weinig of niet opgenomen in de verschillende tools en de technische principes domineren. Al met al is het volgens Hajri “belangrijk om de ‘lived-experiences’ van gebruikers mee te nemen in het proces. Het gaat hier over toepassingen die mensenlevens beïnvloeden. Is een technologische benadering genoeg?”
Mediaorganisaties aan het woord
Na de presentatie van Oumaima Hajri over de onderzoeksresultaten, schoven ook Mark Westerhoff, CTO bij het ANP, en Frank Visser, programma manager bij Media Perspectives aan. Ook het ANP maakt gebruik van AI-systemen. Westerhoff: “Wij gebruiken op dit moment AI-oplossingen voornamelijk voor metadata-extractie. Bij foto’s gebruiken wij bijvoorbeeld face detection, topic detection en key-wording. Voor tekst maken wij gebruik van een mediamonitor, waar we uit de tekst automatisch entiteiten halen, zoals bepaalde personen, locaties, organisaties of evenementen. Uiteraard hebben wij ook met discussies te maken over hoe wij bijvoorbeeld onze key-wording doen. Welke resultaten worden verwacht of verwachten we überhaupt een resultaat?”
Volgens Frank Visser zijn alle data niet alleen een lust, maar ook een last. “De verzamelingen moeten conformeren aan allerlei wetgeving inzake het opslaan, bewaren en verwijderen”. Bedrijven hebben inmiddels zo veel data over elk persoon verzameld dat men zich er soms ook geen raad meer mee weet. “Mediaorganisaties snappen ook dat het zo niet meer gaat werken. Daarom zijn 15 grote mediaorganisaties een samenwerking gestart. Inmiddels hebben zij een gezamenlijke innovatieagenda opgesteld”. Hierbij staan drie pijlers centraal: Decentrale data, Nieuws en Informatie en Content en Productie. De innovatieagenda is op dinsdag 4 oktober tijdens het Cross Media Café overhandigd aan de minister van EZK.
Mark Westerhoff (ANP) en Frank Visser (Media Perspectives) in gesprek met Monique van Dusseldorp
Situatie in Denemarken
Ook op internationaal niveau speelt de ethische AI-discussie een rol. Zo vertelde Anna Schjøtt Hansen, phd-studente aan de Universiteit van Amsterdam, tijdens de sessie dat in Denemarken eenzelfde soort probleem is ontstaan. Hansen heeft onderzoek verricht naar hoe een grote Deens regionale mediaorganisatie een zogenaamde recommender systembouwt. “I think I found very similar results as they found here because there is a very big emphasis on building a good system, an app system that lived up to both editorial and publishing ideals of the media organization. They have raised many questions on the way, but they couldn’t implement them. So, in the end they ended up with not implementing the system at all because they didn’t feel it lived up to the response they wanted”. Volgens de phd-studente komt dit doordat de verantwoordelijkheid bij de redactie bleef liggen. Men wilde graag de controle houden op de hele nieuwsstroom, terwijl ethische beoordelaars inspraak hadden moeten hebben. De organisaties uit haar onderzoek beschikten niet over ethische teams.
Veelbelovend
Stefan Leijnen, lector Artificial intelligence bij Hogeschool Utrecht, is van mening dat de eerste resultaten van het DRAMA-onderzoek erg veelbelovend zijn. “Wat we al kunnen zien is dat er veel demystificatie moet worden gedaan als het gaat om zowel de ethische als de AI-kant van ethische AI”, aldus Leijnen. “We moeten niet vergeten dat de AI die daadwerkelijk op ons afkomt, is ontwikkeld door advertentiebedrijven. Wat in de media nodig is, is waarschijnlijk een heel ander soort AI die we nog amper kennen. Ik zou denken dat er op personalisatie nog veel meer mogelijk is. Maar dat levert ook allemaal ethische vragen op.” Dat is volgens hem ook een van de redenen waarom het onderzoeksproject DRAMA belangrijk is. “Er wordt nagedacht over de consequenties van dit soort toekomstige ontwikkelingen”.
Winkel
Er is dus zeker nog werk aan de winkel. Wat deze sessie op 3 oktober heeft laten zien is dat de wil er bij de mediaorganisaties in ieder geval is en dat het DRAMA-onderzoek veelbelovend lijkt. Waar een wil is, is een weg.