
Nieuws en trends
Nieuw onderzoek: AI's discrimineren mensen
van Debora Pape
YouTube test automatische video-aanpassing met AI zonder makers te informeren. Dit veroorzaakt problemen.
Recentelijk meldden verschillende YouTube-kanalen dat hun video's plotseling veranderden zonder dat ze daar zelf iets voor hoefden te doen. Huidtinten lijken anders, beeldgebieden worden anders belicht of er zijn artefacten te zien. Vooral dat laatste duidt op bewerking door AI.
Nadat de Britse nieuwszender BBC hierover berichtte, bevestigde Youtube uiteindelijk dat er een testprocedure gaande was op het portaal. Als onderdeel van dit proces worden bepaalde shorts, d.w.z. korte video's, automatisch bewerkt. Dit gebeurt met behulp van «technologieën op het gebied van machine learning». Het gaat echter alleen om het voorkomen van beeldruis of het verscherpen van bepaalde details. Inhoudelijk wordt er niets veranderd. Dat de AI niet perfect is, blijkt echter uit vreemd vervormde lichaamsdelen of ongewenste filtereffecten.
Het feit dat de makers niet zijn geïnformeerd over deze test is bijzonder onbegrijpelijk. Er was geen waarschuwing vooraf en ook geen mogelijkheid tot opt-out (d.w.z. de optie om af te zien van deze verwerking). De producenten toonden zich bezorgd dat hun gewenste effect of de esthetiek van hun content zou worden aangetast door deze automatische ingrepen. Hoewel YouTube niets wil weten van generatieve AI en het alleen heeft over «klassieke machine learning», zetten experts vraagtekens bij deze houding. Volgens hen zouden de zichtbare veranderingen wel eens onder de term «kunstmatige intelligentie» kunnen vallen.
De ironie van de zaak: sinds 2023 verplicht YouTube makers om AI-gegenereerde content van een label te voorzien. De videodienst doet dit echter niet voor zijn eigen bewerkingen. Het is slechts een test van een maatregel die «bedoeld is om de visuele kwaliteit van de shorts» te verbeteren. Deze maatregelen zijn bedoeld om «een consistente kijkervaring te creëren, ongeacht het eindapparaat».
YouTube zegt op dit moment niets over hoe lang de testprocedure zal lopen en of de aanpassingen permanent in het platform worden geïntegreerd. Het is ook onduidelijk of er later een opt-out optie komt.
Sinds ik ontdekt heb hoe ik beide telefoonkanalen op de ISDN kaart kan activeren voor meer bandbreedte, ben ik aan het knutselen met digitale netwerken. Ik knutsel al met analoge netwerken sinds ik kan praten. Winterthur door keuze met een rood-blauw hart. En koffie - voor, na, tussendoor en tijdens.