GOOGLE NEEMT STRENGERE MAATREGELEN TEGEN AI-GEGENEREERDE EXPLICIETE INHOUD
| united news | Door: Redactie
Bron: Wired.
Google kondigt nieuwe maatregelen aan om expliciete, door AI gegenereerde inhoud moeilijker vindbaar te maken.
Enkele weken geleden leverde een Google-zoekopdracht naar “deepfake naaktfoto’s Jennifer Aniston” minstens zeven prominente resultaten op met expliciete, door AI gegenereerde beelden van de actrice. Nu zijn deze resultaten verdwenen.
Volgens Google-productmanager Emma Higham hebben de nieuwe aanpassingen aan de rangschikking van zoekresultaten, die dit jaar zijn doorgevoerd, de blootstelling aan valse expliciete beelden met meer dan 70 procent verminderd bij zoekopdrachten naar dergelijke inhoud over een specifieke persoon. Waar voorheen problematische resultaten verschenen, bevorderen de algoritmen van Google nu nieuwsartikelen en andere niet-expliciete inhoud. Een
“Met deze wijzigingen kunnen mensen lezen over de impact van deepfakes op de samenleving, in plaats van pagina’s te zien met niet-consensuele nepafbeeldingen,” schreef Higham woensdag in een bedrijfsblogpost.
De aanpassing van de rangschikking volgt op een onderzoek door WIRED deze maand, waaruit bleek dat Google-management in de afgelopen jaren talloze ideeën van personeel en externe experts om het groeiende probleem van intieme portretten die online zonder toestemming worden verspreid,
Hoewel Google het gemakkelijker heeft gemaakt om ongewenste expliciete inhoud te verwijderen, hebben slachtoffers en hun pleitbezorgers aangedrongen op proactievere stappen. Het bedrijf heeft echter geprobeerd te voorkomen dat het te veel een regulator van het internet wordt of de toegang tot legitieme pornografie schaadt. Destijds zei een Google-woordvoerder dat meerdere teams ijverig werkten om de bescherming tegen wat het “niet-consensuele expliciete beelden” (NCEI) noemt, te versterken.
Volgens pleitbezorgers van slachtoffers heeft de toenemende beschikbaarheid van AI-afbeeldingsgeneratoren, waarvan sommige weinig beperkingen hebben, geleid tot een toename van NCEI. De tools hebben het voor bijna iedereen gemakkelijk gemaakt om vervalste expliciete beelden van individuen te creëren, of het nu gaat om een klasgenoot van de middelbare school of een mega-beroemdheid.
In maart bleek uit een analyse van WIRED dat Google meer dan 13.000 verzoeken had ontvangen om links naar een dozijn van de populairste websites die expliciete deepfakes hosten te verwijderen. Google verwijderde in ongeveer 82 procent van de gevallen de resultaten.
Als onderdeel van de nieuwe maatregelen van Google zegt Higham dat het bedrijf drie maatregelen zal toepassen om de vindbaarheid van echte, maar ongewenste expliciete beelden te verminderen, evenals van synthetische ongewenste beelden. Na het honoreren van een verwijderingsverzoek voor een geseksualiseerde deepfake, zal Google proberen duplicaten uit de resultaten te houden. Het zal ook expliciete beelden filteren uit resultaten van vergelijkbare zoekopdrachten als die genoemd in het verwijderingsverzoek. Ten slotte zullen websites die “een groot aantal” succesvolle verwijderingsverzoeken ontvangen, worden gedegradeerd in de zoekresultaten.
“Deze inspanningen zijn bedoeld om mensen extra gemoedsrust te geven, vooral als ze zich zorgen maken over soortgelijke inhoud die in de toekomst over hen kan verschijnen,” schreef Higham.
Google erkent dat de maatregelen niet perfect werken, en voormalige medewerkers en pleitbezorgers van slachtoffers hebben aangegeven dat ze veel verder zouden kunnen gaan. De zoekmachine waarschuwt prominent mensen in de VS die op zoek zijn naar naaktfoto’s van kinderen dat dergelijke inhoud onwettig is. De effectiviteit van de waarschuwing is onduidelijk, maar het is een mogelijke afschrikking die wordt ondersteund door pleitbezorgers. Ondanks wetten tegen het delen van NCEI, verschijnen er echter geen vergelijkbare waarschuwingen voor zoekopdrachten naar seksuele deepfakes van volwassenen. De Google-woordvoerder heeft bevestigd dat dit niet zal veranderen.
TECH
| united news | Door: Redactie
