Grindr gaat samenwerken met Spectrum Labs om berichten op de datingapp te modereren met behulp van kunstmatige intelligentie. Spectrum Labs is een startup met een AI-gebaseerd systeem om schadelijk gedrag in tekst- en spraakinhoud te ontdekken in verschillende talen.
“Contentmoderatie via machine learning is lastig, controversieel en niet altijd goed”, zegt Grindr-woordvoerder Patrick Lenihan tegen Axios. Met Spectrum, dat ook contentmoderatie biedt aan andere datingdiensten, gamebedrijven en andere internetbedrijven, heeft Grindr eindelijk een optie gevonden waar hij zich prettig bij voelde, legt Lenihan uit. “Ze hadden precies wat mij nodig hadden.”
Hoe het werkt
In plaats van alleen de inhoud van bepaalde woorden of zinsdelen te controleren, lost het systeem van Spectrum specifieke problemen op, zoals het identificeren van de verkoop van drugs en seks en het opsporen van minderjarige gebruikers.
Spectrum heeft een aantal algoritmen die het in de loop der jaren heeft afgestemd, maar het is mogelijk om dit weer af te stemmen op de behoeften van de klant, Grindr in dit geval. Als gevolg hiervan kan het weken of maanden duren voordat de tools operationeel zijn op het platform van Grindr. Maar dit is dan wel een investering die zich na verloop van tijd terugbetaalt.
Het grote verschil met de huidige werkwijze is dat Grindr nu proactief op zoek kan gaan naar schadelijk gedrag en niet reactief, zoals het eerder deed. In de huidige situatie is Grindr afhankelijk van meldingen afkomstig van gebruikers. Straks dus niet meer, omdat de software het schadelijke gedrag moet kunnen ontdekken.
