Vader in VS in problemen nadat Google medische foto aanziet voor kindermisbruik

Vader in VS in problemen nadat Google medische foto aanziet voor kindermisbruik22 aug 2022 om 12:53Update: 12 uur geledennujij commentLees 939 reactiesEen man uit San Francisco is flink in de problemen gekomen nadat hij op verzoek van de huisarts een foto van het geslachtsdeel van zijn zoontje had gemaakt, meldt The New York Times. Google markeerde de foto als kindermisbruik, blokkeerde zijn account en deed melding bij de politie.Door onze techredactieIn februari 2021 namen de ouders van een Amerikaanse peuter contact op met een arts. De peuter had een infectie aan zijn geslachtsdeel. Op verzoek van de arts maakte de vader van het jongetje een foto van de infectie en stuurde de foto naar de arts.Twee dagen later kon de man niet meer inloggen op zijn Google-account. Volgens Google had de man de richtlijnen van het bedrijf overtreden. In de lijst met mogelijke redenen stond onder andere ‘seksueel misbruik en uitbuiting van kinderen’. De man had direct door dat de foto van zijn zoontje waarschijnlijk de oorzaak was.Google scant sinds 2018 de cloud-opslagdienst Google Drive met kunstmatige intelligentie. Dit systeem is getraind om beelden van seksueel misbruik te herkennen. De man had op de foto het geslachtsdeel van zijn zoontje vast om de infectie goed te kunnen fotograferen. Dit werd door het systeem van Google gemarkeerd als een seksuele handeling.Google deed direct melding bij de politieDe man nam contact op met Google om het misverstand recht te zetten. Google meldde dat het niet mogelijk was het account te herstellen omdat er al melding was gedaan bij de politie. De politie moest beoordelen of er sprake was van seksueel misbruik.In december 2021, negen maanden later, kreeg de man een brief van de politie. Daarin stond dat er een groot onderzoek had plaatsgevonden. De politie had daarvoor zijn zoekopdrachten op internet, locatiegeschiedenis, berichten en alle documenten, foto’s en video’s op de Google Drive onderzocht.De politie was tot de conclusie gekomen dat er geen sprake was van kindermisbruik en meldde dat het onderzoek was gesloten. Toch kreeg de man zijn Google-account niet terug.Google had zijn account ondertussen al permanent verwijderd. De man is daardoor veel persoonlijke data kwijtgeraakt, waaronder foto’s en video’s van zijn kinderen. De man eist nu 7.000 dollar (ruim 6.900 euro) schadevergoeding van Google.Miljoenen kinderpornomeldingen per jaarTechbedrijven markeren miljoenen keren per jaar beelden van seksueel misbruik. Volgens The New York Times heeft Google in 2021 meer dan 600.000 meldingen van kinderporno gedaan. Als gevolg daarvan blokkeerde Google de accounts van meer dan 270.000 gebruikers.Het is niet bekend hoeveel accounts onterecht worden geblokkeerd. De kunstmatige intelligentie van Google kan kindermisbruik snel signaleren. Daarmee kunnen kinderen in nood snel gered worden. Het levert echter ook onterechte meldingen op.Beeld: APnujij commentLees 939 reactiesLees meer over:KinderpornoKunstmatige intelligentieTechNUjij: Uitgelichte reactiesAlexander7622 aug 2022 om 15:55De wetgeving zit denk ik niet geheel juist in elkaar. Google zou eigenlijk een officiële opsporingsinstelling (van de overheid) belast met opsporing van kindermisbruik, toegang moeten verlenen om tooling te installeren. De hits moeten iig niet bij een Google employee komen. Het gaat Google feitelijk niets aan. Ze zijn geen opsporingsambtenaren en er geldt nog altijd zoiets als privacy. Natuurlijk moet kindermisbruik actief opgespoord worden, maar zoals het hier gaat is niet juist. Pas wanneer Google van de politie een seintje krijgt voor een take-down horen ze het account te blokeren en eventueel te wissen … en geen seconde eerder.Respect: 👍 84Reacties: 💬 13 Reageer nuikmetmijnmeningg22 aug 2022 om 13:40Triest verhaal. Ik vind dat Google zoekt naar kinderporno een goed initiatief. Maar dan had Google de data wel moeten bewaren totdat duidelijk was of er wel of geen kwade intenties waren bij de gescande foto's. Ik zeg , dikke schadevergoeding wegens ernstige onzorgvuldigheid m.b.t. andermans eigendommen Respect: 👍 192Reacties: 💬 14 Reageer nujij commentBekijk alle reactiesAanbevolen artikelen NUjij-reacties nujij commentLees 939 reacties