De procureur-generaal van Californië, Rob Bonta, heeft een staakt-het-vuren-brief gestuurd naar Elon Musk's xAI, waarin hij eist dat het bedrijf onmiddellijk stopt met het produceren en verspreiden van aanstootgevende deepfake-afbeeldingen die zijn gegenereerd door zijn Grok-chatbot.
De procureur-generaal van Californië heeft de staakt-het-vuren-brief vrijdag vrijgegeven als reactie op beschuldigingen dat Grok werd gebruikt om onwettige inhoud te creëren met betrekking tot kinderen en niet-consensuele foto's van volwassenen, wat leidde tot een onderzoek door de staat Californië. Bonta stelde dat het illegaal is om CSAM te creëren, verspreiden, publiceren en weergeven.
Procureur-generaal van Californië richt zich op xAI vanwege vermeend misbruik van Grok
Eerder deze week heeft het kantoor van de procureur-generaal van Californië aangekondigd dat het een onderzoek instelde naar xAI vanwege beschuldigingen dat de chatbot van de startup, Grok, werd gebruikt om niet-consensuele, ongepaste afbeeldingen van vrouwen en kinderen te produceren. Als reactie stuurde de overheid een staakt-het-vuren-brief naar het bedrijf.
Het kantoor van de procureur-generaal beweerde verder dat xAI de "grootschalige productie" lijkt te "faciliteren" van niet-consensuele, ongepaste foto's, die vervolgens "worden gebruikt om vrouwen en meisjes op internet te intimideren." Volgens het kantoor van de procureur-generaal toonde één onderzoek aan dat meer dan de helft van de 20.000 foto's die tussen Kerstmis en Nieuwjaar door xAI werden geproduceerd, personen toonden die zeer weinig kleding droegen, van wie sommigen op kinderen leken.
Rob Bonta beweerde in de aankondiging dat de bedrijfspraktijken in strijd waren met de civiele wetten van Californië, waaronder California Civil Code sectie 1708.86, California Penal Code secties 311 et seq. en 647(j)(4), en California Business & Professions Code sectie 17200.
Het California Department of Justice verwacht dat xAI zijn inspanningen om deze problemen aan te pakken zal bevestigen en binnen de komende vijf dagen onmiddellijke actie zal ondernemen om ze op te lossen.
Het veiligheidsaccount van X had dit type gebruikersgedrag echter eerder al veroordeeld. Het verduidelijkte op 4 januari dat het actie onderneemt tegen illegale inhoud op X, zoals CSAM, door deze te verwijderen, accounts voor onbepaalde tijd op te schorten en samen te werken met wetshandhavingsinstanties en gemeentelijke overheden wanneer nodig.
Opvallend is dat Elon Musk op 4 januari waarschuwde dat iedereen die Grok gebruikt of aanzet tot het creëren van illegale inhoud dezelfde gevolgen zal ondervinden alsof ze deze hadden geüpload.
Procureurs-generaal intensiveren druk op AI-bedrijven over kinderveiligheid
Een verontrustende toename van niet-consensuele inhoud voor volwassenen is het gevolg van de ontwikkeling van gratis generatieve AI-tools. Dit probleem teistert verschillende platforms, niet alleen X.
Zo hebben procureur-generaal Bonta en procureur-generaal Jennings van Delaware in september vorig jaar met OpenAI gesproken om hun ernstige zorgen te uiten over het groeiende aantal meldingen over hoe de producten van OpenAI omgingen met jongeren.
In augustus van hetzelfde jaar stuurden procureur-generaal Bonta, samen met 44 andere procureurs-generaal, een brief naar 12 toonaangevende AI-bedrijven naar aanleiding van meldingen over ongepaste interacties tussen AI-chatbots en kinderen. De brieven werden gestuurd naar Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika en xAI.
Procureur-generaal Bonta en de 44 procureurs-generaal informeerden de bedrijven in de brief dat staten in het hele land nauwlettend volgden hoe bedrijven hun AI-veiligheidsbeleid ontwikkelden. Ze benadrukten ook dat deze bedrijven een wettelijke plicht hebben jegens kinderen als consumenten, omdat ze profiteren van kinderen die hun producten gebruiken.
In 2023 sloot procureur-generaal Bonta zich aan bij een tweepartijdige coalitie van 54 staten en territoria die een brief stuurden naar congresleiders waarin ze pleitten voor de oprichting van een expertcommissie om het mogelijke gebruik van AI te onderzoeken om kinderen uit te buiten via CSAM.
De coalitie verzocht de expertcommissie om wetten voor te stellen om kinderen te beschermen tegen dergelijk misbruik. "De productie van CSAM creëert een permanente registratie van het slachtofferschap van het kind," aldus het Amerikaanse Ministerie van Justitie.
Als je dit leest, ben je al een stap voor. Blijf daar met onze nieuwsbrief.
Bron: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
