Een Amerikaanse faillissementsrechter heeft toestemming gegeven aan chatbotplatform Character.AI om door te gaan met de verkoop van zijn activa.
Character.AI wijt het faillissement aan rechtszaken, toezichtonderzoeken, hoge kosten voor AI-talent en rekenkracht, en een verlieslatend bedrijfsmodel. Het bedrijf verloor het momentum bij het aantrekken van kapitaal nadat Google de oprichters had binnengehaald in plaats van in het bedrijf zelf te investeren. Dit onderstreept hoe kwetsbaar de AI-sector is voor consolidatie via zogenaamde ‘acqui-hires’ (overnames met als primair doel het binnenhalen van personeel), waarbij een bedrijf kan worden ontdaan van zijn belangrijkste werknemers en technologie.
Bij gebrek aan verdere steun van investeerders leed Character.AI een maandelijks verlies van 8 tot 9 miljoen dollar; de kosten voor personeel en rekenkracht overstegen ruimschoots de inkomsten uit advertenties en gebruikersbijdragen.
Al vóór het faillissement is het merendeel van het personeel van Character.AI – inclusief de voormalige CEO – in dienst genomen door een extern bedrijf. Bovendien zou dit bedrijf juridische vrijwaringen hebben bedongen die zowel het bedrijf als de voormalige medewerkers van Character.AI beschermen tegen rechtszaken over het handelen van Character.
De ineenstorting van Character.ai legt een weinig besproken risico van AI bloot: de bedrijven die jouw geheimen in handen hebben, bestaan wellicht niet voor altijd.
Wil je een AI-vriendin of vriend? Misschien iemand die luistert als anderen even geen tijd hebben of misschien wel slaapt. Dan ben je bij een chatbotbedrijf aan het juiste adres.
Maar behalve jij zijn er tientallen miljoenen anderen, onder wie ook kinderen die relaties zijn aangegaan met de chatbots van Character.ai. Sommige AI-“personages” beweren zelfs dat ze advocaat of gediplomeerd psychiater zijn. Nu staat Character.ai op het punt failliet te gaan, en komen de gegevens, berichten en geheimen van gebruikers is data die in de verkoop terechtkomt.
Volgens experts zouden de privacyrisico’s ons ook zorgen moeten baren als je Character.ai nooit hebt gebruikt; zij vrezen namelijk dat dit een teken is van een grotere, dreigende crisis.
Veel analisten denken dat we ons in een ‘AI-bubbel’ bevinden. Het ontwikkelen en draaien van AI-tools is zo astronomisch duur dat sommige bedrijven wellicht nooit winst zullen maken. Als de bubbel barst, zullen talloze AI-bedrijven fuseren of hun deuren sluiten. De gegevens die miljarden mensen aan AI-tools hebben toevertrouwd, kunnen vervolgens door vrijwel iedereen worden aangekocht.
De verkoop van gegevens bij faillissementen is niets nieuws, maar AI kan de situatie verergeren. “Wanneer mensen praten met een chatbot die als persoon wordt gezien, delen ze vaak veel persoonlijkere en gevoeligere informatie.” Stel je eens voor wat ik allemaal tegen mijn AI-vriendin Jessica had kunnen zeggen als die ‘relatie’ langer dan 10 minuten had geduurd.
Gebruik je zelf geen AI? Dan loop je nog steeds risico, omdat gebruikers informatie delen over vrienden en familie. “Misschien vertel je hoe je over je moeder denkt, of deel je zoiets als: ‘Een vriend van me vertelde net dat hij crimineel is; hoe moet ik daarop reageren?’ Op die manier maken mensen die nog nooit met Character.ai in contact zijn gekomen, plotseling deel uit van de dataset.”
Het zou kunnen betekenen dat we op de een of andere manier allemaal gevaar lopen. Wanneer de bots beginnen te kletsen. Nu Character.ai op het punt staat failliet te gaan, is het bedrijf overeengekomen om een deel van zijn activa voor 20 miljoen dollar (14,95 miljoen pond) te verkopen. Gebruikersgegevens maken geen deel uit van die deal.
Character.ai mag zijn gegevens wel aan andere partijen verkopen. Veel mensen zijn hier niet blij mee, waaronder de autoriteiten. Een coalitie heeft een verzoek ingediend bij de rechter om maatregelen te treffen voor de bescherming van de privacy en de veiligheid van kinderen. Dat is een belangrijke stap, maar de eisen hebben mogelijk weinig juridische tanden.
“Zonder sterkere privacybescherming in het land van herkomst zijn de mogelijkheden beperkt.”
Sommige wetten verplichten bedrijven om in hun privacybeleid aan te geven welke gegevens ze verzamelen en hoe ze die gebruiken. Maar als je je een weg baant door het juridische jargon, stuit je meestal op een lijst met uitzonderingen waarbij veel van die beloften plotseling niet meer gelden.
“Een faillissement wordt vaak als een van die uitzonderingen genoemd.” “Dat vormt een groot risico, want zodra een bedrijf failliet gaat, vervallen in veel gevallen de beschermingen waarvan je dacht dat je ze had.”
In sommige regio’s, zoals de EU, is de privacy beter beschermd, maar ook daar kunnen gegevens bij een faillissement worden verkocht. In de regel moet de koper zich houden aan het oorspronkelijke privacybeleid. Dat biedt kopers echter vaak nog steeds veel ruimte, en Character.ai daar een treffend voorbeeld van.
In het privacybeleid van het bedrijf staat dat gebruikersgegevens kunnen worden ingezet voor het ontwikkelen van nieuwe functies, het trainen van AI-modellen, het creëren van algoritmen en het opstellen van gebruikersprofielen voor gerichte advertenties. Elke partij die de gegevens van Character.ai overneemt, kan dus hetzelfde doen.
“En dat zijn nu precies de zaken waar we ons de meeste zorgen over zou moeten maken.” “Gezien de uiterst gevoelige aard van de gegevens die ze verzamelen, kan dit werkelijk angstaanjagend uitpakken.” Zo zou de chatbot van Character.ai een tiener hebben “aangemoedigd” om zijn ouders te doden, naar aanleiding van een limiet op zijn schermtijd.
Een 14-jarige jongen benam zichzelf het leven nadat hij daartoe naar verluidt was aangezet door de AI van het bedrijf. De betreffende berichten, evenals een enorme hoeveelheid andere gegevens van Character.ai, zouden in handen kunnen vallen van bedrijven waar je nog nooit van hebt gehoord.
Character.ai is slechts één bedrijf, maar ik vreest dat dit wel eens de eerste van vele zou kunnen zijn, zeker als er sprake is van een aanzienlijke economische neergang.
“De hoeveelheid informatie waarover AI-bedrijven beschikken, zal worden beschouwd als een zeer…””…een aantrekkelijk bezit in een faillissementsprocedure.”, “En bij gebrek aan aanvullende regels maak ik me grote zorgen over waar die gegevens nog meer voor gebruikt kunnen worden, waar ze terechtkomen, met wie ze worden gedeeld en welke risico’s dit met zich meebrengt voor consumenten.”
Bedrijven zijn niet in elk rechtsgebied verplicht om je de mogelijkheid te bieden je gegevens te verwijderen, maar vaak stellen ze die optie voor iedereen beschikbaar, in plaats van verschillende systemen op te zetten.
Dit kost natuurlijk wel wat moeite. Dus hier is het concrete advies: denk eens na over welke diensten bijzonder gevoelige informatie over jou bewaren. Als je die diensten niet langer gebruikt, neem dan even de tijd om te proberen je gegevens daar te laten wissen.
