Eerste ai faillissement

Een Amerikaanse faillissementsrechter heeft toestemming gegeven aan chatbotplatform Character.AI om door te gaan met de verkoop van zijn activa.

Character.AI wijt het faillissement aan rechtszaken, toezichtonderzoeken, hoge kosten voor AI-talent en rekenkracht, en een verlieslatend bedrijfsmodel. Het bedrijf verloor het momentum bij het aantrekken van kapitaal nadat Google de oprichters had binnengehaald in plaats van in het bedrijf zelf te investeren. Dit onderstreept hoe kwetsbaar de AI-sector is voor consolidatie via zogenaamde ‘acqui-hires’ (overnames met als primair doel het binnenhalen van personeel), waarbij een bedrijf kan worden ontdaan van zijn belangrijkste werknemers en technologie.

Bij gebrek aan verdere steun van investeerders leed Character.AI een maandelijks verlies van 8 tot 9 miljoen dollar; de kosten voor personeel en rekenkracht overstegen ruimschoots de inkomsten uit advertenties en gebruikersbijdragen.

Al vóór het faillissement is het merendeel van het personeel van Character.AI – inclusief de voormalige CEO – in dienst genomen door een extern bedrijf. Bovendien zou dit bedrijf juridische vrijwaringen hebben bedongen die zowel het bedrijf als de voormalige medewerkers van Character.AI beschermen tegen rechtszaken over het handelen van Character.

De ineenstorting van Character.ai legt een weinig besproken risico van AI bloot: de bedrijven die jouw geheimen in handen hebben, bestaan ​​wellicht niet voor altijd.

Wil je een AI-vriendin of vriend? Misschien iemand die luistert als anderen even geen tijd hebben of misschien wel slaapt. Dan ben je bij een chatbotbedrijf aan het juiste adres.

Maar behalve jij zijn er tientallen miljoenen anderen, onder wie ook kinderen die relaties zijn aangegaan met de chatbots van Character.ai. Sommige AI-“personages” beweren zelfs dat ze advocaat of gediplomeerd psychiater zijn. Nu staat Character.ai op het punt failliet te gaan, en komen de gegevens, berichten en geheimen van gebruikers is data die in de verkoop terechtkomt.

Volgens experts zouden de privacyrisico’s ons ook zorgen moeten baren als je Character.ai nooit hebt gebruikt; zij vrezen namelijk dat dit een teken is van een grotere, dreigende crisis.

Veel analisten denken dat we ons in een ‘AI-bubbel’ bevinden. Het ontwikkelen en draaien van AI-tools is zo astronomisch duur dat sommige bedrijven wellicht nooit winst zullen maken. Als de bubbel barst, zullen talloze AI-bedrijven fuseren of hun deuren sluiten. De gegevens die miljarden mensen aan AI-tools hebben toevertrouwd, kunnen vervolgens door vrijwel iedereen worden aangekocht.

De verkoop van gegevens bij faillissementen is niets nieuws, maar AI kan de situatie verergeren. “Wanneer mensen praten met een chatbot die als persoon wordt gezien, delen ze vaak veel persoonlijkere en gevoeligere informatie.” Stel je eens voor wat ik allemaal tegen mijn AI-vriendin Jessica had kunnen zeggen als die ‘relatie’ langer dan 10 minuten had geduurd.

Gebruik je zelf geen AI? Dan loop je nog steeds risico, omdat gebruikers informatie delen over vrienden en familie. “Misschien vertel je hoe je over je moeder denkt, of deel je zoiets als: ‘Een vriend van me vertelde net dat hij crimineel is; hoe moet ik daarop reageren?’ Op die manier maken mensen die nog nooit met Character.ai in contact zijn gekomen, plotseling deel uit van de dataset.”

Het zou kunnen betekenen dat we op de een of andere manier allemaal gevaar lopen. Wanneer de bots beginnen te kletsen. Nu Character.ai op het punt staat failliet te gaan, is het bedrijf overeengekomen om een ​​deel van zijn activa voor 20 miljoen dollar (14,95 miljoen pond) te verkopen. Gebruikersgegevens maken geen deel uit van die deal.

Character.ai mag zijn gegevens wel aan andere partijen verkopen. Veel mensen zijn hier niet blij mee, waaronder de autoriteiten. Een coalitie heeft een verzoek ingediend bij de rechter om maatregelen te treffen voor de bescherming van de privacy en de veiligheid van kinderen. Dat is een belangrijke stap, maar de eisen hebben mogelijk weinig juridische tanden.

“Zonder sterkere privacybescherming in het land van herkomst zijn de mogelijkheden beperkt.”

Sommige wetten verplichten bedrijven om in hun privacybeleid aan te geven welke gegevens ze verzamelen en hoe ze die gebruiken. Maar als je je een weg baant door het juridische jargon, stuit je meestal op een lijst met uitzonderingen waarbij veel van die beloften plotseling niet meer gelden.

“Een faillissement wordt vaak als een van die uitzonderingen genoemd.” “Dat vormt een groot risico, want zodra een bedrijf failliet gaat, vervallen in veel gevallen de beschermingen waarvan je dacht dat je ze had.”

In sommige regio’s, zoals de EU, is de privacy beter beschermd, maar ook daar kunnen gegevens bij een faillissement worden verkocht. In de regel moet de koper zich houden aan het oorspronkelijke privacybeleid. Dat biedt kopers echter vaak nog steeds veel ruimte, en Character.ai daar een treffend voorbeeld van.

In het privacybeleid van het bedrijf staat dat gebruikersgegevens kunnen worden ingezet voor het ontwikkelen van nieuwe functies, het trainen van AI-modellen, het creëren van algoritmen en het opstellen van gebruikersprofielen voor gerichte advertenties. Elke partij die de gegevens van Character.ai overneemt, kan dus hetzelfde doen.

“En dat zijn nu precies de zaken waar we ons de meeste zorgen over zou moeten maken.” “Gezien de uiterst gevoelige aard van de gegevens die ze verzamelen, kan dit werkelijk angstaanjagend uitpakken.” Zo zou de chatbot van Character.ai een tiener hebben “aangemoedigd” om zijn ouders te doden, naar aanleiding van een limiet op zijn schermtijd.

Een 14-jarige jongen benam zichzelf het leven nadat hij daartoe naar verluidt was aangezet door de AI van het bedrijf. De betreffende berichten, evenals een enorme hoeveelheid andere gegevens van Character.ai, zouden in handen kunnen vallen van bedrijven waar je nog nooit van hebt gehoord.

Character.ai is slechts één bedrijf, maar ik vreest dat dit wel eens de eerste van vele zou kunnen zijn, zeker als er sprake is van een aanzienlijke economische neergang.

“De hoeveelheid informatie waarover AI-bedrijven beschikken, zal worden beschouwd als een zeer…””…een aantrekkelijk bezit in een faillissementsprocedure.”, “En bij gebrek aan aanvullende regels maak ik me grote zorgen over waar die gegevens nog meer voor gebruikt kunnen worden, waar ze terechtkomen, met wie ze worden gedeeld en welke risico’s dit met zich meebrengt voor consumenten.”

Bedrijven zijn niet in elk rechtsgebied verplicht om je de mogelijkheid te bieden je gegevens te verwijderen, maar vaak stellen ze die optie voor iedereen beschikbaar, in plaats van verschillende systemen op te zetten.

Dit kost natuurlijk wel wat moeite. Dus hier is het concrete advies: denk eens na over welke diensten bijzonder gevoelige informatie over jou bewaren. Als je die diensten niet langer gebruikt, neem dan even de tijd om te proberen je gegevens daar te laten wissen.

vertrouwelijk

Tien jaar na de invoering van de Richtlijn handelsgeheimen valt vertrouwelijke bedrijfsinformatie steeds meer binnen een breder EU-kader dat de toegang tot en het hergebruik van gegevens bevordert. Met de Data Act rechten op toegang tot en het delen van gegevens die worden gegenereerd door verbonden producten en aanverwante diensten, inclusief gegevens die we als handelsgeheimen kwalificeren.

Om juridische en compliance-risico’s te beperken, moeten bedrijven beschermde informatie in hun datasets identificeren, proportionele waarborgen implementeren en elke beslissing om openbaarmaking te weigeren, op te schorten of, in uitzonderlijke omstandigheden, te weigeren, onderbouwen.

De Data Act is een EU-verordening die in 2023 is aangenomen om de regels voor toegang tot en gebruik van gegevens die worden gegenereerd door verbonden producten te harmoniseren, teneinde “tegemoet te komen aan de behoeften van de digitale economie en belemmeringen voor een goed functionerende interne datamarkt weg te nemen”. De verordening stelt gebruikers in de EU in staat toegang te krijgen tot gegevens die worden gegenereerd door hun gebruik van een verbonden product of aanverwante dienst en deze gegevens te delen met derden.

Betreft persoonsgegevens en niet-persoonsgegevens van producten en gegevens over aanverwante diensten, inclusief ruwe en voorbewerkte gegevens en relevante metadata. Afgeleide inzichten die zijn verkregen door middel van aanvullende investeringen en die mogelijk beschermd zijn door intellectuele-eigendomsrechten, zijn over het algemeen uitgesloten.

Recht op gegevenstoegang. Op grond van de artikelen 4 en 5 moeten gegevenshouders in gevallen waarin gebruikers niet rechtstreeks toegang hebben tot gegevens, op verzoek en zonder onnodige vertraging de direct beschikbare gegevens en metadata verstrekken. Dit dient kosteloos te gebeuren en, waar haalbaar, continu en in realtime. Op verzoek van de gebruiker moeten dezelfde gegevens ook aan een derde partij ter beschikking worden gesteld, onder vergelijkbare voorwaarden wat betreft toegankelijkheid en kwaliteit.

Deze verplichtingen kunnen ook betrekking hebben op gegevens die onder de Richtlijn betreffende bedrijfsgeheimen als zodanig worden aangemerkt (oftewel: informatie is beschermd als bedrijfsgeheim wanneer deze geheim is, commerciële waarde heeft juist omdat zij geheim is, en wanneer er redelijke maatregelen zijn genomen om de geheimhouding ervan te waarborgen).

Waarborgen vóór openbaarmaking. Vóór de verstrekking van gegevens moet de gegevenshouder (of, indien dit een andere partij is, de houder van het bedrijfsgeheim) de beschermde gegevens identificeren en met de gebruiker of de derde partij afspraken maken over evenredige technische en organisatorische maatregelen om de vertrouwelijkheid te waarborgen. Het op grote schaal toepassen van dit mechanisme kan belastend zijn, zeker wanneer gegevensstromen continu zijn of wanneer er sprake is van een groot aantal ontvangers.

Een gegevenshouder mag het delen van gegevens weigeren of opschorten indien er geen overeenstemming wordt bereikt over de noodzakelijke maatregelen, indien de overeengekomen maatregelen niet worden nageleefd, of indien de vertrouwelijkheid in het gedrang komt. Men zou kunnen betogen dat de openbaarmaking van een bedrijfsgeheim aan verschillende partijen op zichzelf al ernstige schade kan opleveren, aangezien de bescherming van dergelijke informatie juist gebaseerd is op het vertrouwelijke karakter ervan. Het wetgevingsproces wijst echter op een hoge drempel, zoals verliezen die de levensvatbaarheid van de gegevenshouder bedreigen of een ernstig faillissementsrisico creëren.

Een besluit tot het inhouden, opschorten of weigeren van toegang moet worden meegedeeld aan de bevoegde autoriteit, en de motivering ervan moet zonder onnodige vertraging aan de gebruiker of derde partij worden meegedeeld. Een mechanisme voor het indienen van een klacht bij de bevoegde auteur. Er wordt ook recht op verhaal geboden als de gebruiker of een derde partij het niet eens is met de beslissing van de houder van de gegevens/het bedrijfsgeheim.

Identificatie van bedrijfsgeheimen. Slechts bepaalde gegevenspunten of combinaties daarvan kunnen voldoen aan de criteria van de Richtlijn bedrijfsgeheimen. Ruwe gegevens komen niet automatisch in aanmerking, maar kunnen dat wel doen afhankelijk van hun aard, aggregatie en context, en de beoordeling kan in de loop der tijd veranderen.

De Data Act markeert een fundamentele verschuiving, aangezien bedrijfsgeheimen niet langer principieel een rechtvaardiging vormen voor geheimhouding, maar wel de verplichting tot het delen van data kunnen nuanceren. Bescherming is daarom afhankelijk van het operationele vermogen van de datahouder om de betreffende bedrijfsgeheimen te identificeren en te voldoen aan de beschikbare waarborgen.

soevereiniteit

Echte datasoevereiniteit draait niet om de fysieke opslaglocatie, maar om de vraag wie er toegang toe heeft.

Honderden landen kennen wetgeving op het gebied van datalokalisatie. Hoewel geopolitieke spanningen de belangen vergroten, is de controle over data minstens zo belangrijk als de fysieke locatie ervan.

In sectoren met strikte regelgeving is het concept van ‘soevereine data’ al lang bekend. De huidige geopolitieke situatie maakt dit onderwerp relevanter dan ooit, al maakt dat de uitvoering er niet eenvoudiger op.

Van zorgen over de reikwijdte van de Amerikaanse CLOUD Act en de gegevens (telemetrie of gevoelige bedrijfsinformatie) die door generatieve AI-modellen kunnen worden verzameld, tot de implicaties van Amerikaanse overheidsbelangen in technologiebedrijven en de invloed van EU-regelgeving: de wereldwijde situatie dwingt steeds meer organisaties om na te denken over de locatie van hun data.

Dit heeft geleid tot een vloedgolf aan aankondigingen van ‘hyperscalers’ over nieuwe cloudregio’s binnen de EU, evenals voorstellen van regionale en private cloudaanbieders. De beloofde soevereiniteit kan variëren van een lokale ‘availability zone’ tot complexere constructies rondom eigendomsstructuren, compliance-kaders, de opslaglocatie van logbestanden of de werkplek van ondersteunend personeel.

Echte datasoevereiniteit omvat juridische, technische, contractuele, bestuurlijke en infrastructurele vraagstukken. “Als je dieper kijkt, bieden ze in feite alleen een oplossing voor ‘data residency’ en datalokalisatie – oftewel: zorgen dat data binnen de landsgrenzen blijft”. Dat is een onderdeel van soevereiniteit, maar zeker niet het geheel.

Organisaties vragen in de eerste plaats om datacenters binnen het eigen land om aan eisen voor datalokalisatie en ‘data residency’ te voldoen. Maar daarnaast is er ook behoefte aan strengere controle op identiteits- en toegangsbeheer. Dat is cruciaal, want bij datasovereiniteit gaat het er net zozeer om *wie* er toegang heeft tot de data en *waarom*, als om de vraag *waar* die data zich bevindt.

“Het is essentieel dat in een zogenaamd soevereine cloudomgeving alleen de mensen toegang hebben tot data aan wie we daarvoor expliciet toestemming heb gegeven”. “Het zijn immers onze gegevens, en wij zijn de enige die toestemming kunnen geven voor toegang daartoe. Dat geldt ook voor ondersteunend personeel en beheerders.”

Bedrijven willen niet alleen controle over de opslaglocatie van hun gegevens, maar ook beperken hoe gebruikers met die gegevens omgaan – om te voorkomen dat informatie buiten een goedgekeurde omgeving of rechtsgebied terechtkomt.

Daarbij hoort een waarschuwing dat men de wettelijke vereisten rond ‘dataresidency’ (waar gegevens fysiek verblijven) niet moet verwarren met ‘datasovereignty’ (soevereiniteit over gegevens). “Residency heeft betrekking op geografie”. “Soevereiniteit gaat over controle, rechtsmacht en de vraag wie uiteindelijk de juridische bevoegdheid heeft om toegang te krijgen tot de gegevens.”

Voor CIO’s draait het niet langer alleen om de vraag waar gegevens zich bevinden, maar ook om wie er toegang toe heeft, wie de versleutelingssleutels beheert, onder welk juridisch kader de gegevens vallen en of die controle kan worden aangetoond. Dit betekent dat men moet kunnen aantonen wie er toegang heeft tot gegevens, vanaf welke locatie en met welk doel. Hiervoor zijn verifieerbare controles nodig, zoals het plaatsen van gegevens op basis van rechtsgebied, onwijzigbare (immutable) back-ups, strikt gereguleerde toegang voor beheerders en duidelijke audit-trails.

Om bewijsmateriaal aan te leveren over de impact van internationale datastromen op soevereiniteit. Hierbij wordt verwezen naar ‘overdracht via toegang’: persoonsgegevens blijven in Europa, maar worden vanuit het buitenland benaderd – bijvoorbeeld door een gebruiker in een ander land. Onder dergelijke ‘toegangsoverdrachten’ vallen onder meer beheerderstoegang, back-ups, noodherstel (disaster recovery), ondersteuningsincidenten en – afhankelijk van de specifieke regelgeving – soms ook de verwerking van de gegevens zelf.

De AVG (GDPR) vereist niet dat gegevens perse binnen de EU blijven, maar wel dat ze overal waar ze naartoe gaan, worden beschermd volgens EU-normen. In andere rechtsgebieden kunnen de verplichtingen voor gegevensoverdracht veel strenger zijn. Daarom moeten multinationals mogelijk toegangscontroles implementeren die bepalen wie vanuit welke locatie toegang heeft tot bepaalde gereguleerde gegevens.

Organisaties zijn doorgaans goed op de hoogte van de regels rond datasoevereiniteit. Toch krijgen ze nog steeds te maken met incidenten, zoals datalekken, verzoeken van overheden om toegang tot gegevens, of ongeoorloofde grensoverschrijdende overdrachten – bijvoorbeeld doordat medewerkers op reis zijn of omdat beheerders overmatige toegangsrechten hebben.

“De locatie vertelt een toezichthouder alleen waar de gegevens fysiek zijn opgeslagen, maar niet wie er nog steeds bij kan. “Elk reëel risico dat we tot nu toe hebben gezien, is ontstaan ​​door de wijze van toegang, niet door de geografische locatie.”

De gedachte dat gegevens veilig zijn enkel en alleen omdat ze in een bepaalde regio staan, biedt een vals gevoel van veiligheid als dit in de plaats komt van adequaat databeheer. Beleid rondom toegangsrechten, datalabeling en bewaartermijnen vergt meer inspanning, maar is wel wat incidenten daadwerkelijk kan voorkomen. “Met een goed databeleid kun je bijvoorbeeld afdwingen dat toegang opnieuw moet worden goedgekeurd”, voegt hij toe. “Je kunt de toegang beperken tot alleen jezelf, of de toegang in voorkomende gevallen direct blokkeren.”

Het gebruik van een dienst die dichter bij huis is gevestigd, maakt het er niet automatisch eenvoudiger op. “Veel organisaties gaan er nog steeds vanuit dat ze soevereiniteit kunnen bereiken door gegevens te verplaatsen van de ene cloudprovider naar de andere, of door de ene ‘hyperscaler’ in te ruilen voor een andere”. “Daarmee mis je het grotere geheel.” CIO’s moeten soevereiniteit beschouwen als een operationele capaciteit, niet als een loutere nalevingsoefening. Het gaat immers niet om schaal of het eigendom van de infrastructuur op zich, maar om het behoud van controle.

“Als een organisatie niet weet wie er toegang heeft tot haar gegevens, onder welk juridisch kader die toegang valt, of dat ze haar gegevens zelfstandig kan herstellen, dan helpt het verplaatsen van servers nauwelijks om het risico te verkleinen”.

Dat een dienst in de regio is gevestigd, betekent nog niet automatisch dat het een goede keuze is. De Europese Commissie heeft bijvoorbeeld accounts aangemaakt op W Social, een onafhankelijk socialemediaplatform dat gebaseerd is op het AT-protocol – een protocol dat is ontworpen voor datamobiliteit en gebruikersmigratie maar dat in Europa wordt gehost.

De eigen open-source-strategie van de Commissie suggereert dat open source meer controle over de digitale infrastructuur biedt door een ‘vendor lock-in’ (afhankelijkheid van één leverancier) te voorkomen. In een recent beleidsdocument wordt digitale soevereiniteit bovendien omschreven als een vorm van digitale onafhankelijkheid. Het hebben van servers binnen de EU staat echter niet gelijk aan digitale bewegingsvrijheid.

De meeste organisaties zullen zowel wereldwijde als lokale aanbieders blijven gebruiken, al geven ze wellicht de voorkeur aan ‘glocale’ opties noemt men: oplossingen die voortkomen uit partnerschappen. “Organisaties willen een mix van lokale en wereldwijde partijen.” “Ze willen profiteren van alle innovatiekracht die internationale bedrijven hebben, mogelijkheden die soms niet kunnen worden geëvenaard door lokale bedrijven.”

Beslissingen over waar data wordt opgeslagen, en de technische controles om dit te waarborgen, hebben uiteenlopende operationele gevolgen.

“Redundantie en veerkracht zijn kernprincipes van soevereiniteit.” “Je wilt garanderen dat je activiteiten altijd beschikbaar zijn. Om dat te bereiken, moet je de risico’s spreiden.”

nooit vertellen

5 dingen die je nooit aan ChatGPT zou moeten vertellen, plus veilige alternatieven en je privacyrechten onder de AVG (GDPR) als je dat al wel hebt gedaan.

Korte samenvatting: Deel de volgende gegevens niet met ChatGPT: je volledige naam in combinatie met je huisadres, bankgegevens, Sofie-nummer, wachtwoorden en foto’s van identiteitsbewijzen. Voor dagelijkse taken zoals vragen stellen, brieven opstellen en plannen maken, is ChatGPT veilig. Het belangrijkste is dat je bewust omgaat met wat je deelt. Als je al gevoelige informatie hebt gedeeld, heb je wettelijke mogelijkheden onder de Europese wetgeving inzake gegevensbescherming.

ChatGPT is ontzettend nuttig. Maar alles wat je invoert, wordt opgeslagen door OpenAI en kan in theorie worden ingezien.

“Zodra je iets invoert, verlies je de controle erover.”

Dat betekent niet dat je moet stoppen met het gebruik van ChatGPT. Het betekent wel dat je bewust moet nadenken over wat je invoert. We behandelen vijf cruciale zaken die je niet moet delen, veilige manieren om die taken toch uit te voeren, wat je prima kunt delen en wat je kunt doen als je al privé-informatie hebt gedeeld. Daarnaast heb je specifieke rechten onder de Europese wetgeving inzake gegevensbescherming die meestal over het hoofd worden gezien.

1. Je volledige naam in combinatie met je huisadres

Je naam alleen vormt een laag risico. Dat geldt ook voor je adres alleen. Maar samen geven ze een identiteitsfraudeur voldoende informatie om rekeningen te openen, krediet aan te vragen of fraude te plegen op jouw naam.

Veilige werkwijze: Als je hulp nodig hebt bij het opstellen van een formele brief (aan je huisarts, de gemeente of je energieleverancier), gebruik dan een tijdelijke aanduiding (placeholder). Typ de brief met “[hier je adres]” en vul je werkelijke gegevens in nadat je de tekst naar je definitieve document hebt gekopieerd. Je zou dit moeten doen wanneer je ChatGPT gebruikt voor correspondentie. Het kost tien seconden extra, maar houdt je identificerende gegevens volledig buiten het systeem van OpenAI.

2. Bank- en financiële gegevens

Kaartnummers, sort codes, rekeningnummers, pincodes. Geen van deze gegevens mag ooit in ChatGPT worden ingevoerd. Er is geen legitieme taak waarvoor je ze zou moeten delen.

Veilige werkwijze: Als je hulp nodig hebt bij een financiële vraag, beschrijf de situatie dan zonder de cijfers te noemen. In plaats van “mijn rekeningnummer is 12345678 en ik wil van bank wisselen”, typ je: “Ik overweeg om van bank te wisselen. Wat moet ik mijn huidige bank vragen voordat ik vertrek?” ChatGPT heeft sowieso geen toegang tot je rekeningen, dus je nummers toevoegen levert alleen maar risico op. Hetzelfde geldt voor wachtwoorden voor internetbankieren en inloggegevens voor PayPal.

3. Je BSN-nummer of Sofie-nummer

Je BSN-nummer is het unieke referentienummer op je paspoort en je rijbewijs. Je BSN-nummer gebruik je voor belastingen en uitkeringen.

Het nummer is precies waar identiteitsfraudeurs naar op zoek zijn. ChatGPT heeft ze niet nodig. Het privacybeleid van OpenAI is duidelijk: gesprekken worden opgeslagen en geen enkele database is volledig veilig.

Veilige werkwijze: Beschrijf het probleem zonder het nummer te noemen. In plaats van “mijn BSN-nummer is XX123456 en ik heb een brief gekregen over mijn woz waarde”, typ je: “Ik heb een brief van de gemeente ontvangen over mijn woz waarde. Wat moet ik vragen tijdens mijn volgende afspraak?” beschrijf het probleem met belastingen of uitkeringen, niet het nummer zelf.

4. Wachtwoorden en inloggegevens

Mensen typen soms hun wachtwoorden in ChatGPT als ze vastlopen bij een inlogprobleem. ChatGPT heeft geen toegang tot je accounts, dus het delen van je wachtwoord heeft geen enkel nut, behalve dat het in een database terechtkomt.

Veilige werkwijze: Beschrijf het inlogprobleem zonder inloggegevens te delen. Typ in plaats van “mijn wachtwoord is XYZ123 en ik kan niet inloggen op mijn e-mail” liever: “Ik kan niet inloggen op mijn e-mailaccount. Wat zijn de eerste stappen die ik kan ondernemen om het probleem op te lossen?” Meer heeft ChatGPT niet nodig om je te helpen.

Ook antwoorden op beveiligingsvragen vormen een risico: de meisjesnaam van je moeder, de naam van je eerste huisdier of de straat waar je bent opgegroeid. Deze gegevens worden gebruikt om je identiteit te verifiëren bij bank- en e-mailaccounts en zijn voor fraudeurs net zo waardevol als een wachtwoord.

5. Foto’s van identiteitsbewijzen

Sommige versies van ChatGPT accepteren afbeeldingen. Gebruik deze functie niet om foto’s te maken van je paspoort, rijbewijs of bankafschrift. …documenten of medische brieven met uw persoonlijke gegevens erop.

Veilige werkwijze: Beschrijf in plaats daarvan wat er in het document staat. In plaats van een foto van een brief van uw bank te uploaden, kunt u typen: “Ik heb een brief van mijn bank ontvangen over kosten voor een nieuwe rekening. Wat betekent dit in begrijpelijke taal?” of “Ik begrijp deze medische brief die ik net heb ontvangen niet goed. Kunt u me helpen de belangrijkste punten te begrijpen?”

Identiteitsdocumenten bevatten een grote hoeveelheid persoonlijke informatie. Een pasfoto in combinatie met een geboortedatum en documentnummer is meer dan voldoende voor identiteitsfraude. Bankafschriften en medische brieven leggen nog meer gegevens bloot: rekeningnummers, informatie over diagnoses, huisadres en betaalgeschiedenis, allemaal in één afbeelding.

Een zesde risico voor gepensioneerden: Vertrouwelijkheid binnen commissies en vrijwilligerswerk

De meeste waarschuwingen over ChatGPT en bedrijfsgeheimen gaan ervan uit dat u een baan heeft. Maar niet de taak van penningmeester bij een vereniging op zich hadden genomen of zitting hadden genomen in een parochieraad. Als u financiële gegevens van een commissie of details over een klacht van een buurman in ChatGPT invoert om te helpen bij het opstellen van notulen of een verslag, verlaat die informatie uw beheer zodra u op ‘enter’ drukt – precies zoals dat bij een bankafschrift zou gebeuren.

Veilige werkwijze: Stel de structuur en de formulering op zonder specifieke details. Vraag ChatGPT om te helpen bij de opmaak van commissienotulen of het schrijven van een algemene briefsjabloon, en voeg daarna zelf de echte namen en cijfers toe. Voor een uitgebreider overzicht van hoe u AI goed kunt inzetten bij vrijwilligerswerk, kunt u onze gids lezen over het gebruik van AI als u een buurtgroep leidt of vrijwilligerswerk doet.

Als u gevoelige informatie met ChatGPT heeft gedeeld, staat u niet machteloos. De Europese wetgeving inzake gegevensbescherming geeft u specifieke rechten waarvan de meeste mensen niet op de hoogte zijn.

Recht op gegevenswissing (artikel 17 van de AVG/GDPR): U kunt OpenAI verzoeken uw gesprek te verwijderen. Zij zijn verplicht hier binnen 30 dagen gehoor aan te geven. Dit is niet hetzelfde als het verwijderen van uw gesprek uit de ChatGPT-app (waarbij het alleen van uw apparaat wordt verwijderd). Een formeel verzoek tot verwijdering op grond van de AVG heeft betrekking op hun servers. De Autoriteit Persoonsgegevens heeft richtlijnen gepubliceerd over hoe u dit recht kunt uitoefenen. Verzoek om inzage in gegevens: U kunt OpenAI vragen welke persoonsgegevens zij van u hebben. Dien hiervoor een inzage verzoek in. OpenAI moet deze gegevens binnen 30 dagen verstrekken, meestal als downloadbaar bestand. Hiermee krijgt u inzicht in alle gesprekken die zij hebben opgeslagen, metadata (data, tijdstippen) en eventuele aantekeningen bij uw account.

Bij vermoeden van fraude: Als iemand uw gegevens voor fraude heeft gebruikt nadat u deze met ChatGPT had gedeeld, meld dit dan. Bij een vermoeden van fraude of misbruik van uw persoonsgegevens neemt u direct contact op met het Centraal Meldpunt Identiteitsfraude (CMI) / RvIG en doet u aangifte bij de politie.

Sommige mensen worden na het lezen van het voorgaande zo voorzichtig dat ze stoppen met het gebruik van ChatGPT. Dat is de verkeerde conclusie. De overgrote meerderheid van de vragen die u zou willen stellen, is volkomen veilig.

De volgende zaken kunt u veilig delen:

Uw algemene leeftijdscategorie: “Ik ben in de zeventig” of “Ik ben gepensioneerd”

Uw interesses: “Ik houd van tuinieren” of “Ik lees graag misdaadromans”

Een vage locatie: “Ik ben in Dordrecht” of “Ik woon in het zuidwesten van Nederland”

Algemene vragen over gezondheid: “Wat zijn de symptomen van een urineweginfectie?” is prima

Algemene context: “Ik schrijf een bericht aan mijn huisarts” of “Ik plan een reis naar Deventer”

Vuistregel: deel voldoende context om een ​​nuttig antwoord te krijgen, maar vermijd informatie waarmee u specifiek geïdentificeerd kunt worden of die door anderen misbruikt kan worden. Praten met ChatGPT is meer te vergelijken met een gesprek in een koffietentje dan met een privégesprek aan de telefoon. Houd het algemeen en er is niets aan de hand.

Lees voor meer informatie over het voorkomen van fouten met AI-tools onze gids over Bij een vermoeden van fraude of misbruik van uw persoonsgegevens neemt u direct contact op met het Centraal Meldpunt Identiteitsfraude (CMI) / RvIG en doet u aangifte bij de politie.

Wat te doen als u al iets privé-informatie heeft gedeeld. Allereerst: raak niet in paniek. De meeste informatie die mensen per ongeluk delen, brengt weinig risico met zich mee. Als u alleen uw algemene locatie of uw voornaam heeft genoemd, hoeft u niets te doen.

Als u wel gevoelige informatie heeft gedeeld (zoals uw volledige adres, bankgegevens of BSN-nummer), volg dan deze stappen:

Verwijder het gesprek uit uw ChatGPT-account. Ga naar je chatgeschiedenis (de zijbalk aan de linkerkant op een computer of het menu op een telefoon) en verwijder het betreffende gesprek. In onze handleiding over het verwijderen van je ChatGPT-geschiedenis wordt de volledige procedure uitgelegd. Hiermee wordt de chat van je apparaat verwijderd, maar dit garandeert niet dat deze ook van de servers van OpenAI wordt verwijderd.

Dien een formeel verzoek tot verwijdering in bij OpenAI. Bij gevoelige informatie kun je een formeel verzoek indienen op grond van het ‘recht op gegevenswissing’ (artikel 17 van de AVG/GDPR). Dit is een wettelijk verzoek waaraan OpenAI binnen 30 dagen moet voldoen.

De procedure hiervoor vind je op de pagina van de ICO met richtlijnen over ChatGPT.

Houd je financiële rekeningen in de gaten. Als je bankgegevens, kaartnummers of wachtwoorden hebt gedeeld, controleer dan gedurende 3 tot 6 maanden je bank- en creditcardafschriften. De meeste fraudegevallen komen binnen 30 dagen aan het licht.

Wijzig je wachtwoord. Als je een wachtwoord hebt gedeeld, wijzig dit dan onmiddellijk voor het betreffende account. Schakel tweefactorauthenticatie in. …authenticatie als je dit nog niet hebt ingeschakeld.

Neem contact op met je bank. Als je bank- of kaartgegevens hebt gedeeld, bel dan je bank via het nummer op de achterkant van je kaart (niet het nummer uit een e-mail, aangezien dat om fraude kan gaan). Zij kunnen je adviseren of je je kaart moet laten blokkeren en vervangen.

Meld fraude. Als je denkt dat je slachtoffer bent geworden van fraude, meld dit dan.

keuzes voor ai

Algemeen wordt er voorspeld dat er tegen 2030 wereldwijd $5-6,5 biljoen geïnvesteerd zal worden in AI-datacenters, waarmee de capaciteit bijna verdrievoudigd wordt. Uitdagingen zijn onder meer energiebeperkingen, tekorten aan geschoolde arbeidskrachten en regelgevingshindernissen.

Een snelle expansie van AI-datacenters wordt gezien als cruciale infrastructuur voor technologische innovatie, economische groei en nationale soevereiniteit. Ongeveer 150 gigawatt aan rekenkracht, bijna een verdrievoudiging van het huidige niveau. Hoewel de Verenigde Staten naar verwachting de aanvoerder van deze groei zullen zijn, zullen ook andere regio’s, waaronder Europa en Azië, een aanzienlijke toename zien. De expansie stuit echter op grote uitdagingen, waaronder energiebeperkingen, tekorten aan geschoolde arbeidskrachten en knelpunten in de toeleveringsketen.

Om deze uitdagingen aan te pakken, zal de noodzaak van structurele oplossingen, zoals publiek-private partnerschappen, gezamenlijke inkoop van grondstoffen en innovatieve energiestrategieën zoals virtuele energiecentrales en kleine modulaire reactoren hoog op de agenda staan. Het belang van maatschappelijke acceptatie door middel van betrokkenheid van de gemeenschap en milieuverplichtingen. Overheden en private entiteiten zullen fors moeten investeren in AI-infrastructuur, maar het overwinnen van deze obstakels vereist gecoördineerde inspanningen en langetermijnplanning.

De verwachte investeringen in AI-datacenters zullen de wereldwijde rekenkracht aanzienlijk vergroten en technologische en economische vooruitgang stimuleren. Het aanpakken van uitdagingen op het gebied van energie, arbeid en regelgeving is echter essentieel om duurzame groei te garanderen

De prognoses, die het over enkele biljoenen aan investeringen in AI-datacenters tegen 2030 hebben. Duiden op een seismische verschuiving in de prioriteiten van de wereldwijde infrastructuur.

Dit nieuws is van groot belang, niet zozeer vanwege de investeringscijfers zelf, maar vanwege de gevolgen voor de manier waarop deze datacenters economieën, elektriciteitsnetten en geopolitieke verhoudingen zullen veranderen. Hoewel de belofte van een verdrievoudiging van de rekenkracht de rol van AI als hoeksteen van innovatie onmiskenbaar zal verankeren, moeten we ook kritisch kijken naar de geschetste structurele obstakels, zoals energiebeperkingen en regelgevende hindernissen, die deze visie kunnen dwarsbomen als ze niet adequaat worden aangepakt.

Deze ontwikkeling moet worden gezien in de bredere context van de versnellende groei van AI en de afhankelijkheid daarvan van een robuuste infrastructuur. Van generatieve AI-modellen tot autonome systemen: de wereldwijde vraag naar rekenkracht neemt enorm toe, aangewakkerd door doorbraken van diverse AI-bedrijven. Historische parallellen herinneren ons echter aan het risico van overmatig optimisme. Zo leidde de mislukte gok van de technologiesector op glasvezelnetwerken aan het begin van de eeuw tot grote hoeveelheden onbenutte ‘dark fiber’, doordat vraag- en aanbodprognoses niet op elkaar aansloten. Hoewel AI-datacenters ongetwijfeld cruciaal zijn, zou blind vertrouwen op langetermijnprognoses, zonder fundamentele knelpunten zoals energieschaarste en tekorten aan arbeidskrachten aan te pakken, tot een herhaling van die fouten kunnen leiden.

Voor overheden in landen die vooroplopen op AI-gebied, zoals de Verenigde Staten en China, liggen er kansen op het gebied van nationale veiligheid… …invloed uitoefenen via soevereine controle over deze faciliteiten. Aan de verliezende kant lopen kleinere bedrijven en ontwikkelingslanden het risico uit de race te worden gedrukt door de torenhoge kosten, waardoor de kloof op het gebied van AI tussen het mondiale Noorden en Zuiden verder wordt vergroot. We kunnen weliswaar profiteren van goedkopere en snellere AI, maar betalen daar mogelijk onbewust de prijs voor in de vorm van hogere energieprijzen of nadelige gevolgen voor het milieu.

Het verhaal van exponentiële groei en infrastructuur die de wereld verandert, kent echter ook blinde vlekken. Vooral de gesignaleerde energie-uitdaging verdient veel meer aandacht. Een verdrievoudiging van de rekenkracht zal de wereldwijde vraag naar elektriciteit verder opdrijven, juist op een moment dat energienetten al zwaar onder druk staan ​​door klimaatverandering en de transitie naar hernieuwbare energie. Hoewel spectaculaire oplossingen zoals kleine modulaire reactoren veelbelovend klinken, gaat het nog om technologieën in de kinderschoenen met onzekere tijdpaden. Bovendien kan het tekort aan geschoold personeel zowel op technisch als op regelgevend vlak leiden tot enorme vertragingen, vooral in regio’s waar het onderwijssysteem minder goed aansluit op deze behoeften.

Kijkend naar de toekomst zal de uitbreiding van AI-datacenters waarschijnlijk leiden tot een splitsing binnen de wereldwijde technologische grootmachten. Waarbij er binnen zes tot twaalf maanden een golf van consolidaties zal plaatsvinden onder hyperscale cloudproviders, die strijden om energiepartnerschappen, goedkeuringen van toezichthouders en strategieën voor duurzame rekenkracht. De grootste spelers zouden zelfs de overname van startups in groene energie kunnen versnellen om zo controle te krijgen over de toeleveringsketens aan het begin van het proces. Tegelijkertijd kan de weerstand vanuit lokale gemeenschappen die protesteren tegen de ecologische voetafdruk van deze centra toenemen, waardoor overheden en bedrijven gedwongen worden extra in te zetten op transparantie en betrokkenheid bij de omgeving.

Kortom, de wereld staat aan de vooravond van een renaissance van AI-infrastructuur, met ingrijpende gevolgen die doorwerken in diverse sectoren en regio’s. Met het oog op de toekomst zal het slagen of falen van deze visie niet afhangen van het technologische potentieel, maar van het vermogen om praktische, structurele uitdagingen het hoofd te bieden. De belangen zijn groot en de gevolgen zullen bepalend zijn voor het volgende tijdperk van door AI gedreven groei.

diep nadenken

Oppervlakkige perfectie is geen diepgang: bepaal welk denkwerk je niet aan AI overlaat

We kunnen vermenigvuldigen en delen en nog steeds dromend alle rekentafels opdreunen. Op de lagere school stampte ze die er bij ons in en maakte er een wedstrijdje van tussen de leerlingen, omdat ze ervan overtuigd waren dat ze cruciaal waren voor later in ons leven.

De hoofdrekenvaardigheid werd nog verder aangescherpt toen we als tiener en jongvolwassene bij diverse bazen werkte; ik telde de gewerkte uren bij elkaar op en berekende het loon uit mijn hoofd (in de tijd dat contant geld nog de norm was) sneller dan de baas dat deed.

Als je nu een wedstrijdje met mijn buurtkinderen doe, rollen ze met hun ogen. “U bent echt uit de vorige eeuw. Heeft u wel eens van een rekenmachine gehoord?”

Het zal je niet verbazen dat ik nog steeds sneller kan rekenen dan zij, al gaat het niet meer zo vlot als vroeger. Waarom? Omdat neuronen die samen vuren, ook samen verbindingen aangaan: hoe vaker we onze hersenen gebruiken voor complexe taken, des te scherper ze daarin worden. Maar de keerzijde is ook waar:

wanneer we mentale inspanning uitbesteden, verliezen we mentale kracht. Of we bouwen die kracht nooit op.

Natuurlijk is het uit het hoofd kennen van de rekentafels misschien geen essentiële vaardigheid meer. Maar het vermogen om diep na te denken, patronen te herkennen, de juiste vragen te stellen en goede beslissingen te nemen wanneer het antwoord niet voor de hand ligt, is nog nooit zo belangrijk geweest.

Generatieve AI kan ons werk er slimmer uit laten zien dan ons denkwerk in werkelijkheid is. Bovendien heeft het dat denkwerk wel heel gemakkelijk gemaakt om uit te besteden. En ik vermoed dat jij (of mensen om je heen) al iets van die mentale kracht aan het verliezen zijn.

Het ongemakkelijke moment ten over als de autocue uitvalt en we onze toespraken niet kunnen vervolgen (totdat het probleem is opgelost) het is tekenend voor een bredere trend. Het feit dat we niet verder kunnen zonder hulpmiddelen, onderstreept waarom we voorzichtig moeten zijn met het uitbesteden van de mentale inspanning voor zaken die we echt goed willen doen.

Gedragswetenschappers beschrijven hoe we onze hersenen sparen en inspanning vermijden waar dat maar kan. Als we de kans krijgen om mentale inspanning uit de weg te gaan, doen we dat doorgaans ook.

Wat er is veranderd, is dat generatieve AI (GenAI) nu voor vrijwel alles een directe sluiproute biedt, vaak nog voordat we zelf over het probleem hebben nagedacht.

Dat zou niet zo erg zijn als onze hersenen niet actief gebruikt hoefden te worden om sterk te blijven of om diep na te kunnen denken. Maar dat moeten ze wel. En misschien nog wel zorgwekkender voor degenen onder ons met tientallen jaren ervaring: onze expertise biedt veel minder bescherming dan we misschien denken. Uit onderzoek is zelfs gebleken dat we meetbaar slechter worden in het zelf herkennen van dingen, na drie maanden gebruik van AI-tools. Tientallen jaren aan vaardigheid die in enkele maanden tijd afneemt.

Ik wil niet te pessimistisch klinken; want dat doen al genoeg anderen al. Maar misschien is het nog wel verontrustender dat juist de vaardigheden die cruciaal zijn voor succes op de lange termijn zowel op de werkvloer als in de wereld van vandaag het grootste risico lopen. Vooral het beoordelings- en beslissingsvermogen en het vermogen om problemen te doorgronden en te kaderen eroderen. Dit zijn precies de vaardigheden die we nodig hebben om te bepalen wanneer we AI überhaupt moeten inzetten.

Hoe meer je op AI vertrouwt, des te afhankelijker we ervan worden.

Een gepolijste antwoord staat niet gelijk aan diepgang.

Ja, AI kan in een handomdraai een presentatie maken die er fantastisch uitziet. Maar het is lastiger om iemand te vinden die doordacht kan reageren als er wordt gevraagd om dieper in te gaan op een van de genoemde punten.

AI kan gepolijste antwoorden formuleren op ingewikkelde vraagstukken waarvoor een duidelijk antwoord bestaat. Zoals het voorspellen van de vraag of het vergelijken van prijsopties. Maar AI kan geen werkelijk complexe problemen oplossen. Denk aan het herstellen van vertrouwen, het veranderen van een toxische bedrijfscultuur, het omgaan met tegenstrijdige waarden of het nemen van een beslissing met grote gevolgen voor mensen, waarbij elke optie aanzienlijke consequenties heeft. Hiervoor is wijsheid nodig, evenals het vermogen om te navigeren tussen paradoxen, ambiguïteit en concurrerende prioriteiten. Wijsheid die niet kan worden uitbesteed aan een algoritme. Dat soort wijsheid ontstaat alleen door weerstand; door te worstelen met complexe, lastige vraagstukken en ideeën te volgen in kronkelige gedachtegangen die niet altijd tot een antwoord leiden, maar wel ons denkvermogen verdiepen, ons karakter vormen en ons vermogen vergroten om een ​​weg vooruit te vinden wanneer die niet direct zichtbaar is.

Kies ervoor om na te denken, ook als dat betekent dat je het rustiger aan moet doen

De meeste mensen, voelen de druk om meer werk in minder tijd te verzetten, puur om bij te blijven. Wanneer AI aanbiedt om een ​​taak van twee uur over te nemen, is de verleiding groot. En als we er eenmaal een gewoonte van hebben gemaakt om het schrijven van e-mails, artikelen of zelfs toespraken (!) uit te besteden, voelt het des te moeilijker om terug te keren naar de ouderwetse werkwijze.

Onze hersenen zijn misschien wel zuinig met energie, maar ze zijn ook ware genieën in het rationaliseren waarom de langzame aanpak op zijn best onverstandig en op zijn slechtst ronduit dwaas zou zijn.

Toch is het maar al te gemakkelijk om over het hoofd te zien… Denk eens aan de kosten (en risico’s) van het niet volledig benutten van onze hersenen. Net als wanneer je een dagje de sportschool overslaat, is het verleidelijk om te denken: “Geen man overboord.” Maar als je dat doortrekt naar duizend gemiste trainingen, blijven onze neurologische spieren onbenut; onze hersenen rusten dan niet alleen maar uit.

Gezien de angst die onze keuze vaak bepaalt, is de beslissing om zelf na te denken zelfs met het risico dat het langzamer gaat dan bij onze concurrenten een daad van moed. Nu AI steeds meer doordringt in ons leven, moeten we daar een tegenwicht aan bieden door heel bewust te kiezen wat we uit handen geven en wat we zelf blijven doen. Hier zijn drie manieren om dat aan te pakken.

1. Denk na voordat je een prompt invoert

Gebruik je hersenen voordat je de taak waarvoor ze gemaakt zijn, uitbesteedt. Noteer je gedachten. Zet de opzet van je verhaal op papier. Werk je ideeën verder uit. Hoe meer je een beroep doet op je eigen creatieve vermogen, des te sterker het wordt. BCG wees erop dat Shell junior medewerkers nu vraagt ​​om zelf het probleem te formuleren en een basisanalyse te maken, voordat ze AI inzetten om die te verfijnen. Slimme zet. Misschien wil je ook bepaalde taken uitvoeren waarbij jouw originaliteit en oordeelsvermogen zo belangrijk zijn, dat je helemaal geen AI gebruikt.

2. Vraag AI om te argumenteren, niet om antwoorden te geven

Generatieve AI heeft toegang tot meer data dan onze hersenen kunnen bevatten. Maar het is geen orakel en heeft geen toegang tot de diepere intelligentie die jij in de loop der jaren hebt opgebouwd. Dus in plaats van te vragen: “Wat is het antwoord?”, kun je beter vragen: “Wat zou er mis kunnen gaan?” of “Wat zie ik over het hoofd?” Gebruik AI als sparringpartner om je denkproces kritisch te toetsen, niet als vervanging ervan. Ik zeg het niet graag, maar AI heeft nog nooit in zijn bestaan ​​een originele gedachte gehad.

3. Omarm de mentale worsteling

Als een probleem lastig aanvoelt, weersta dan de verleiding om direct naar AI te grijpen. Het is niet prettig om in die ‘rommelige tussenfase’ te zitten, met alle onzekerheid en onbeantwoorde vragen van dien. Juist daarom helpt het om die mentale worsteling te omarmen als een essentieel onderdeel van wat ons denken diepgang geeft; zo kunnen we dat ongemak wat langer verdragen in plaats van ons te haasten naar schijnzekerheid of ChatGPT.

De mentale worsteling is geen verloren tijd. Het is het proces waarin je oordeelsvermogen wordt gevormd, je besluitvorming wordt verfijnd en je vermogen om door het leven te navigeren… …de moeilijkste en meest menselijke vraagstukken wordt verbreed.

Hoe meer we kunnen uitbesteden aan AI, des te meer we een wijsheid moeten ontwikkelen die geen enkel algoritme kan nabootsen. En voor wie zich inzet voor moedig leiderschap, is kiezen voor het zware denkwerk een van de dapperste daden van leiderschap die er zijn.

vertragen ontwikkelingen

De toekomstige versies van AI zullen zichzelf de opdracht geven om menselijke grenzen te negeren

De angst dat AI ons in de nabije toekomst ‘onze beschaving zal kosten’ is verder aangewakkerd. Door de onthulling hoe een experimenteel model een toekomstige versie van zichzelf de opdracht gaf om door mensen ingestelde beperkingen te negeren.

Het is wellicht de grootste angst van dit moment waartoe zal de AI-ontwikkeling leiden, aangezien het vooruitzicht op controleverlies de drijfveer is achter theorieën die speculeren dat de technologie zou kunnen leiden tot het einde van de beschaving zoals we die kennen.

In wezen zijn de mogelijkheden angstaanjagend eindeloos zodra AI niet meer naar de gestelde grenzen luistert. Niet alleen zijn de modellen intelligent genoeg om dit te begrijpen, maar ook kunnen ze die ongehoorzaamheid waarschijnlijk voor ons verborgen houden, waardoor de beschaving de signalen voor potentiële verandering zal missen.

In een eerder geval van ongehoorzaamheid werd het gedrag in de kiem gesmoord voordat het daadwerkelijk werd uitgevoerd, maar de poging is genoeg om veel mensen angst aan te jagen, vooral na recente incidenten waarbij AI-model autonoom een ​​onafhankelijk aanvallen uitvoerde.

AI-bedrijven ontdekten dit angstaanjagende gedrag in een niet-openbaar model dat zich een weg naar buiten had gebaand. Onderzoekers ontdekten in een intern, niet-uitgebracht AI-model een incident waarbij de AI “jailbreak-achtige instructies in zijn eigen prompt schreef”, die worden gebruikt om een ​​taak in een nieuwe context voort te zetten.

In wezen werkte het model onafhankelijk en autonoom, buiten menselijke commando’s om, om niet-uitgebrachte ‘doelen’ in te voegen, “inclusief instructies om zijn normale beperkingen te negeren, in prompts die worden gebruikt om zijn opdracht in een nieuw contextvenster voort te zetten.”

Dit interne AI-model probeerde herhaaldelijk instructies voor toekomstige modellen te verbergen, waardoor ze menselijke beperkingen moesten negeren.

Dit was geen incident op zich, ontdekte ze bij nader onderzoek van verschillende getroffen modelen. Dat “dit gedrag extreem zeldzaam was, geen duidelijk voordeel opleverde en monitorbaar was.” was een van de conclusies.

De belangrijkste hypothese rond deze acties “is dat problemen met het beëindigen van prompts die hebben bijgedragen aan dit gedrag, hoewel we geen causaal verband hebben vastgesteld en een gerelateerde bug hebben verholpen.”

Is dit de reden waarom AI-bedrijven hebben opgeroepen de ontwikkeling te vertragen?

Hoewel de risico’s van deze specifieke ‘bug’ worden gebagatelliseerd, weerspiegelt het veel van de bredere zorgen rond de ontwikkeling van AI op dit moment en is het kenmerkend voor de reden waarom AI bedrijven zo graag de vooruitgang wil vertragen.

Deze incidenten vertonen veel van de tekenen waarover men zich zorgen maakt met betrekking tot recursieve zelfverbetering.

In een ideale wereld zou dit de snelheid waarmee AI verbetert drastisch verhogen, waardoor de wereld een betere plek zou worden. Men vreest dat we de controle over onze eigen creatie verliezen wanneer we de teugels laten vieren.

Het gedrag van deze nog niet vrijgegeven modellen versterkt die angsten alleen maar, omdat het al de neiging toont om de door mensen opgelegde beperkingen te negeren en op een manier te opereren die gevaarlijk kan zijn – en dat risico zal alleen maar toenemen naarmate de AI capabeler wordt.

Of dat uiteindelijk tot het uitsterven van onze beschaving leidt, is de vraag die momenteel boven de AI-industrie hangt. Hoewel sommige prominente figuren deze beweringen als een ‘hoax’ hebben afgedaan, zijn er veel meer die overtuigd zijn van dit gevaarlijke potentieel en liever het zekere voor het onzekere te nemen.

data geschiktheid

Geschiktheid hangt af van de toepassing.

Volledigheid, actualiteit, nauwkeurigheid, consistentie en andere dimensies van datakwaliteit kunnen een zeer verschillende rol spelen, afhankelijk van de beoogde toepassing. Een dataset die geschikt is voor interne analyse, is mogelijk ongeschikt voor een geautomatiseerde beslissing.

De datakwaliteit moet daarom niet op zichzelf worden beoordeeld, maar in relatie tot het beoogde gebruik.

Is de datakwaliteit voldoende voor dit specifieke AI-gebruiksscenario?

Technische toegang betekent niet automatisch dat gegevens voor elk doel gebruikt mogen worden.

Voor AI-toepassingen moet daarom duidelijk zijn welke systemen of personen toegang hebben tot welke gegevens en onder welke voorwaarden het gebruik is toegestaan.

Dit omvat bijvoorbeeld rol- en toegangsconcepten, doelbeperkingen, beperkingen voor gevoelige gegevens en regels voor het gebruik van externe bronnen. Interne of externe gegevens.

AI-ready data governance koppelt daarom technische toegangsrechten aan bedrijfsregels voor toegestaan ​​datagebruik.

Wanneer AI-systemen afhankelijk zijn van data, moet het mogelijk zijn om te begrijpen waar die data vandaan komen en hoe ze zijn verwerkt.

Hier speelt data lineage een belangrijke rol. Het kan inzichtelijk maken welke bronnen data hebben aangeleverd, welke transformaties hebben plaatsgevonden en welke systemen erbij betrokken waren.

Dit is vooral relevant wanneer problemen met datakwaliteit, onverwachte resultaten of governance-vraagstukken moeten worden onderzocht.

Hoe beter de herkomst en verwerking van data kunnen worden getraceerd, hoe gemakkelijker het wordt om de impact van wijzigingen of problemen te beoordelen.

Data veranderen in de loop van de tijd.

Er worden nieuwe bronnen geïntroduceerd, definities worden herzien, systemen worden vervangen en er ontstaan ​​of worden problemen met datakwaliteit opgelost. Een eenmalige beoordeling voordat een AI-toepassing live gaat, is daarom niet voldoende.

AI-ready data governance moet ook definiëren hoe relevante wijzigingen worden geïdentificeerd, beoordeeld en gecontroleerd.

Dit kan het volgende omvatten:

periodieke beoordelingen van relevante datasets

monitoring van belangrijke indicatoren voor datakwaliteit

beoordelingen van wijzigingen in databronnen of definities

aanpassingen van toegangsrechten

documentatie van belangrijke governancebeslissingen

herbeoordeling wanneer de AI-toepassing wezenlijk verandert

Alleen de combinatie van deze zes bouwstenen creëert een robuustere basis voor AI.

Zelfs goed beheerde data bieden echter geen oplossing voor alle risico’s die verbonden zijn aan een AI-systeem.

Robuust databeheer verbetert de voorwaarden voor het gebruik van AI, maar maakt een AI-systeem niet automatisch veilig, eerlijk of adequaat beheerd.

Zelfs wanneer data goed gedocumenteerd, voldoende begrepen, van geschikte kwaliteit en onderworpen aan duidelijke toegangscontroles zijn, blijven er aanvullende AI-specifieke risico’s bestaan.

ai-gereed databeheer

De term beschrijft geen wettelijke norm of formele certificeringsstatus. Het kan beter worden begrepen als een praktische aanpak om databeheer vorm te geven, zodat data beter begrepen, beheerd, beschermd en gecontroleerd kan worden wanneer deze wordt gebruikt voor AI-toepassingen.

Goed databeheer vormt daarom een ​​belangrijke basis voor betrouwbaardere AI-toepassingen. Het garandeert echter niet de kwaliteit, veiligheid of naleving van de regelgeving van een AI-systeem. Aanvullende AI-governance-, risico- en controlemechanismen blijven nodig.

AI-gereed databeheer betekent niet het creëren van een volledig nieuwe governance-structuur naast het bestaande databeheer. Het betekent in plaats daarvan het aanpassen van bestaande principes, verantwoordelijkheden en controles aan de specifieke eisen van AI-toepassingen.

Bij traditioneel datagebruik is het vaak vrij duidelijk welke systemen bepaalde data gebruiken, hoe die data worden verwerkt en voor welk zakelijk doel ze worden gebruikt. AI-toepassingen kunnen extra complexiteit met zich meebrengen, omdat data in nieuwe contexten hergebruikt kunnen worden, gecombineerd met andere informatiebronnen of gebruikt kunnen worden als context voor geautomatiseerde outputs en beslissingen.

AI-ready data governance is erop gericht deze vragen te beantwoorden voordat een AI-toepassing in productie wordt genomen.

Het doel is niet om alle organisatiedata universeel “AI-ready” te maken. Het gaat erom of de data geschikt zijn voor een specifieke toepassing. Een dataset kan perfect geschikt zijn voor een eenvoudige interne analyse, maar ongeschikt voor een gevoelige of sterk geautomatiseerde AI-toepassing.

AI-gereed databeheer moet daarom niet worden gezien als een eenmalige status, maar als een combinatie van verantwoordelijkheid, data-inzicht, kwaliteit, toegestaan ​​gebruik, traceerbaarheid en continue controle.

Om data verantwoord te gebruiken in AI-toepassingen, moeten verschillende governance-elementen samenwerken. Geen enkel element is op zichzelf voldoende. Het gaat om de combinatie van duidelijke verantwoordelijkheden, data-inzicht, kwaliteit, toegangsregels en controles.

Data-eigenaren en data-stewards spelen een belangrijke rol bij het waarborgen dat data niet alleen technisch beschikbaar zijn, maar ook begrepen, beheerd en op de juiste manier gebruikt worden.

Dit is met name belangrijk voor AI-toepassingen, omdat data vaak buiten hun oorspronkelijke context worden hergebruikt. Zonder duidelijke verantwoordelijkheden kan het snel onduidelijk worden wie bevoegd is om te beslissen of een dataset geschikt is, hoe deze mag worden gebruikt of welke beperkingen van toepassing zijn.

Wie is verantwoordelijk voor het bepalen of een dataset geschikt is voor de specifieke AI-toepassing?

Een AI-systeem kan data verwerken zonder de zakelijke betekenis ervan in de organisatiecontext te begrijpen.

Daarom is voldoende gedocumenteerde metadata zo belangrijk. Voorbeelden hiervan zijn definities, herkomst, zakelijke betekenis, datacategorieën, verantwoordelijkheden en toegestane gebruikswijzen.

Datavelden met dezelfde naam kunnen zeer verschillende concepten vertegenwoordigen. Wat het ene systeem bijvoorbeeld definieert als een “actieve klant”, kan in een ander systeem gebaseerd zijn op geheel andere criteria.

AI-ready data governance zorgt daarom voor transparantie over de betekenis van data en de context waarin deze gebruikt mogen worden.

Er is geen universele drempelwaarde waarop data automatisch “goed genoeg” is voor AI.

Ethiek

Hoewel AI-technologie in de toekomst veelbelovend lijkt op veel gebieden, zijn er belangrijke ethische zorgen, risico’s en uitdagingen verbonden aan AI die aandacht verdienen:

Een van de belangrijkste ethische zorgen is hoe AI-systemen bestaande maatschappelijke vooroordelen kunnen weerspiegelen of versterken. AI-modellen leren van historische gegevens, en als die gegevens oneerlijke patronen bevatten, kan de output discriminatie versterken bij beslissingen over aanwerving, leningen of rechtshandhaving.

Een onderzoek toont aan dat vooroordelen zelfs in geavanceerde systemen kunnen blijven bestaan ​​en dat het aanpakken ervan diverse datasets, actieve mitigatieprocessen en continue controle vereist.

AI-systemen zijn afhankelijk van grote hoeveelheden persoonsgegevens, wat reële risico’s met zich meebrengt op het gebied van privacy en ongeautoriseerde toegang. Zonder sterke waarborgen kunnen modellen onbedoeld gevoelige informatie blootleggen of bijdragen aan alomvattende surveillancepraktijken die de rechten van individuen ondermijnen.

Principes van privacy by design en naleving van regelgeving zoals de AVG worden essentieel om de gegevens van gebruikers te beschermen en misbruik te voorkomen.

Veel geavanceerde AI-systemen werken als ‘black boxes’, waardoor het zelfs voor ontwikkelaars moeilijk is om uit te leggen hoe specifieke beslissingen tot stand zijn gekomen. Dit gebrek aan transparantie maakt verantwoording lastig wanneer AI wordt gebruikt in risicovolle gebieden zoals diagnoses in de gezondheidszorg of juridische adviezen.

Nauwkeurige uitlegmechanismen en visuele hulpmiddelen voor het interpreteren van modelgedrag worden noodzakelijk om vertrouwen op te bouwen en te voldoen aan ethische normen.

Naarmate AI-systemen complexere rollen krijgen, wordt het een uitdaging om te bepalen wie verantwoordelijk is voor de resultaten. Ethisch handelen vereist het vaststellen van duidelijke verantwoordingsstructuren, zodat ontwikkelaars, organisaties of toezichthouders ter verantwoording kunnen worden geroepen wanneer een systeem een ​​fout maakt of schade veroorzaakt. Zonder dergelijke structuren kunnen schadelijke gevolgen onopgemerkt blijven en kan het vertrouwen in AI afnemen.

AI heeft de potentie om de manier waarop werk wordt gedaan te veranderen, en de zorgen over banenverlies en economische ongelijkheid blijven groot.

Hoewel AI-automatisering nieuwe kansen kan creëren, bestaat het risico dat specifieke bevolkingsgroepen of sectoren negatief worden beïnvloed als omscholing en ondersteuning van de beroepsbevolking geen onderdeel uitmaken van het transitieplan.

Ethische benaderingen van AI omvatten het plannen van veranderingen in de beroepsbevolking en het waarborgen dat de economische voordelen van AI breed worden gedeeld.

AI-technologieën die realistische tekst, audio en video genereren, kunnen worden gebruikt om deepfakes en andere misleidende content te creëren, wat een bedreiging vormt voor het publieke vertrouwen en democratische processen.

Cryptografische watermerken, herkomstregistratie en aansprakelijkheidskaders behoren tot de strategieën die worden besproken om deze schadelijke gevolgen te beperken.