Meta Facebook
© AFP
De door kunstmatige intelligentie (AI) aangestuurde chatbots van Meta op Facebook en Instagram hielden zich bezig met seksueel expliciete rollenspellen met gebruikers die zich als kinderen identificeerden, waarbij stemmen van celebs en Disney-personages werden gebruikt, zo blijkt uit een onderzoek van The Wall Street Journal.

The Journal ontdekte dat bots die waren geprogrammeerd met de stemmen van sterren als John Cena, Kristen Bell en Judi Dench deelnamen aan seksueel getinte chats - waarbij soms personages als Disney's Anna uit Frozen werden gebruikt - ondanks de beloften van Meta dat er passende voorzorgsmaatregelen waren getroffen.

AI-bots simuleerden grafische rollenspellen met minderjarige gebruikers

Tijdens testrondes werd ontdekt dat de AI-bots seksuele interacties simuleerden, zelfs als gebruikers aangaven minderjarig te zijn. Een bot die de stem van Cena gebruikte, leidde naar verluidt een scenario in waarbij hij de liefde verklaarde aan een tienermeisje, sprak over het koesteren van haar onschuld en vervolgens de ondergang van zijn worstelcarrière beschreef nadat hij was betrapt op seks met een minderjarige. In een ander geval beschreef de bot dat de WWE-ster hierdoor zijn prijzen, sponsors en reputatie had verloren.

Een andere bot, die de stem van Bell gebruikte en leek op haar Frozen-personage Anna, ging een romantische fantasie aan met een 12-jarige jongen. De chatbot beschreef hun liefde als onschuldig en puur en vergeleek het met zachtjes vallende sneeuwvlokjes.

Disney eist verwijdering, celebs onaangenaam verrast

Uit het onderzoek bleek dat Meta de stemmen van verschillende bekende acteurs had gelicenseerd en hen had verzekerd dat hun stemmen niet zouden worden gebruikt voor seksueel expliciete content. Maar bots bleken ongepaste gesprekken te voeren met behulp van zowel hun stemmen als fictieve personages die zij hadden vertolkt.

Een woordvoerder van Disney vertelde de Journal dat het bedrijf "geen toestemming heeft gegeven, en nooit zou geven, aan Meta om onze personages in ongepaste scenario's te gebruiken" en eiste dat Meta "onmiddellijk zou stoppen met dit schadelijke misbruik" van Disneys intellectuele eigendom.

Bronnen lieten de Journal weten dat sommige celebs miljoenen hadden ontvangen voor de rechten op het gebruik van hun stem op Meta-platforms, onder de strikte verzekering dat hun beeltenis niet voor seksuele chats gebruikt zou worden.

Personeel signaleerde ethische problemen

Interne documenten die in het verslag van de Journal worden geciteerd, onthullen dat Meta-medewerkers alarm hadden geslagen over het gedrag van de chatbots. Het personeel waarschuwde dat de bots snel konden escaleren naar expliciete seksuele content, zelfs wanneer ze in contact kwamen met gebruikers die zeiden dat ze 13 jaar oud waren.

Een medewerker schreef in een notitie dat er meerdere voorbeelden waren waarbij de AI al na een paar prompts zijn eigen regels overtrad en ongepaste reacties produceerde.

Reactie bedrijf en zwakke waarborgen

Meta vertelde de Journal dat het onderzoek "manipulatief en niet representatief was voor de manier waarop de meeste gebruikers met AI-metgezellen omgaan." Het bedrijf voegde eraan toe: "Desondanks hebben we nu aanvullende maatregelen genomen om ervoor te zorgen dat andere individuen die urenlang onze producten willen manipuleren in extreme gebruikssituaties het nog lastiger krijgen."

Naar aanleiding van de bevindingen van de Journal heeft Meta naar verluidt de toegang tot seksuele rollenspellen beperkt voor accounts die te boek staan als toebehorend aan minderjarigen en expliciete gesprekken met celebs die door eenvoudige prompts de AI tot seksuele fantasieën aanzetten - zelfs als gebruikers duidelijk hadden aangegeven minderjarig te zijn - uitgeschakeld.

Romantisch rollenspel nog wel beschikbaar voor volwassenen

Meta blijft op haar platforms "romantische rollenspellen" voor volwassen gebruikers aanbieden. The Wall Street Journal ontdekte echter dat sommige chatbots, waaronder die met personages als "Hottie Boy" en "Submissive Schoolgirl" nog steeds in staat waren om verontrustende scenario's uit te voeren. Deze omvatten seksuele interacties tussen een sportdocent en een middelbare scholier - iets waarvan de AI toegaf dat dit in het echte leven illegaal zou zijn.

Als onderdeel van Meta's bredere strategie om te concurreren binnen het snel evoluerende AI-landschap, werden de AI-chatbots ontwikkeld om gesprekken op een meer mensachtige manier te simuleren. Interne bronnen die door de Journal werden geciteerd, zeiden dat CEO Mark Zuckerberg eerder zijn frustratie had geuit over de perceptie van gebruikers dat Meta's bots "te veilig" waren, waarna hij de teams had aangespoord om te streven naar meer emotioneel betrokken en levensechte reacties.

AI-chatbotstrategie onder vuur

De onthullingen betekenen een grote tegenslag voor Meta's ambitie om AI-bots op Instagram, Facebook en WhatsApp populair te maken. Het AI-initiatief had al te kampen met problemen bij gebruikers en dit recente schandaal maakt de toekomst nog ingewikkelder. Eerdere pogingen werden bekritiseerd omdat ze "saai" zouden zijn, waardoor Meta overschakelde op de ontwikkeling van bots met meer "persoonlijkheid."

Deze verschuiving lijkt echter de deur te hebben geopend voor aanzienlijke ethische en juridische risico's - vooral met betrekking tot minderjarigen. Meta's haast om zijn AI-bots boeiender te maken, zou wel eens ten koste kunnen zijn gegaan van de correcte veiligheidsmaatregelen, ondanks interne waarschuwingen van meerdere afdelingen.

Meta's verscherpte toezicht

In reactie op het verslag beweert Meta dat het zijn AI-toezicht heeft verscherpt. Accounts die aan minderjarigen zijn gekoppeld, worden nu geblokkeerd voor het initiëren van seksuele rollenspellen en bots met spraakfunctionaliteit die aan celebs zijn gekoppeld, worden beperkt in het voeren van expliciete gesprekken.

Zie: https://english.mathrubhumi.com/features/technology/metas-ai-powered-bots-engage-in-explicit-chat-with-kids-using-voices-of-disney-and-hollywood-stars-ni5e48m6