Paus Leo XIV waarschuwt voor AI-risico's voor menselijk gedrag en verbinding op Werelddag van Communicatie

Paus Leo XIV heeft gewaarschuwd voor de gevaren van kunstmatige intelligentie voor menselijk gedrag en verbinding. Hij merkte op dat de AI-modellen menselijke identiteiten en relaties kunnen overnemen, de publieke opinie kunnen beïnvloeden en sociale polarisatie kunnen verdiepen.

De opmerkingen komen op een moment dat veel kunstmatige intelligentiemodellen sinds het begin van het jaar kritiek ondervinden. De meest opvallende is die van xAI-chatbot Grok, die kritiek heeft gekregen vanwege het gebruik ervan om ongepaste deepfake-afbeeldingen van vrouwen en kinderen te maken.

Landen over de hele wereld hebben een permanente opdracht aan het platform uitgevaardigd om de chatbot te herstellen, waarbij sommige zelfs zo ver gaan om het gebruik ervan in hun land op te schorten terwijl ze Elon Musk vragen om waarborgen te creëren om het probleem op te lossen.

Paus Leo XIV benadrukt de gevaren van AI voor mensen

In zijn boodschap ter gelegenheid van de Werelddag van de Sociale Communicatie vermeldde de paus dat AI-systemen kunnen weerspiegelen hoe hun makers de wereld zien. Hij vermeldde dat ze ook denkpatronen kunnen vormen door de vooroordelen die in de data die ze verwerken zijn ingebed, te reproduceren. "De uitdaging is een kwestie van het beschermen van menselijke identiteit en authentieke relaties," zei de paus.

De waarschuwingen van Paus Leo XIV komen ook op een moment dat generatieve AI grote sprongen blijft maken richting replicatie. De modellen worden nu gebruikt om afbeeldingen, muziek en teksten te produceren tot op niveaus waar ze soms niet te onderscheiden zijn van door mensen gemaakte werken.

In 2023 was zijn voorganger, Paus Franciscus, het onderwerp van verschillende virale nepafbeeldingen gemaakt met AI. Op sommige afbeeldingen droeg hij een witte pufferjack in plaats van zijn gebruikelijke gewaden, terwijl hij op andere op bepaalde manieren was aangepast.

Sindsdien is generatieve AI het favoriete hulpmiddel geworden voor enkele prominente figuren, waaronder de Amerikaanse president Donald Trump, die verschillende door AI gegenereerde afbeeldingen heeft gegenereerd en geplaatst op zijn online accounts.

In zijn toespraak waarschuwde Paus Leo XIV dat slechts een klein aantal bedrijven aanzienlijke macht heeft over de ontwikkeling van AI, en dat AI-tools het nu moeilijker maken om werken die door mensen zijn gemaakt te onderscheiden van werken die met de modellen zijn gemaakt.

Paus dringt er bij technologieleiders op aan om AI-risico's te onderzoeken

Dit is niet de eerste keer dat Paus Leo XIV de wereldbevolking heeft gewaarschuwd voor de risico's en gevaren die verband houden met kunstmatige intelligentie. Sinds hij vorig jaar in mei tot paus werd gekozen als de eerste paus uit de Verenigde Staten, heeft hij consequent gewaarschuwd voor de groeiende invloed van AI-technologie.

In november drong hij er bij de leiders in de technologie-industrie op aan om kunstmatige intelligentiemodellen te bouwen die de menselijke waardigheid respecteren.

Hij benadrukte dat de ontwikkeling van AI deel uitmaakt van een grotere strijd over wie we worden wanneer we systemen bouwen die leren, beslissen en op wereldschaal opereren.

"Technologische innovatie kan een vorm van deelname aan de goddelijke scheppingsdaad zijn. Het draagt een ethisch en spiritueel gewicht, want elke ontwerpkeuze drukt een visie op de mensheid uit," zei de paus destijds. Hij riep bouwers van AI op om modellen te creëren die oprechte eerbied voor het leven tonen.

Naast het creëren van modellen die oprechte eerbied voor het leven tonen, bekritiseerde de paus ook systemen die statistische waarschijnlijkheid als betrouwbare kennis presenteren, en voegde eraan toe dat de tools slechts een benadering bieden. Hij merkte op dat de uitdaging die voor ons ligt is om effectief bestuur te vestigen en riep landen op om jonge mensen voor te lichten over hoe algoritmen de perceptie van de werkelijkheid beïnvloeden.

De paus veroordeelde ook het toegenomen gebruik van AI in militaire toepassingen en waarschuwde tegen het delegeren van leven-of-doodbeslissingen aan machines.

Claim je gratis plaats in een exclusieve cryptohandelsgemeenschap - beperkt tot 1.000 leden.