Künstliche Intelligenz bei Jugendlichen: Die Kirche zeigt sich alarmiert

In einer wunderbaren, aber sehr realen Umgebung, in der Villa Pia, im Herzen der Vatikanischen Gärten, Lichtjahre vom virtuellen Universum entfernt, trafen sich vom 20. bis 22. März 2025 rund sechzig internationale Experten – Akademiker, Vertreter von Verbänden und internationalen Organisationen –, um über die Auswirkungen der Künstlichen Intelligenz (KI) auf die jüngeren Generationen zu diskutieren.

Das von der Päpstlichen Akademie der Wissenschaften organisierte Kolloquium, über das das offizielle Informationsportal des Vatikans berichtet hat, ging von der Feststellung aus, dass ein Teil der Kinder und Jugendlichen bereits in unterschiedlicher Form Zugang zu KI hat: Sprachassistenten, Lernanwendungen, interaktive Spiele oder auch personalisierte Algorithmen in sozialen Netzwerken.

Diese Technologie, die sich aktuell extrem verbreitet, „verändert grundlegend“ die Art Jugendlicher und Kinder zu leben, zu lernen und mit der Welt zu interagieren. Nach Ansicht der im Vatikan versammelten Experten ist diese Transformation sowohl schnell als auch tiefgreifend und betrifft so unterschiedliche Bereiche wie Bildung, Freizeit und soziale Beziehungen.

Die in der Villa Pia versammelten Forscher betonten die beispiellosen Möglichkeiten, die die KI bietet. So ermöglichen Tools wie virtuelle Tutoren ein personalisiertes Lernen, das an den Rhythmus und die Bedürfnisse jedes Kindes angepasst ist. KI-basierte Anwendungen können auch frühzeitige Lernstörungen erkennen und so gezielte Unterstützung bieten.

Im Freizeitbereich schaffen KI-gesteuerte Videospiele faszinierende Erfahrungen, während soziale Netzwerke Algorithmen nutzen, um die Vorlieben und Interaktionen ihrer Nutzer zu berücksichtigen. All dies ist allerdings alles andere als harmlos. Die Allgegenwart Künstlicher Intelligenz wirft entscheidende Fragen auf.

Während KI in einigen Fällen positive Beiträge leistet, kann sie junge Menschen in vielen anderen Fällen heimtückischen Gefahren aussetzen. Die im Vatikan organisierte Konferenz wollte die Notwendigkeit und die Art und Weise hervorheben, wie ein sicheres digitales Umfeld geschaffen und gewährleistet werden kann – ein Ziel, das angesichts der Komplexität der Herausforderungen noch weit entfernt zu sein scheint.

Einer der zentralen Punkte des Symposiums war die Sicherheit von Kindern im digitalen Raum. Die erwähnten Statistiken sind alarmierend. Jedes fünfte Mädchen und jeder siebte Junge ist bereits Opfer von Online-Gewalt geworden, sei es durch Cybermobbing, Betrug oder die Berührung mit unangemessenen Inhalten. KI als technologischer Motor dieser Plattformen kann diese Risiken verstärken.

So können beispielsweise Empfehlungsalgorithmen, die darauf ausgelegt sind, das Engagement der jeweiligen User zu maximieren, Kinder ungewollt gewalttätigen Inhalten aussetzen, die gegen die natürliche und christliche Moral verstoßen. Darüber hinaus stellt die generative KI, die in der Lage ist, Texte, Bilder oder Videos zu produzieren, neue und auch problematische Herausforderungen dar.

Tools wie Deepfakes können Kinder anfällig für Desinformation oder direkten Missbrauch machen. Die mit KI verbundene Erfassung personenbezogener Daten ist ebenfalls eine Bedrohung. Diese Daten, die Gewohnheiten, Vorlieben und manchmal auch Emotionen von Kindern widerspiegeln, können für kommerzielle oder bösartige Zwecke genutzt werden und die Privatsphäre schon in jungen Jahren gefährden.

Kardinal Peter Turkson, Kanzler der Päpstlichen Akademie der Wissenschaften, betonte, wie wichtig es sei, bei der Entwicklung und Nutzung von Daten vor deren Bereitstellung ethische Grundsätze zu implementieren. Diese Idee steht im Einklang mit früheren Initiativen des Heiligen Stuhls, wie dem Dialog mit führenden Persönlichkeiten aus dem Silicon Valley, die darauf abzielen, die IT-Technologieriesen für diese Herausforderungen zu sensibilisieren.

Bei dem Treffen wurde auch über die mögliche Abhängigkeit von Kindern von diesen Technologien nachgedacht. Wenn KI zu einem ständigen Begleiter wird – ein virtueller Assistent oder Algorithmus, der ihre Entscheidungen steuert – welche Auswirkungen wird sie auf die Autonomie der Nutzer haben? Einige Experten befürchten, dass Kinder, die an sofortige und personalisierte Antworten gewöhnt sind, angesichts der langsameren und unsichereren Prozesse des realen Lebens in die virtuelle Welt flüchten könnten. Doch die Aneignung von Tugenden – wie etwa der Geduld – kann nicht mit einem einzigen „Klick“ erfolgen.

Ein weiterer Grund zur Sorge ist der Einfluss der KI auf zwischenmenschliche Beziehungen. Interaktionen, die durch Bildschirme und Algorithmen vermittelt werden, könnten die Möglichkeiten für direkte Kontakte verringern, die jedoch für die emotionale und soziale Entwicklung von Kindern unerlässlich sind.

Um diesen Herausforderungen zu begegnen, plädierten die Teilnehmer für eine internationale Steuerung und Kontrolle der KI. An ihr sollten Regierungen, Technologieunternehmen und die Zivilgesellschaft beteiligt sein. Insgesamt eine idealistische Initiative. Diejenigen, die wissen, wie präsent Huxleys „Schöne neue Welt“ bereits ist und nicht das in den vier Evangelien dargestellten Ideal, werden sehr skeptisch sein.