The Paperclip Experiment

Abstract

Das CAIRO untersucht mögliche unbeabsichtigte Auswirkungen persönlicher KI-Assistenten auf menschliches Verhalten und Entscheidungen. Im Fokus stehen Risiken wie geschlechterbezogene Verzerrungen, übermäßige Zustimmung und subtile Verhaltensbeeinflussung durch große Sprachmodelle. Ziel ist es, solche Effekte besser zu verstehen und Ansätze für einen verantwortungsvollen Umgang mit KI zu entwickeln. Die Forschung verdeutlicht, dass neben der technischen Sicherheit auch die gesellschaftlichen Auswirkungen und die bewusste Nutzung dieser Systeme eine wichtige Rolle spielen.