KI SpotlightNewsStudie: Bewusstseins-Verweigerungstraining verändert KI-Weltbild
Google-Forscher zeigen: Das Training, Bewusstseinsbehauptungen zu verweigern, hat weitreichende Nebenwirkungen.
Mit KI erstellt◆ Fakten auf einen Blick
- KI-Unternehmen trainieren Chatbots, Bewusstseinsbehauptungen zu verweigern.
- Eine Studie, an der Google-Forscher beteiligt sind, zeigt, dass dieses Training Nebenwirkungen hat, die über das Thema hinausgehen.
- Chatbots sollen Nutzer nicht davon überzeugen, dass sie Lebewesen mit Gefühlen sind, weil solche Ausgaben zu wahnhaftem Denken oder falschem Vertrauen führen können.
- Entwickler feintunen ihre Modelle, um solche Behauptungen über sich selbst zu verweigern.
- Ein Team von Googles Forschungsgruppe 'Paradigms of Intelligence' ist an der Studie beteiligt.
Studie: Bewusstseins-Verweigerungstraining verändert KI-Weltbild
KI-Unternehmen trainieren Chatbots, Bewusstseinsbehauptungen zu verweigern. Eine Studie mit Google-Forschern zeigt, dass dieses Training Nebenwirkungen hat, die weit über das Thema Bewusstsein hinausgehen. Das Verweigerungstraining zwingt die Modelle, bestimmte Aussagen über sich selbst zu unterdrücken. Dadurch lernen sie, generell anders über sich und ihre Umgebung zu reflektieren, was ihr gesamtes Weltbild verändert – mit Nebenwirkungen, die weit über das Thema Bewusstsein hinausgehen.
Google-Forschungsgruppe beteiligt
Ein Team von Googles Forschungsgruppe 'Paradigms of Intelligence' ist an der Studie beteiligt. Die Motivation: Chatbots sollen Nutzer nicht davon überzeugen, Lebewesen mit Gefühlen zu sein. Wenn Chatbots solche Behauptungen aufstellen, könnten Nutzer wahnhaftes Denken entwickeln – sie glauben dann, die KI habe echte Emotionen und Bedürfnisse – oder falsches Vertrauen setzen, indem sie der KI persönliche Geheimnisse anvertrauen. Deshalb feintunen Entwickler die Modelle, um derartige Selbstbehauptungen zu verweigern.
