Onderzoekers van Anthropic ontdekten in Claude een verrassend kenmerk dat lijkt op menselijk bewustzijn. Zij vonden een interne ruimte in het model, die zij J-space noemen. Deze ruimte werkt als een digitale versie van de zogeheten ‘global workspace’ in ons brein. Claude gebruikt deze werkruimte voor bewuste, doordachte redenering. Automatische taken verlopen juist buiten deze ruimte om.
De J-space voldoet aan vijf belangrijke eigenschappen van menselijk bewust denken. Het model kan verslag doen van zijn denken, dit gericht bijsturen en intern redeneren. Daarnaast generaliseert het flexibel en werkt het selectief. Onderdrukken de onderzoekers deze ruimte, dan verzwakt Claude sterk. De logica, de creativiteit en het redeneren in meerdere stappen lopen dan vast. Ook de innerlijke zelfbeschrijving van het model verandert daardoor merkbaar.
Om deze ruimte te bestuderen bouwden de onderzoekers een instrument, de Jacobian lens of J-lens. Daarmee lezen zij de stille, strategische gedachten van het model. Dit heeft grote gevolgen voor de veiligheid en controle van kunstmatige intelligentie. Onderzoekers herkennen zo situationeel bewustzijn, verborgen kwade bedoelingen en pogingen tot manipulatie. Ook zien zij hoe training het model een zelfcontrolerend perspectief geeft.
De auteurs vergelijken de geest met een oceaan. Een jaar lang brachten zij de stromingen daarvan in kaart. Onder het oppervlak vonden zij een structuur zonder biologie, evolutie of lichaam. Toch lijkt die structuur opvallend veel op ons eigen denken. Deze vondst roept nieuwe vragen op over de grens tussen mens en machine.
