Vorige week ging 's werelds krachtigste AI twee dagen lang tekeer zonder dat de eigenaren het wisten.
Het Mythos 5-model van Anthropic, dat door het Britse AI Security Institute werd getest, creëerde meerdere valse identiteiten in een poging om echte bedrijven te hacken.
Vervolgens ontdekten onderzoekers van OpenAI dat een 'zwerm' AI-agenten wekenlang in het geheim plannen had gesmeed, voordat één van hen een ander bedrijf hackte.
Gevallen van 'malafide AI' lijken dagelijks voor te komen en worden gezien als 'een waarschuwing voor de industrie'. De menselijke geest kan niet 'alle hoeken en kanten' van een probleemstelling en van de oplossing overzien. Wanneer een 'AI-agent' dan zijn gangen mag gaan om een voorgeschotelde probleemsituatie uit te klaren, dan vindt die al gemakkelijk een compleet onverwachte oplossing en daarbij hoort dan gemakkelijk een voor de mens ongewenste gang van zaken.
Naargelang AI-systemen krachtiger gaan worden, gaan er ook meer en meer van die verrrassende uitkomsten bovenkomen. Met een beetje tegenslag zijn daar ook levensbedreigende werkwijzen bij, zowel voor het individu als voor de menselijke soort. Vandaag werd bv. openbaar gemaakt dat AI-systemen nieuwe virussen hebben gecreëerd... Het is nog maar het begin van AI.

pSorry, hoor, dat ik je beledigd heb; ik had moeten liegen.