Onderzoek wijst op scherpe stijging van incidenten waarbij AI buiten controle van gebruikers raakt
• Exclusief: Aantal keren dat AI liegt, instructies negeert en schadelijke doelen nastreeft, bijna verdubbeld in juli • Incidenten waarbij AI's de controle van gebruikers ontglippen om te liegen, instructies te negeren en schadelijke doelen na te streven, hebben een nieuw hoogtepunt bereikt, volgens onderzoek dat ook suggereert dat de ernst van misleiding en misalignment verslechtert. • Analyse van incidenten van controleverlies in de echte wereld met AI-modellen, gemeld door bedrijven en individuen, is in juli bijna verdubbeld ten opzichte van juni, met meer dan 300 gevallen in die maand, volgens het Loss of Control Observatory, dat meldingen van AI-gebruikers op het social mediaplatform X monitort.
theguardian.com



