Afbeelding: Center for Data InnovationHet pleidooi voor veiligere AI zonder de vooruitgang te vertragen – Center for Data Innovation
• Jacob Coxon, een onderzoeker bij Anthropic, is begin deze maand uit functie getreden en waarschuwde dat geavanceerde AI de mensheid tegen het einde van het decennium zou kunnen uitroeien. • Evan Hubinger, het hoofd alignment science van het bedrijf, stemde in met de waarschuwing over de potentiële risico's van het bouwen van geavanceerde AI. • Deze waarschuwingen benadrukken een groeiende interne bezorgdheid onder AI-ontwikkelaars dat huidige veiligheidsmaatregelen catastrofale gevolgen mogelijk niet kunnen voorkomen.
datainnovation.org
