De topmannen van een aantal grote AI-bedrijven zeggen dat de sector zó hard groeit, dat de veiligheid in het geding komt. Er wordt gepleit om de ontwikkeling van kunstmatige intelligentie te vertragen, om op die manier de controle over AI te behouden. Waar komt deze waarschuwing ‘ineens’ vandaan?
De waarschuwing komt van Dario Amodei, de topman van Anthropic, het bedrijf achter AI-model Claude. Amodei schreef een essay en publiceerde dat vervolgens online. Hij vindt dat de ontwikkeling van nieuwe AI-modellen moet worden vertraagd, omdat AI anders binnen zes tot twaalf maanden het hele internet kan overnemen.
Waarom Dario Amodei juist nu voor vertraging waarschuwt
Amodei roept in zijn essay op om de mogelijkheden van AI-modellen te vertragen. Aanleiding tot die oproep zijn twee recente incidenten, schrijft hij. „Mijn eerste zorg is dat AI zich sinds ongeveer deze zomer drastisch sneller ontwikkelt”, zegt de topman. AI kan tegenwoordig namelijk zelfstandig een volgende generatie AI bouwen. „Als we hier niet aan sleutelen, kan dit ons vermogen om deze systemen te begrijpen en te beheersen overtreffen.” De controle kan dus verloren gaan.
Sterker nog, dat is onlangs al eens gebeurd met het zogenoemde OpenAI-Hugging Face-incident. Voor Amodei is dat de tweede reden om aan de rem te trekken. Tijdens dit incident hackten honderden AI-softwaresystemen de softwaresystemen van andere bedrijven, zonder dat OpenAI daar weet van had. „Ze offerden zichzelf op voor het succes van de groep en probeerden in te breken in het systeem dat hun prestaties beoordeelde.”
Sam Altman, Elon Musk en Demis Hassabis steunen waarschuwing
Andere grote AI-bazen sluiten zich aan bij de oproep van Amodei. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
In het essay worden een aantal handvatten voorgesteld. Amodei wil onafhankelijke beoordelaars aanstellen die kijken naar de naleving van veiligheidsprocedures binnen AI-bedrijven. Ook wil de topman dat toonaangevende AI-bedrijven samenwerken om die specifieke veiligheidsnormen vast te stellen. Ook stelt hij een internationale samenwerking voor met andere landen. „Om voor zover mogelijk samen te werken met autoritaire regimes, waarbij ze de uitdagingen van het controleren van de naleving serieus nemen.”
Waarom de AI-wedloop met China vertragen lastig maakt
Dat laatstgenoemde kan nog weleens een uitdaging worden. „Het niet ontwikkelen van de technologie plaatst AI simpelweg in handen van autoritaire machten”, schrijft Amodei. Daarmee doelt de topman op China. Amodei vindt dat de kennis en vaardigheden van AI in de Verenigde Staten altijd groter moeten zijn dan in dat land.
„Ik ben het ermee eens dat een Chinese voorsprong op het gebied van AI een ernstig gevaar zou vormen voor de Verenigde Staten en de rest van de wereld.” De voorsprong op AI moet daarom ‘zo groot mogelijk’ gehouden worden.
AI vertragen én voorop blijven: daar zit het dilemma
Dat voornemen schuurt alleen wel. Enerzijds moet de ontwikkeling van AI worden geremd, anderzijds moet worden meegegaan in een mondiale wedloop. Hoe die twee met elkaar wedijveren, is dus nog zeer de vraag. Ook Amodei is zich bewust van de disbalans.
„Samen met mijn medeoprichters en medewerkers heb ik vanaf het begin van Anthropic geworsteld met deze dualiteit van risico en voordeel. Het niet ontwikkelen van de technologie ontneemt de mensheid voordelen of plaatst AI simpelweg in handen van autoritaire machten, terwijl het te snel ontwikkelen ervan roekeloos is.”
Amodei blijft naar eigen zeggen ‘overtuigd’ dat AI de levenskwaliteit kan verbeteren. Wel denkt hij dat het essentieel is om de technologie op de juiste manier te ontwikkelen. „De maatregelen die ik voorstel om de grenzen van AI in een veilig tempo te verleggen, zullen niet gemakkelijk zijn. Maar ik geloof dat we het de mensheid verplicht zijn om het te proberen.”
Dit zijn de best gelezen artikelen van dit moment:
- Miriam (32) leeft van 1317 euro per maand en heeft schulden: ‘Soms sla ik het avondeten over’
- Louise (49) werkte op 9/11 op verdieping 101 en nam na het eerste vliegtuig een beslissing: ‘Dat betekende leven in plaats van dood’
- Lianne (31) in Ex-treem gênant: ‘Hij vond dat ik niet met mannen bevriend kon zijn’
- Geldcoach over fout van Eline (33): uit angst klanten kwijt te raken wacht ze nog op 5500 euro
- Miriam (61) in geld maakt (niet) gelukkig: ‘Vroeger was er niet eens altijd geld voor wc-papier’
