Californië zegt nee tegen verplichte AI-veiligheidstests voor techgiganten

Gouverneur Gavin Newsom heeft een controversieel wetsvoorstel over AI-veiligheid afgewezen, tot teleurstelling van voorstanders maar tot opluchting van de techindustrie. Het voorstel zou grote bedrijven hebben verplicht om uitgebreide veiligheidstests uit te voeren op hun AI-modellen voordat deze op de markt kwamen.

Newsom beargumenteerde dat deze strenge eisen innovatie zouden kunnen remmen en AI-bedrijven uit Californië zouden kunnen verdrijven. Hij benadrukte dat de staat momenteel de thuisbasis is van een groot aantal toonaangevende AI-ondernemingen en dat hij deze positie wil behouden.

Inhoud van het afgewezen wetsvoorstel

Het wetsvoorstel, officieel bekend als SB 1047, richtte zich specifiek op bedrijven die generatieve AI ontwikkelen - systemen die tekst, beelden of geluid kunnen produceren op basis van prompts. Bedrijven die meer dan $100 miljoen investeren in hun AI-modellen zouden verplicht zijn geweest om noodstopknoppen in te bouwen en plannen te publiceren voor het testen en beheersen van extreme risico's.

Gemengde reacties uit de tech-wereld

De reacties op Newsom's besluit waren verdeeld. Veel techbedrijven en investeerders juichten het veto toe, waarbij ze benadrukten dat het de innovatie en economische groei in Californië zou beschermen. Anderen, waaronder enkele politici en AI-veiligheidsexperts, uitten hun teleurstelling en bezorgdheid over de mogelijke gevolgen voor de publieke veiligheid.

Toekomstplannen voor AI-regulering

Ondanks zijn veto erkende Newsom de noodzaak van AI-regulering. Hij kondigde aan dat hij experts heeft gevraagd om te helpen bij het ontwikkelen van praktische richtlijnen voor AI-veiligheid. Daarnaast gaf hij staatsinstellingen de opdracht om de risico's van AI-gerelateerde catastrofes grondiger te onderzoeken.

Hollywood versus Silicon Valley

Interessant genoeg kreeg het wetsvoorstel steun van verschillende Hollywood-beroemdheden, die Newsom aanspoorden om het te ondertekenen. Dit stond in schril contrast met de oppositie vanuit Silicon Valley, wat de complexiteit van het debat rond AI-regulering onderstreept.

Hoewel het wetsvoorstel nu van tafel is, blijft de discussie over hoe AI veilig en verantwoord kan worden ontwikkeld en ingezet, springlevend in Californië en daarbuiten.