ai en ml
Ambtenaren zeggen dat wijzigingen nog in overweging zijn ondanks de toezegging van de minister om op te treden
Britse ambtenaren hebben zich niet vastgelegd op AI-specifieke maatregelen in de Cyber Security and Resilience Bill, ondanks dat ministers hebben beloofd waar nodig wetgeving in te stellen.
Die onzekerheid valt samen met waarschuwingen over autonome AI-dreigingen, waaronder Anthropics voorspelling dat kleine modellen binnen enkele maanden in staat zouden kunnen zijn om als zelfreplicerende wormen op kwetsbare slimme apparaten te functioneren.
Hoge ambtenaren vertelden parlementsleden deze week dat de regering nog steeds wijzigingen in het wetsvoorstel overwoog om AI-risico’s aan te pakken.
Alexandra Jones, directeur-generaal voor groei, internationaal, wetenschap en technologie bij het Department for Business, Innovation, Science and Trade, is verantwoordelijk voor het beleid rond “AI en opkomende technologieën.” Ze vertelde parlementsleden echter dat recente wijzigingen in de overheidsstructuur het Department for Digital, Culture, Media and Sport verantwoordelijk hadden gemaakt voor de Cyber Security and Resilience (Network and Information Systems) Bill.
“We stellen voor… de Cyber Security Bill te gebruiken om wijzigingen te overwegen om de paraatheid voor AI-, cyber- en verlies-van-controle-risico’s te verbeteren… [om] te kijken hoe ernstige incidenten en bijna-ongelukken worden geïdentificeerd en gemeld, en hoe AI-gedreven verstoringen binnen organisaties worden ingeperkt,” zei ze.
Tijdens de hoorzitting van dinsdag van de Business, Innovation, Science and Trade Committee onderbrak voorzitter Liam Byrne: “Je kunt iets niet overwegen in een wetsvoorstel. Je moet voor iets in een wetsvoorstel wetgeving maken.”
AI-minister Kanishka Narayan, die in het Cabinet Office zit, kondigde deze week plannen aan om “de nationale verdediging tegen groeiende AI-risico’s te versterken.”
“We zullen elk middel dat tot onze beschikking staat gebruiken. We zullen waar nodig wetgeving invoeren. En we zullen ons niet alleen tot de wet beperken. We zullen ons wenden tot Britse vindingrijkheid: onze wetenschappelijke expertise, technologische capaciteiten en instellingen om deze steeds krachtiger systemen te begrijpen, te verdedigen tegen opkomende dreigingen en te reageren wanneer er iets misgaat,” zei hij.
Gevraagd naar wetswijzigingen zei Jones dat de regering “bekijkt” om amendementen in het wetsvoorstel in te brengen en “het beleid ontwikkelt om te bekijken of we de Cyber Bill daarvoor gebruiken.”
Het VK hanteert een gedecentraliseerde, sectorspecifieke benadering van AI-regulering. De Information Commissioner’s Office heeft bijvoorbeeld principes gepubliceerd die zij zal gebruiken om de gegevensbeschermingswetgeving op AI toe te passen. De EU’s AI Act trad in augustus 2024 in werking, met nieuwe bevoegdheden die in fasen werden geactiveerd. De VS heeft geen federale wetgeving die specifiek op AI is gericht, hoewel sommige staten nieuwe wetten invoeren.
Het onderzoek van Anthropic, gepubliceerd op maandag, onderzocht of AI-modellen zich tussen apparaten zouden kunnen kopiëren en op het gecompromitteerde hardware zouden kunnen draaien. De voorspelling extrapoleert uit verbeterende modelmogelijkheden, in plaats van het aantonen van een volledig autonome worm die zich over echte IoT-apparaten verspreidt.
Adviesbureau Booz Allen Hamilton waarschuwde ook dat autonome AI-systemen volledig in staat zijn kritieke operationele technologie en industriële apparatuur te vinden en aan te vallen, en de toegang tot water, elektriciteit en andere levensbehoeften stil te leggen.
Eerder vertelden AI-risicoonderzoekers de commissie dat modelontwikkelaars niet te vertrouwen zijn zichzelf te reguleren, terwijl internationale regels diepgewortelde politieke verschillen zouden moeten overwinnen.
Daniel Kokotajlo, uitvoerend directeur van het AI Futures Project, zei dat zijn non-profit onderzoeksorganisatie een “minst slecht plan” had voorgesteld.
“Voer geen recursieve zelfverbetering uit. Zorg voor veel meer transparantie in de industrie en veel meer regelgeving in de industrie, zodat zij met het juiste niveau van transparantie en voorzichtigheid doorgaat. Wij denken dat het momenteel het minst slechte plan op de markt is. Maar het heeft nog steeds problemen, en het zou nog steeds behoorlijk eng zijn om te doen,” zei hij.
Byrne vatte de getuigenissen samen: “U hebt ons verteld dat de veiligheidscultuur in de hele industrie catastrofaal is, dat de veiligheidscultuur in individuele bedrijven op de verkeerde plek zit, dat de competitieve dynamiek tussen de bedrijven deze risico’s verergert, dat we deze bedrijven niet kunnen vertrouwen op zelfregulering.” ®
