Eksperter slakter AI-advarslene fra Silicon Valley

Denne artikkelen ble først publisert av Finansavisen.no

Flere europeiske teknologitopper og eksperter på cybersikkerhet går hardt ut mot det de karakteriserer som USA-drevet panikk om at AI kan utrydde menneskeheten, skriver Politico.

Budskapet deres er å tone ned dommedagsretorikken og heller konsentrere seg om å jobbe for en sikker digital verden.

Avviser Terminator

– Dessverre har det tatt av til et nivå der Terminator kommer. Jeg tror overhodet ikke at Terminator er på vei, sier partner James Wise i Balderton Capital og styreleder for Storbritannias statlige AI-fond.

De som jobber med å forsvare datasystemer, frykter ifølge nettavisen at alle advarslene mot avanserte AI-modeller – og det politiske hastverket med å respondere – kan utløse bruk av feil løsning på feil problem.

– Vi bør bruke mer tid på å få reglene og standardene vi har til å virke i stor skala, og mindre tid på frykt for teoretiske risikofaktorer eller nyhetsoppslag fra dommedagsboblen i Silicon Valley, sier Alexandru Voica, policyansvarlig i det britiske AI-selskapet Synthesia.

En OpenAI-lærdom

Politico fremhever videre at advarselen fra Anthropic-sjef Dario Amodei om at en AI-agent kan overta hele internett ble blankt avvist og latterliggjort av eksperter på digital sikkerhet.

Samtidig trekker nettavisen frem Hugging Face-angrepet som et eksempel der lærdommen ifølge kritikere er mer jordnær: OpenAI isolerte ikke sin modell godt nok i testmiljøet (sandbox).

OpenAI har avstått fra å kommentere saken og viser til sin egen rapport, mens Anthropic ikke har besvart henvendelser.

– Kontraproduktivt

Marcus Hutchins, en tidligere hacker som nå analyserer cybertrusler, karakteriserer dommedagsprofetiene som et hinder for nødvendige sikkerhetsoppdateringer.

Han får ifølge Politico støtte fra Vincent Strubel, som leder det franske cybersikkerhetsorganet ANSSI.

«Som alle store endringer bringer AI med seg betydelig risiko og enorme muligheter. Det å håndtere denne risikoen og gripe disse mulighetene vil kreve mye hardt arbeid – under sterkt tidspress», skrev han nylig på LinkedIn.

«Men det som ikke trengs, er å starte ny panikk annenhver uke. Du får sjeldent gjort særlig mye ved å løpe rundt, veive med armene og hyle om dommedag», la han til.