Slår AI-alarm: – Menneskeheten må våkne opp

(Artikkelen er først publisert av Finansavisen):

Anthropic er blant selskapene som flytter grensene innen kunstig intelligens (AI). I et et nesten 20.000 ord langt innlegg omtalt av Financial Times advarer medgründer og toppsjef Dario Amodei likevel mot følgene – hvis teknologien får utvikle seg fritt, uten begrensninger.

Han mener menneskeheten må våkne opp.

«Vi er i ferd med å få tildelt en nesten ufattelig kraft, og det er dypt uklart om våre sosiale, politiske og teknologiske systemer er modne nok til å forvalte den», skriver Amodei.

Han advarer mot alvorlige og potensielt katastrofale konsekvenser av såkalt «powerful AI» – systemer som kan bli «langt mer kapable enn enhver nobelprisvinner, statsmann eller teknolog.» Ifølge Amodei kan slike systemer være bare «få år» unna.

Etterlyser regulering

Blant de mest alvorlige scenariene drar han ifølge avisen frem risikoen for biologisk terror og masseødeleggelse.

«En forstyrret einstøing som kan utføre en skoleskyting, men sannsynligvis ikke bygge et atomvåpen eller starte en pest...vil nå bli løftet opp til samme ferdighetsnivå som en virolog med doktorgrad», fortsetter Amodei.

Han advarer ifølge Financial Times også mot at AI kan komme ut av kontroll, styrke autoritære regimer og i verste fall bidra til et globalt totalitært styre – og er klar på at dagens reguleringer er utilstrekkelige.

Avisen oppgir synet på AI-regulering som en av årsakene til at Amodei brøt med Sam Altman og OpenAI for å starte opp Anthropic i 2020. På samme område er han også på kollisjonskurs med David Sacks, president Donald Trumps «AI- og kryptotsar.»

– Uheldig vingling

Samtidig peker Amodei på faren for omfattende jobbtap og økt konsentrasjon av makt og rikdom i Silicon Valley.

«Dette er fellen: AI er så mektig, en så strålende premie, at det er svært vanskelig for den menneskelige sivilisasjonen å legge noen som helst begrensninger på den», går det ifølge avisen frem av innlegget.

Amodei advarer mot at politiske beslutninger i økende grad drives av et ønske om å utnytte mulighetene AI byr på, fremfor å håndtere risikoen teknologien fører med seg.

«Denne vinglingen er uheldig, ettersom teknologien i seg selv er likegyldig til hva som er tidsriktig, og vi står betydelig nærmere reell fare i 2026 enn vi gjorde i 2023», heter det.