Prins Harry, «Gudfaren av KI» og Steve Bannon ut mot superintelligent KI

Denne artikkelen ble først publisert hos Finansavisen.

Prins Harry og hertuginnen av Sussex, Meghan, tidligere Trump-rådgiver og Maga-profil Steve Bannon og «Gudfaren av KI» og nobelprisvinner Geoffrey Hinton er blant dem som ber om et midlertidig forbud mot utviklingen av superintelligent kunstig intelligens – systemer som overgår menneskelig kapasitet, skriver Bloomberg.

I en felles uttalelse, organisert av den ideelle stiftelsen Future of Life Institute, ber gruppen om at utviklingen stanses inntil det finnes «bred vitenskapelig enighet om at den kan skje trygt og under kontroll». 

Blant de øvrige underskriverne er også Apple-grunnlegger Steve Wozniak, økonomen Daron Acemoglu og Susan Rice – tidligere sikkerhetsrådgiver under Barack Obama.

Ønsker KI-tilsyn

Ifølge Future of Life Institute representerer brevet et sjeldent samlende initiativ på tvers av politikk og fagfelt. 

– Det som forener disse menneskene, er at de alle er mennesker – ikke maskiner – og at de bryr seg om at fremtiden bør være en der maskiner jobber for oss, ikke styrer oss, sier Max Tegmark, professor ved MIT og leder for organisasjonen.

Han beskriver det som positivt at diskusjonen om superintelligent KI «endelig har kommet ut av nerdeboblen» og fått bredere politisk og offentlig oppmerksomhet.

En fersk undersøkelse fra instituttet viser at 73 prosent av amerikanske voksne ønsker streng regulering av avansert KI. En Gallup-måling viser samtidig bred støtte for KI-tilsyn på tvers av partigrenser, med 88 prosent av demokrater og 79 prosent av republikanere og uavhengige som støtter strengere kontroll, skriver Bloomberg.

Frykter overregulering

Selv om enkelte konservative, som Steve Bannon, har advart mot KI, har andre republikanske profiler – blant dem David Sacks, tidligere «KI-sjef» i Det hvite hus – tatt til orde mot det de mener er overregulering som kan bremse innovasjon.

Tegmark sier at han har kontakt med Sacks, som ikke signerte uttalelsen. Ifølge MIT-professoren ønsker Sacks fortsatt sterk forskningsaktivitet og store datasentre.

– Men jeg har aldri fått inntrykk av at han gleder seg til å bygge en digital overherre vi mister kontrollen over, sier han til Bloomberg.