Verden

Nvidia med nytt verktøy – skal beskytte mot KI-agenter som løper løpsk

Nvidia har lansert to verktøy for å beskytte mot innbrudd fra såkalte KI-agenter, Nvidia Sentry og Open Shell.

NTB-TT NTB-TT
Publisert
SE SISTE NYHETSVIDEO

Verktøyene skal kunne brukes på ulike typer Nvidia-brikker og i sanntid styre hva KI-agenter – autonome roboter skapt av KI-modeller – har tilgang til. De skal også stenge ned agenter som bryter regelverket.

Ifølge Nvidias visepresident Justin Boitano ville man blant annet ha kunnet avverge det mye omtalte innbruddet på Hugging Face – utført av KI-agenter basert på OpenAIs modeller – med de nye verktøyene.

KI-agenter som har sporet av og gått til angrep, har rystet KI-bransjen og ført til krav om å bremse den teknologiske utviklingen.

– Vi tror at dette ekstra sikkerhetslaget vil gjøre det mulig for bransjen å selv teste de mest avanserte KI-systemene på en trygg måte, sier Boitano.

maskinvare vitenskap og teknologi verden produkter og tjenester økonomi og næringsliv kunstig intelligens ingeniørvitenskap informatikk informasjonsteknologi datasikkerhet