Microsoft slår Counterfit AI Security Assessment Tool Open Source

Microsoft har slått sitt AI-sikkerhetsrisikovurderingsverktøy, Counterfit, åpen kildekode, slik at alle kan begynne å bruke verktøyet gratis. For tiden kan organisasjoner bruke Counterfit til å automatisere sikkerhetsrisikovurderinger, slik at beskyttelsen de bruker er opp til bunnen av.

Microsoft utviklet opprinnelig Counterfit som et internt verktøy som raskt kunne vurdere sikkerheten til AI og maskinlæringssystemer. Det startet livet som en samling skript før den raskt ble en generisk AI-automatisering som en operatør kan bruke til å "angripe flere AI-systemer" på en gang.

Microsoft bruker nå jevnlig Counterfit som et kjerneverktøy i deres AI-team. Siden Counterfit er miljø, modell og data agnostisk, kan verktøyet levere presis vurdering uten impedans.

Selve verktøyet er designet for bruk av sikkerhetsfagfolk. Counterfit bruker lignende arbeidsflyter til andre populære red-team-verktøy som Metasploit eller PowerShell Empyre, med omfattende støtte for skripting, forhåndslastede angrepsalgoritmer, sårbarhetsskanning, avansert logging og mer, tilgjengelig via kommandolinjen.

Microsoft har jobbet mye med fagpersoner i sikkerhet og store organisasjoner for å utvikle Counterfit også. På Microsofts sikkerhetsblogg, Matilda Rhode, Senior Cybersecurity Researcher, Airbus, sa:

AI brukes i økende grad i industrien; det er viktig å se fremover for å sikre denne teknologien, spesielt for å forstå hvor funksjonsromangrep kan realiseres i problemområdet. Utgivelsen av open source-verktøy fra en organisasjon som Microsoft for sikkerhetsutøvere å evaluere sikkerheten til AI-systemer er både velkommen og en klar indikasjon på at industrien tar dette problemet alvor.

Du kan finne åpen kildekode Microsoft Counterfit på deres offisielle GitHub.

I slekt: Jobber du aldri visste ble utført av AI

Hvorfor er counterfit nyttig?

Selv for et selskap på størrelse med Microsoft er det ikke enkelt å fullføre effektive sikkerhetsvurderinger, spesielt når disse selskapene er enorme Fortune 500-ledere, regjeringer, ideelle organisasjoner og mer. En tidligere Microsoft-studie fant et stort antall bedrifter som ikke klarte å teste sine AI-systemer nøyaktig.

Vi fant ut at 25 av 28 bedrifter indikerte at de ikke hadde de riktige verktøyene på plass for å sikre AI-systemene sine, og at sikkerhetsfagfolk ser etter spesifikk veiledning i dette rommet.

Counterfit gjør det lettere å fullføre disse vurderingene, og automatisere prosessen med analyse og testing.

I slekt: Måter du kan bruke AI-teknologi for å forbedre virksomheten din

Videre en nylig publisert Gartner-studie oppførte AI-sikkerhetsadopsjon som en av de viktigste sikkerhetstiltakene et selskap kan ta for å forbedre beskyttelsen. Den samme studien bemerket at "Innen 2024 vil organisasjoner som implementerer dedikerte AI-risikostyringskontroller, med hell unngå negative AI-resultater dobbelt så ofte som de som ikke gjør det."

Kort sagt, Counterfit som blir et åpen kildekode AI-sikkerhetsvurderingsverktøy, bør bidra til å gjøre verden til et litt tryggere sted.

Disse 4 antivirusverktøyene bruker AI for å beskytte systemet ditt

Må ditt neste antivirusabonnement inkludere kunstig intelligens, eller er det bare enda et sikkerhetsord?

Les Neste

Om forfatteren