Hur AI bryter igenom innehållshashing

Låt oss börja enkelt. En hash är som ett fingeravtryck för en fil. Du tar ett foto, en video eller ett dokument, kör det genom en hashfunktion och du får en kort kod. Denna kod kallas ett hashvärde.

Om så bara en pixel i fotot ändras, ändras hashvärdet helt. Det är så verktyg som SHA-256 fungerar. De är utmärkta för att kontrollera om en fil har manipulerats.

Men det finns ett problem. Vanlig hashing är för strikt för moderering av innehåll i verkligheten. Om någon ändrar storleken på en förbjuden bild med en pixel, kommer en strikt hashing inte längre att matcha den. Så företag skapade en mjukare version som kallas perceptuell hashing.

Perceptuell hashing tittar på vad en bild faktiskt visar, inte bara dess råa delar. Den extraherar visuella funktioner från en bild för att skapa ett fingeravtryck som förblir nästan detsamma även om någon beskär, ändrar storlek eller färglägger bilden. Detta är tekniken bakom verktyg som fångar upp upphovsrättsskyddade videor, spambilder och annat skadligt innehåll innan det sprids.

Det är precis detta som gör perceptuell hashing smart. Det är också precis detta som gör den oskadlig, och det är där AI börjar arbeta mot just de system den hjälpte till att bygga.

Där AI kommer in

Samma neurala nätverk som gör perceptuell hashing smart gör den också brytbar.

Forskare från TU Darmstadt studerade Apples NeuralHash-system , som byggdes för att upptäcka CSAM på enheter. De fann att små, nästan osynliga förändringar i en bild helt kunde ändra dess hash. En angripare kunde få en skadlig bild att se säker ut för detektorn, eller få ett helt normalt foto att utlösa ett falsklarm.

En separat studie visade något ännu större. De bevisade att två helt olika bilder kunde tvingas producera exakt samma hash. Detta kallas en hashkollision, och det fungerar eftersom perceptuella hashfunktioner är deriverbara. Enkelt uttryckt beter de sig som matematiska problem som en AI i tysthet kan lösa och bakåtkompilera.

Detta är viktigt eftersom hela idén med innehållshashning bygger på ett löfte. Liknande innehåll ska få en liknande hash, och olika innehåll ska få en annan hash. AI kan nu bryta det löftet med flit.

Att knäcka hashkoder är dock bara halva historien. Den andra halvan är ännu knepigare, eftersom AI inte bara undviker upptäckt. Den skapar också just det falska innehåll som detekteringssystem ska fånga.

AI förfalskar även innehåll

Det finns ett andra problem som läggs ovanpå det första. Generativa AI-verktyg kan nu skapa deepfakes och syntetiskt innehåll som ser helt äkta ut.

Under de senaste åren har dessa förfalskningar blivit mycket mer övertygande och mycket enklare att producera. Det som en gång krävde riktig skicklighet och dyra verktyg kan nu sättas ihop av nästan vem som helst med rätt programvara. Som ett resultat har mängden syntetiskt innehåll som cirkulerar online ökat snabbt, och vanliga människor kan ofta inte avgöra vad som är äkta och vad som har genererats.

För att motverka detta placerar vissa företag nu en dold vattenstämpel inuti AI-genererat innehåll så att det kan kännas igen senare. Idén är sund, men den är långt ifrån idiotsäker. En liten och nästan osynlig ändring i en fil kan i tysthet ta bort den vattenstämpeln medan innehållet fortfarande ser helt normalt ut, vilket innebär att en markör som är avsedd att bevisa äkthet helt enkelt kan försvinna.

Så vi har nu två sammankopplade problem. AI kan förfalska innehåll som ser äkta ut, och AI kan också undvika de system som är byggda för att fånga falskt eller skadligt innehåll. För säkerhetsteam är detta inte bara en forskningsnyfikenhet. Det är en verklig lucka i vardagliga verktyg som innehållsmodereringsfilter, varumärkesskyddsskannrar och system för bedrägeridetektering.

Det här är inte heller små, isolerade risker. När man väl sätter ihop dem skapar de ett mycket större affärsproblem, och det är precis vad säkerhetsteam behöver titta på härnäst.

Företagsrisken

Denna risk är inte begränsad till sociala medieplattformar. Den gäller i lika hög grad företag, av några tydliga skäl.

• Filintegritetskontroller kan luras om angripare hittar sätt att tvinga två olika filer att dela samma enkla hash, så kallad hashkollision.
• Verktyg för varumärkes- och innehållsskydd som förlitar sig på perceptuell hashing kan kringgås, vilket gör att stulet eller skadligt innehåll kan slinka förbi filter.
• Deepfake-röst- och videoklipp kan kringgå identitetskontroller som används inom bank, HR-introduktion och kundsupport.
• Digitala bevis och revisionsloggar som är beroende av hashing för bevis på äkthet blir svårare att lita på om själva hashingmetoden kan manipuleras.

Detta kopplar direkt till bredare farhågor som redan flaggats av NIST , som betonar att kryptografisk styrka ensam inte räcker om det omgivande systemet kan luras av smarta, AI-skapade indata.

Att känna till riskerna är en sak. Att veta vad man faktiskt ska göra åt dem är mer användbart, så låt oss titta på några praktiska steg härnäst.

Praktiska steg framåt

Saken är den att det här problemet inte är olösligt. Det behöver bara en flerskiktad metod istället för att förlita sig enbart på en hashkontroll.

• Förlita dig inte enbart på perceptuell hashing. Kombinera det med kryptografisk hashing, metadatakontroller och beteendebaserad detektion.
• Behandla AI-genererat innehåll som en normal del av din hotmodell, inte ett edge-fall. Bygg detekteringsregler som antar att angripare också kan använda AI.
• Lägg till stark identitetsverifiering, som multifaktorkontroller och liveness-detektering, för alla processer där en djupförfalskning kan orsaka verklig skada, till exempel banköverföringar eller lösenordsåterställningar.
• Håll dina hash- och detektionsmodeller uppdaterade. Gamla modeller som tränats på äldre deepfakes kommer att missa nyare, mer realistiska modeller.
• Använd kryptografisk signering tillsammans med hashing för allt som kräver starka bevis på äkthet, till exempel juridiska dokument eller finansiella register.

Inget av dessa steg behöver vara komplicerat. Grundtanken är enkel. Låt aldrig ett enda hashvärde vara den enda grindvakten mellan din organisation och manipulerat innehåll.

Även kryptografin som ligger bakom din hashning och signering idag, samma SHA-256 och metoder för publik nyckel som vi nämnde tidigare, kommer så småningom att möta en ny typ av press när kvantdatorer mognar. Att få dessa lager-på-lager-försvar just nu innebär också att börja förbereda sig för nästa skifte, och det är precis den typen av arbete där rätt säkerhetspartner kan hjälpa dig att ligga steget före.

Hur krypteringskonsulting kan hjälpa

När det gäller att agera utifrån allt ovanstående är grunden densamma – en tydlig, korrekt realtidsbild av din kryptografiska situation. Det är precis vad Encryption Consultings krypteringsrådgivningstjänster är byggda för att tillhandahålla.

Våra krypteringsrådgivningstjänster ger dig en oberoende bedömning av hur din organisation använder kryptografi. De hjälper dig också att se hur dina nycklar genereras, lagras och roteras, vilka algoritmer som används, var känsliga data är skyddade och var de inte är det, och hur allt detta överensstämmer med de standarder och deadlines som tas upp i den här bloggen. Utifrån den utgångspunkten hjälper vi dig att fastställa krypteringspolicyer, stärka nyckelhantering och styrning, täcka efterlevnadsluckor och prioritera det arbete som minskar risken snabbast.

Och när ni är redo att ta er an tidslinjen efter kvantumkrisen, utökar våra rådgivningstjänster efter kvantumkrisen samma arbete till en stegvis migreringsplan som är anpassad till CNSA 2.0 och NIST:s regelstandarder. Kontakta oss för att diskutera er krypteringsstrategi och er beredskap efter kvantumkrisen. Utforska hela vårt utbud av produkter och tjänster för att se hur vi kan hjälpa till att säkra er organisation.

Slutsats

Innehållshashning brukade vara en tyst och pålitlig bakgrundsprocess, men AI har ändrat på det. Perceptuella hashningar kan luras och vattenstämplar kan raderas. Deepfakes kan slinka förbi identitetskontroller. Inget av detta betyder att hashning är värdelös. Det betyder att hashning ensamt inte längre räcker.

Rätt drag är att behandla hashing som ett lager i ett större förtroendesystem, backat upp av stark kryptografi, bra nyckelhantering, identitetskontroller som antar att angripare också har AI-verktyg, och en tydlig plan för det post-kvantskifte som redan är på väg.

Om er organisation vill titta närmare på hur er nuvarande kryptografiska ställning står sig mot dessa nyare AI-drivna risker, är Encryption Consulting rätt plats att starta den diskussionen.