Come funziona l'algoritmo di Instagram per riconoscere i contenuti

Instagram elabora oltre 100 milioni di caricamenti di foto e video ogni giorno. Ognuno attraversa una pipeline di rilevamento in più fasi prima di apparire in un feed.

Dal momento in cui premi «Condividi», ogni caricamento passa attraverso controlli dei metadati, hashing percettivo e analisi con deep learning. Questa pipeline stabilisce se il contenuto è originale, un duplicato, una violazione del copyright o spam.

La pipeline di caricamento: cosa succede appena pubblichi

Quando carichi una foto o un video su Instagram, il file non viene semplicemente memorizzato e mostrato. Entra in una pipeline di elaborazione che esegue più operazioni in parallelo, tutte nel giro di pochi secondi.

Per prima cosa, Instagram estrae e analizza i metadati del file. Comprendono dati EXIF (modello della fotocamera, coordinate GPS, data e ora, identificatore del dispositivo, versione del software) per le immagini e metadati del contenitore (codec, risoluzione, data di creazione, software di codifica) per i video. I file con metadati completi e coerenti provenienti da un dispositivo riconosciuto vengono considerati più probabilmente autentici. Quelli con metadati rimossi, campi incoerenti o firme di software di modifica vengono segnalati ai sistemi successivi per controlli più approfonditi.

Contemporaneamente, Instagram genera un hash percettivo del contenuto visivo. Questa impronta compatta viene confrontata con un enorme database di hash di contenuti già caricati, materiale noto protetto da copyright e contenuti segnalati o rimossi. Gli hash percettivi sono progettati per produrre risultati simili per immagini visivamente simili, quindi modifiche semplici come ritagli, variazioni di compressione o regolazioni dei colori non impediscono una corrispondenza.

In parallelo all'hashing, l'immagine o il video viene ridimensionato a 224x224 pixel e passato al modello di rilevamento delle copie di Instagram basato sul deep learning. Questo modello, SSCD di Meta, genera un vettore di embedding a 512 dimensioni che cattura l'identità visiva semantica del contenuto. L'embedding viene memorizzato e confrontato con il database degli embedding noti.

Se il contenuto appartiene a un titolare di diritti iscritto a Rights Manager, viene eseguito un controllo separato su quel database. Tutte queste operazioni avvengono nei primi secondi dopo il caricamento, prima che il contenuto venga mostrato a chiunque.

SSCD: il modello Self-Supervised Copy Detection di Meta

SSCD è il componente più importante della pipeline di rilevamento di Instagram e merita di essere compreso nel dettaglio. A differenza dell'hashing percettivo, che opera su schemi superficiali dei pixel, SSCD è una rete neurale profonda che comprende il significato visivo di un'immagine.

Architettura

SSCD si basa su ResNet50, una rete neurale convoluzionale profonda a 50 livelli. Riceve un'immagine ridimensionata a 224x224 pixel e produce un vettore di embedding a 512 dimensioni con normalizzazione L2. Questo vettore è essenzialmente una rappresentazione matematica compatta del contenuto visivo dell'immagine e ne cattura forme, texture, relazioni spaziali e struttura semantica.

Come funziona il confronto

Per stabilire se due immagini sono copie, Instagram calcola la similarità coseno tra i loro vettori di embedding. La similarità coseno misura l'angolo tra due vettori in uno spazio a 512 dimensioni: un valore di 1.0 significa che sono identici, 0.0 che sono ortogonali (completamente scollegati) e -1.0 che puntano in direzioni opposte. Nel benchmark DISC2021 di Meta, una soglia di similarità coseno di circa 0.75 raggiunge una precisione del 90%: quando il sistema dice che due immagini sono copie, ha ragione nel 90% dei casi.

Perché è così difficile ingannarlo

SSCD è stato addestrato con un approccio auto-supervisionato su milioni di coppie di immagini che includono ritagli, rotazioni, cambiamenti di colore, sovrapposizioni, compressione e altre trasformazioni. Il modello ha imparato a rimanere invariato rispetto a tutte queste modifiche superficiali. Applicare un filtro Instagram, ritagliare l'immagine, aggiungere un bordo, specchiarla o ricodificarla a una qualità diversa sposta appena il vettore di embedding. La similarità coseno tra l'originale e la versione modificata resta in genere sopra 0.9, ben oltre la soglia di rilevamento di 0.75.

Ricerca pubblica, modello accessibile

SSCD è ricerca pubblicata. Meta ha rilasciato l'architettura del modello, il metodo di addestramento e persino i pesi preaddestrati. Il modello esatto che Instagram usa per rilevare le copie è disponibile pubblicamente, quindi può essere studiato dall'interno.

In termini di sicurezza, significa che un attaccante può studiare l'interno del modello, calcolarne i gradienti e creare input progettati appositamente per ingannarlo. È un approccio radicalmente diverso dal tentare di superare un sistema opaco per prove ed errori.

Rights Manager: il Content ID di Instagram

Rights Manager è il sistema proprietario di Meta per la protezione dei contenuti, analogo a Content ID di YouTube. Opera come un livello separato sopra la pipeline generale di rilevamento delle copie.

Come lo usano i titolari dei diritti

Creator, editori, aziende del settore media e brand possono registrare i contenuti originali in Rights Manager. Il sistema genera impronte visive e audio dei contenuti registrati e le memorizza in un database di riferimento dedicato. Quando vengono caricati nuovi contenuti su Instagram o Facebook, vengono controllati su questo database oltre che dalla pipeline generale SSCD.

Corrispondenze e interventi

Quando Rights Manager trova una corrispondenza, applica l'azione configurata dal titolare dei diritti. Le opzioni includono il solo monitoraggio (tracciare dove compare il contenuto), la rimozione automatica o il blocco (impedire il completamento del caricamento). I titolari possono impostare regole diverse per diversi tipi di corrispondenza, per esempio consentire clip brevi ma bloccare i repost integrali.

Impronte visive e audio

Rights Manager usa sia impronte visive (simili a SSCD, ma potenzialmente con ulteriori funzioni proprietarie) sia impronte audio per i video. Quindi, anche modificando la parte visiva di un video, una traccia audio corrispondente può comunque attivare una corrispondenza in Rights Manager. Questo doppio approccio lo rende particolarmente efficace contro i repost di video con audio invariato.

Segnali comportamentali: oltre il contenuto

Il rilevamento di Instagram non si limita all'analisi dei singoli caricamenti. La piattaforma monitora anche schemi comportamentali che indicano se un account probabilmente pratica repost di massa o spam.

Frequenza dei caricamenti

Pubblicare un numero insolitamente alto di foto o video in poco tempo attiva il rilevamento basato sulla frequenza. Gli account che passano improvvisamente da un post al giorno a dieci vengono segnalati per una verifica. Non comporta necessariamente la rimozione, ma aumenta la sensibilità degli altri livelli di rilevamento: i contenuti di chi carica molto spesso possono essere controllati in modo più aggressivo.

Età e cronologia dell'account

I nuovi account che iniziano subito a pubblicare grandi quantità di contenuti vengono considerati più sospetti degli account consolidati con una lunga storia di contenuti originali. Instagram mantiene un punteggio di affidabilità per ogni account, che influisce sull'aggressività con cui i sistemi automatici valutano i suoi caricamenti.

Velocità delle interazioni

Schemi di interazione innaturali, come ricevere centinaia di Mi piace pochi secondi dopo la pubblicazione o ottenere interazioni soprattutto da account con caratteristiche sospette simili, possono attivare controlli aggiuntivi. Riguarda più il rilevamento dei bot che il riconoscimento dei contenuti, ma contribuisce al profilo di rischio complessivo dell'account.

Analisi degli hashtag

Instagram monitora l'uso degli hashtag alla ricerca di schemi associati a spam o reti di repost. Usare lo stesso insieme di hashtag molto popolari in numerosi post, o hashtag spesso associati a contenuti segnalati, può aumentare il punteggio di rischio dell'account. Gli hashtag vietati o limitati possono causare una riduzione immediata della copertura.

Cosa attiva ciascun intervento

Non tutti i segnali di rilevamento hanno le stesse conseguenze. Instagram applica un sistema di risposta graduale in base al tipo e alla gravità della corrispondenza.

Shadowban (riduzione della copertura)

L'intervento più comune e meno visibile. Instagram riduce la distribuzione dei tuoi contenuti senza avvisarti. I post compaiono ancora sul profilo, ma non nella pagina Esplora né nelle ricerche per hashtag e ricevono molta meno distribuzione algoritmica. Gli shadowban sono generalmente attivati da segnali comportamentali (pubblicare troppo spesso, usare hashtag segnalati) o da corrispondenze di contenuto con bassa affidabilità che non raggiungono la soglia per la rimozione. Possono durare da pochi giorni a diverse settimane.

Rimozione dei contenuti

Quando viene trovata una corrispondenza di contenuto con alta affidabilità, tramite similarità SSCD sopra la soglia o una corrispondenza di Rights Manager, il contenuto viene rimosso dalla piattaforma. Chi lo ha caricato riceve in genere una notifica con il motivo (violazione del copyright o delle linee guida della community). Un contenuto rimosso può comportare un avvertimento a carico dell'account.

Sospensione dell'account

Le violazioni ripetute portano alla sospensione temporanea o permanente dell'account. Instagram usa un sistema di avvertimenti in cui troppe rimozioni di contenuti in un dato periodo comportano penalizzazioni crescenti: prima un avviso, poi limitazioni temporanee alla pubblicazione, quindi una sospensione temporanea e infine un blocco permanente. Le soglie esatte non sono documentate pubblicamente, ma gli account con più avvertimenti per copyright nell'arco di 90 giorni corrono un rischio elevato di sospensione permanente.

Limitazione degli hashtag

Oltre agli interventi sull'account, Instagram può limitare hashtag specifici associati a repost di massa o contenuti protetti da copyright. Quando un hashtag viene limitato, i post che lo usano ricevono una copertura drasticamente ridotta e l'hashtag potrebbe non apparire nei risultati di ricerca. È un intervento sulla piattaforma anziché su un singolo account, ma colpisce direttamente chiunque usi quegli hashtag.

Come MetaGhost supera il rilevamento di Instagram

Comprendere la pipeline di rilevamento di Instagram chiarisce perché le modifiche superficiali falliscono: SSCD è stato addestrato appositamente per rimanere invariato rispetto a ritagli, filtri, bordi, specchiature e ricodifica. Nessuna quantità di modifiche visive porterà la similarità coseno sotto la soglia di 0.75 preservando l'aspetto del contenuto.

MetaGhost adotta un approccio radicalmente diverso. Poiché SSCD è ricerca pubblicata con pesi del modello disponibili al pubblico, MetaGhost esegue esattamente lo stesso modello in locale sul tuo dispositivo. Usa questo accesso interno per calcolare gradienti matematici, ossia la direzione precisa in cui modificare i valori dei pixel per allontanare l'embedding SSCD dall'originale.

Attraverso un'ottimizzazione iterativa basata sul gradiente (Projected Gradient Descent), MetaGhost applica all'immagine perturbazioni calcolate con cura, invisibili all'occhio umano ma capaci di alterare radicalmente l'embedding a 512 dimensioni prodotto da SSCD. Il risultato è un'immagine che appare identica all'originale, ma la cui similarità coseno rispetto a esso scende ben al di sotto della soglia di rilevamento di Instagram.

A questo si aggiungono l'inserimento di metadati autentici (così il file sembra appena acquisito da un dispositivo reale) e la modifica dell'impronta a livello di pixel (per superare l'hashing percettivo). Insieme, questi tre livelli affrontano contemporaneamente ogni fase della pipeline di caricamento di Instagram.

L'approccio funziona perché prende di mira il modello effettivamente usato da Instagram, con la metrica che Instagram misura e il quadro matematico a cui il modello è vulnerabile. Non è un espediente o un trucco: è un superamento diretto a livello di modello. Per istruzioni passo per passo su come metterlo in pratica, consulta la guida su come ripubblicare su Instagram senza essere bloccati.

Vuoi pubblicare su Instagram senza preoccuparti del rilevamento? Inizia con MetaGhost e rendi unico ogni caricamento a livello di algoritmo.