Pangram raccoglie 9 milioni di dollari e lancia nuovi strumenti per il rilevamento di contenuti AI

La startup newyorkese Pangram ha recentemente chiuso un round di finanziamento da 9 milioni di dollari, guidato da Menlo Ventures e supportato da Haystack, ScOp, Script Capital e Cadenza. Contestualmente, l’azienda ha lanciato il suo nuovo modello di rilevamento testuale, Pangram 4, insieme a un innovativo rilevatore di immagini, Pangram Image.

Fondata due anni fa da Max Spero e Bradley Emi, Pangram si propone di offrire strumenti avanzati per distinguere i contenuti generati o assistiti dall’intelligenza artificiale da quelli scritti interamente da esseri umani. Questo sviluppo arriva in un momento in cui la diffusione di testi e immagini generati da AI ha sollevato preoccupazioni riguardo all’uso improprio di tali tecnologie, con potenziali conseguenze reputazionali e disciplinari.

Pangram sostiene che il suo nuovo modello testuale supera il 99% di accuratezza nell’individuare scritti assistiti da AI e contenuti misti umano-AI. Inoltre, è in grado di rilevare più facilmente i programmi di “humanizer”. Attualmente, il rilevatore di immagini è disponibile in anteprima per la ricerca, con un rilascio più ampio previsto nelle prossime settimane.

La tecnologia sviluppata da Pangram si basa su un modello di machine learning addestrato su decine di milioni di documenti umani e su “specchi sintetici” generati da modelli linguistici di ultima generazione. Questo approccio consente al sistema di apprendere le differenze stilistiche e le scelte ricorrenti degli algoritmi, senza fare affidamento su metadati o watermark nascosti.

Un altro obiettivo di Pangram è quello di distinguere i vari livelli di assistenza forniti dall’AI, riconoscendo interventi di editing o pulizia del testo. L’azienda sostiene che l’uso dell’AI può essere accettabile se dichiarato dall’autore. Tra le funzionalità offerte agli utenti, si segnala un abbonamento web a 20 dollari al mese, un’estensione per Chrome che etichetta in tempo reale i post su piattaforme come X, LinkedIn, Substack, Reddit e Medium, e un “feed health score” che indica la percentuale di contenuti umani rispetto a quelli generati da AI.

La tecnologia di Pangram è disponibile anche tramite API e risulta già integrata su alcune piattaforme, tra cui Substack. Altri clienti API includono Quora, istituzioni accademiche, editori, agenti e società di recruiting. Tuttavia, il mercato vede la presenza di altri operatori attivi, come Winston AI, Originality.ai, Copyleaks e GPTZero.

I test interni e le prove pratiche hanno mostrato prestazioni solide, sebbene non perfette: Pangram riporta un tasso di falsi positivi di circa 1 su 10.000 documenti umani. Durante i test, il modello ha dimostrato di essere in grado di identificare articoli scritti interamente da AI e ha resistito a tentativi di elusione tramite editing. Tuttavia, ha anche segnalato come AI alcune frasi riscritte da umani e, in alcuni casi, ha classificato erroneamente delle immagini.

Max Spero ha sottolineato l’importanza di sviluppare un meccanismo per contrastare la diffusione di contenuti AI di bassa qualità, evitando però che la tecnologia venga utilizzata come strumento di caccia alle streghe.