Pangram raccoglie 9 milioni di dollari e lancia strumenti innovativi per il rilevamento di contenuti AI

La startup newyorkese Pangram ha recentemente annunciato di aver chiuso un round di finanziamento da 9 milioni di dollari, guidato da Menlo Ventures, con la partecipazione di Haystack, ScOp, Script Capital e Cadenza. Contestualmente, l’azienda ha presentato il suo nuovo modello di rilevamento testuale, Pangram 4, e un innovativo rilevatore di immagini, Pangram Image.

Fondata due anni fa da Max Spero e Bradley Emi, Pangram si propone di sviluppare strumenti in grado di distinguere i contenuti generati o assistiti dall’intelligenza artificiale da quelli scritti interamente da esseri umani. Questo è particolarmente rilevante in un contesto in cui la diffusione di testi e immagini AI ha sollevato preoccupazioni riguardo all’uso improprio di tali contenuti, con potenziali conseguenze reputazionali e disciplinari.

Secondo Pangram, il nuovo modello testuale offre un’accuratezza superiore al 99% nell’individuare scritti assistiti da AI e contenuti misti umano-AI. Inoltre, è progettato per rilevare più facilmente i programmi di “humanizer”, che cercano di mascherare l’origine artificiale dei testi. Il rilevatore di immagini, attualmente disponibile in anteprima per la ricerca, sarà rilasciato in modo più ampio nelle prossime settimane.

La tecnologia di Pangram si basa su un modello di machine learning addestrato su decine di milioni di documenti umani e su “specchi sintetici” generati da modelli di linguaggio di ultima generazione. Questo approccio consente di apprendere le differenze stilistiche e le scelte ricorrenti degli algoritmi, senza fare affidamento su metadati o watermark nascosti.

Pangram si propone anche di distinguere i diversi livelli di assistenza AI, riconoscendo interventi di editing o pulizia del testo. L’azienda sostiene che l’uso dell’AI può essere accettabile, a patto che venga dichiarato dall’autore. Tra le funzionalità offerte agli utenti, vi è un abbonamento web a 20 dollari al mese, un’estensione Chrome che etichetta in tempo reale i post su piattaforme come X, LinkedIn, Substack, Reddit e Medium, e un “feed health score” che fornisce la percentuale di contenuti umani rispetto a quelli generati da AI.

La tecnologia di Pangram è disponibile anche tramite API e risulta integrata su diverse piattaforme, inclusa Substack. Tra i clienti API citati figurano Quora, istituzioni accademiche, editori, agenti e società di recruiting. Tuttavia, il mercato del rilevamento di contenuti AI è competitivo, con altri operatori attivi come Winston AI, Originality.ai, Copyleaks e GPTZero.

I test interni e le prove pratiche hanno mostrato prestazioni solide, ma non perfette: Pangram riporta un tasso di falsi positivi di circa 1 su 10.000 documenti umani. In alcuni test, il modello ha identificato correttamente articoli scritti interamente da AI e ha resistito a tentativi di elusione tramite editing. Tuttavia, ha anche segnalato come AI alcune frasi riscritte da umani e, in alcuni casi, ha classificato erroneamente delle immagini.

Max Spero ha sottolineato l’importanza di avere un meccanismo per contrastare la diffusione di contenuti AI di bassa qualità, avvertendo però di non trasformare la tecnologia in uno strumento di caccia alle streghe.