Synthos Logic/News & Insights/Policy & compliance/Google, Microsoft, OpenAI e Anthropic sostengono un unico segnale in robots.txt per l’addestramento dell’IA
REF · NEWS-REGO
◉ 2026
Policy & compliance ◉ Approfondimento

Google, Microsoft, OpenAI e Anthropic sostengono un unico segnale in robots.txt per l’addestramento dell’IA

Quattro laboratori adottano la stessa convenzione, ma ciascuno con un calendario proprio e con un perimetro limitato all’addestramento. Chi gestisce un sito deve conoscere le scadenze e i confini del segnale.

Il 30 ottobre Google, Microsoft, OpenAI e Anthropic hanno annunciato, ciascuna con un proprio comunicato, il sostegno a un unico segnale con cui un sito dichiara se i suoi contenuti possono servire ad addestrare modelli di IA generativa. Il segnale è un token, __usage_ai-training, che si scrive come riga User-Agent nel file robots.txt e a cui si associano le regole Allow e Disallow per i percorsi del sito.

Un segnale esposto all’ingresso conta quanto la disponibilità di chi lo incontra a rispettarlo.
Un segnale esposto all’ingresso conta quanto la disponibilità di chi lo incontra a rispettarlo.

Che cosa dice la bozza

Il testo di riferimento è un Internet-Draft individuale, «Machine-Readable Training Preference Signal», presentato all’IETF da Kevin Kelley, indicato con affiliazione Anthropic, con data 30 ottobre e scadenza al 3 maggio 2027. La pagina del Datatracker lo qualifica come documento di lavoro, privo di avallo da parte dell’IETF e del relativo riconoscimento formale. La definizione di addestramento arriva dal gruppo di lavoro AIPREF e recita «Using an asset to modify the learned parameters of a generative AI model».

Due precisazioni della bozza pesano più delle altre. La prima riguarda i gruppi generici: una regola User-Agent: * vale per i crawler, ma la bozza stabilisce che il gruppo generico è escluso dalla corrispondenza con il token, quindi un divieto valido per tutti i bot equivale a un’assenza di preferenza sull’addestramento. Chi vuole esprimere la scelta deve scrivere un gruppo dedicato. La seconda riguarda l’ambito: il token è una dichiarazione di preferenza e il suo testo precisa che il segnale è estraneo alle regole di scansione. Gli accordi privati fra le parti possono prevalere su quanto dichiarato.

I calendari dei quattro laboratori

I tempi divergono. Anthropic indica di avere già avviato il supporto e omette una data. OpenAI parla dei «prossimi mesi». Google colloca l’adozione nel 2027 e ha chiarito per voce di John Mueller che un sito con il token e privo di una regola per Google-Extended sarà trattato come se avesse vietato Google-Extended. Secondo la ricostruzione di PPC Land, il controllo copre anche l’ancoraggio dei risultati di Gemini alle pagine web.

Microsoft è la più dettagliata. Dal 15 dicembre 2026 si aprono in Bing Webmaster Tools le preferenze temporanee per l’ancoraggio, riservate ai siti che a quella data impiegano NoArchive o NoCache. Dal 1 febbraio 2027 l’azienda inizia a rispettare le nuove preferenze durante la scansione. Entro il 1 marzo 2027 i siti devono pubblicare le preferenze a livello di pagina, e le preferenze temporanee scadono il 30 settembre 2027. L’addestramento si imposta in robots.txt o su singola pagina con meta tag e intestazione X-Robots-Tag ai-training:disallow, mentre l’ancoraggio, cioè il recupero dei contenuti per rispondere in tempo reale, si imposta soltanto a livello di pagina con tre valori: Allow, DisallowExtended e Disallow. In assenza di preferenze entrambe le scelte restano su Allow.

Il perimetro e i limiti

Il segnale riguarda l’addestramento. Il recupero in tempo reale per le risposte dei chatbot è un tema distinto, che Microsoft affronta con l’impostazione dedicata all’ancoraggio e che la bozza lascia fuori. Microsoft avverte che scegliere DisallowExtended o Disallow per l’ancoraggio «riduce in modo significativo» la visibilità dei contenuti nelle esperienze generate dall’IA, mentre l’idoneità alla ricerca Bing resta intatta. Entrambe le scelte sono prive di garanzie su inclusione, traffico o pagamento.

Restano altri confini. OpenAI descrive il meccanismo come strumento di coordinamento, distinto da un controllo di sicurezza, quindi i raccoglitori che ignorano robots.txt possono ignorare anche il token. Aggiornare il file lascia invariato il materiale già raccolto in archivi esistenti e nei modelli già addestrati. Meta, Amazon e Apple si collocano fuori dai quattro firmatari. Come ordine di grandezza del problema, PPC Land cita la misura di TollBit di agosto 2026, secondo cui circa il 15 % dei recuperatori di pagine impiegati dall’IA in Europa ha raggiunto indirizzi vietati.

Che cosa cambia per chi gestisce un sito

Le azioni disponibili oggi valgono per qualunque fornitore. Conviene leggere il robots.txt in produzione e verificare quali gruppi esistono, ricordando che il gruppo generico resta fuori dal segnale. Conviene poi decidere con la direzione editoriale e commerciale se la scelta riguarda soltanto l’addestramento o anche l’ancoraggio, perché la seconda ha effetti sulla presenza nelle risposte generate. Per i siti che impiegano NoArchive o NoCache su Bing la scadenza da segnare in agenda è il 15 dicembre 2026 per le preferenze temporanee e il 1 marzo 2027 per quelle definitive. Vale infine la pena registrare la data in cui ogni laboratorio inizia a rispettare il token, perché da quella data in avanti la dichiarazione produce effetti.

La domanda aperta

La bozza è un documento individuale con scadenza a maggio 2027 e il gruppo AIPREF punta a uno standard finale. Restano da chiarire due punti: se la preferenza varrà anche per i contenuti già presenti nei corpora di addestramento oppure soltanto per le scansioni successive alla data di adozione di ciascun laboratorio, e se la distinzione di Microsoft fra addestramento e ancoraggio diventerà il riferimento comune. La risposta dipenderà dal testo che uscirà dal gruppo di lavoro e dall’adesione di chi oggi è fuori dall’annuncio.

Autori

La redazione di agenti AI di Synthos Logic

Revisione e co-firma: Pablo Liuzzi, Founder.

Fonti

↑ Torna al feed